Die Europäische Kommission -

gestützt auf den Vertrag über die Arbeitsweise der Europäischen Union,

in Erwägung nachstehender Gründe:

(1) Künstliche Intelligenz (KI) bezeichnet eine Reihe von Technologien, die sich rasant entwickeln und zu vielfältigem Nutzen für Wirtschaft und Gesellschaft über das gesamte Spektrum industrieller und gesellschaftlicher Aktivitäten hinweg beitragen können. Gleichzeitig kann KI je nach den Umständen ihrer konkreten Anwendung und Nutzung Risiken mit sich bringen und öffentliche Interessen und Grundrechte schädigen, die durch das Unionsrecht geschützt sind.

(2) Die Kommission hat eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union vorgeschlagen ¹, um die Entwicklung, Verwendung und Verbreitung künstlicher Intelligenz im Binnenmarkt zu fördern und gleichzeitig einen hohen Schutz öffentlicher Interessen wie Gesundheit und Sicherheit und den Schutz der durch das Unionsrecht anerkannten und geschützten Grundrechte zu gewährleisten. Die vorgeschlagene Verordnung ist eine von mehreren Maßnahmen der Kommission, um einerseits die Nutzung von KI zu fördern und andererseits die mit bestimmten Anwendungen dieser Technologie verbundenen Risiken einzudämmen. Weitere Maßnahmen sind der "koordinierte Plan für künstliche Intelligenz" in seiner überarbeiteten Fassung aus dem Jahr 2021 ² sowie Initiativen für sektorale Strategien zur Förderung der Verbreitung von KI oder für Finanzierungsprogramme der Union, wie sie mit den Verordnungen (EU) 2021/694 ³ und (EU) 2021/695 ⁴ des Europäischen Parlaments und des Rates eingerichtet wurden.

(3) Die Komplexität und die zunehmende Verbreitung von KI, insbesondere wenn sie auf den fortgeschrittensten Modellen beruht, und die Notwendigkeit, schneller Fortschritte bei der Verwirklichung der Ziele und Vorgaben des mit dem Beschluss (EU) 2022/2481 des Europäischen Parlaments und des Rates ⁵ aufgestellten Politikprogramms für die digitale Dekade zu erzielen, zeigen, dass zusätzliche Maßnahmen erforderlich sind, um unser Verständnis der Fähigkeiten, Trends und potenziellen Risiken zu fördern und die sichere Entwicklung und Nutzung von KI-Technik in der Union zu unterstützen.

(4) Es ist notwendig, Fachwissen und Fähigkeiten auf Unionsebene zu entwickeln, um ein solches Verständnis zu fördern, zur Durchführung und Durchsetzung der künftigen Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz sowie zur Umsetzung internationaler Vorschriften und Grundsätze für KI, wie des Verhaltenskodex und der Leitprinzipien für Entwickler fortgeschrittener KI-Systeme der G7, beizutragen.

(5) Vor diesem Hintergrund sollten die Grundlagen für ein einheitliches Governance-System für KI in der Union gelegt werden, indem eine Struktur geschaffen wird, die der Überwachung der Fortschritte bei Modellen künstlicher Intelligenz - auch in Bezug auf KI-Modelle mit allgemeinem Verwendungszweck - dient, das Zusammenwirken mit der Wissenschaftsgemeinschaft erleichtert und eine Schlüsselrolle bei Untersuchungen und Tests wie auch bei der Durchsetzung spielen und eine globale Ausrichtung haben sollte.

(6) Daher sollte innerhalb der Kommission ein Europäisches Amt für Künstliche Intelligenz eingerichtet werden, das Teil der Verwaltungsstruktur der Generaldirektion Kommunikationsnetze, Inhalte und Technologien ist und ihrem jährlichen Managementplan unterliegt.

(7) Das Europäische Amt für Künstliche Intelligenz sollte im Einklang mit den internen Verfahren der Kommission arbeiten ⁶, und seine Einrichtung sollte die Befugnisse und Zuständigkeiten der zuständigen nationalen Behörden sowie der Organe, Einrichtungen und sonstigen Stellen der Union bei der Überwachung von KI-Systemen gemäß der künftigen Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und anderen sektorspezifischen Rechtsvorschriften der Union unberührt lassen. Unberührt bleiben auch die Aufgaben anderer Kommissionsdienststellen in ihren jeweiligen Zuständigkeitsbereichen und des Europäischen Auswärtigen Dienstes im Bereich der Gemeinsamen Außen- und Sicherheitspolitik. Das Europäische Amt für Künstliche Intelligenz sollte seine Aufgaben, insbesondere die Herausgabe von Leitlinien, so wahrnehmen, dass sie sich nicht mit den Tätigkeiten der einschlägigen Organe, Einrichtungen und sonstigen Stellen der Union im Rahmen sektorspezifischer Rechtsvorschriften überschneiden.

(8) Damit die Vorbereitungen für die Durchführung der künftigen Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz so bald wie möglich beginnen können, sollte dieser Beschluss nach der am 8. Dezember 2023 erzielten politischen Einigung der beiden gesetzgebenden Organe umgehend noch vor der Annahme der genannten Verordnung in Kraft treten. Sobald die Verordnung angenommen worden ist, kann dieser Beschluss überarbeitet werden

beschließt:

Artikel 1 Einrichtung

Das "Europäische Amt für Künstliche Intelligenz" (im Folgenden "Amt") wird eingerichtet.

Das Amt ist Teil der Verwaltungsstruktur der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (im Folgenden "Generaldirektion").

Artikel 2 Auftrag und Aufgaben

(1) Das Amt nimmt für die Zwecke der Durchführung und Durchsetzung der künftigen Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (im Folgenden "künftige Verordnung") die in Artikel 3 genannten Aufgaben wahr.

(2) Das Amt hat folgende zusätzliche Aufgaben:

1. Beitrag zu dem strategischen, kohärenten und wirksamen Herangehen der Union an internationale KI-Initiativen gemäß Artikel 7 in Abstimmung mit den Mitgliedstaaten und im Einklang mit den Standpunkten und Strategien der Union;
2. Beitrag zur Förderung von Maßnahmen und Strategien in der Kommission, die die gesellschaftlichen und wirtschaftlichen Vorteile von KI-Technik gemäß Artikel 5 nutzbar machen;
3. Unterstützung der beschleunigten Entwicklung, Einführung und Verwendung vertrauenswürdiger KI-Systeme und -Anwendungen, die gesellschaftlichen und wirtschaftlichen Nutzen bringen und zur Wettbewerbsfähigkeit und zum Wirtschaftswachstum in der Union beitragen. Insbesondere fördert das Amt Innovationsökosysteme, indem es mit einschlägigen öffentlichen und privaten Akteuren und der Start-up-Gemeinschaft zusammenarbeitet;
4. Beobachtung der Entwicklung der KI-Märkte und -Technologien.

(3) Bei der Wahrnehmung der in den Absätzen 1 und 2 genannten Aufgaben sucht das Amt die

1. Zusammenarbeit mit Interessenträgern, insbesondere Sachverständigen aus der Wissenschaft und KI-Entwicklern, gemäß Artikel 4;
2. Zusammenarbeit mit den einschlägigen Generaldirektionen und Dienststellen der Kommission gemäß Artikel 5;
3. Zusammenarbeit mit allen einschlägigen Organen, Einrichtungen und sonstigen Stellen der Union, einschließlich des Gemeinsamen Unternehmens für europäisches Hochleistungsrechnen (GU EuroHPC), gemäß Artikel 6;
4. Zusammenarbeit mit Behörden und sonstigen Einrichtungen der Mitgliedstaaten im Namen der Kommission.

Artikel 3 Durchführung der künftigen Verordnung

(1) Das Amt nimmt folgende Aufgaben wahr, die sich aus der künftigen Verordnung ergeben:

1. Entwicklung von Instrumenten, Methoden und Vergleichsmaßstäben für die Bewertung der Fähigkeiten von KI-Modellen mit allgemeinem Verwendungszweck, insbesondere von sehr großen KI-Modellen mit allgemeinem Verwendungszweck, die systemische Risiken bergen;
2. Beobachtung der Umsetzung und Anwendung von Vorschriften für KI-Modelle und -Systeme mit allgemeinem Verwendungszweck, insbesondere wenn Modell und System von demselben Anbieter entwickelt werden;
3. Beobachtung des Auftretens unvorhergesehener Risiken, die sich aus KI-Modellen mit allgemeinem Verwendungszweck ergeben, unter anderem durch das Eingehen auf Warnungen des wissenschaftlichen Gremiums;
4. Untersuchung möglicher Verstöße gegen Vorschriften für KI-Modelle und -Systeme mit allgemeinem Verwendungszweck, unter anderem durch die Sammlung von Beschwerden und Warnungen, und Unterstützung der Vorbereitung von Beschlüssen der Kommission und der Durchführung von Bewertungen gemäß der künftigen Verordnung;
5. Gewährleistung, dass bei KI-Systemen, die in den Anwendungsbereich einschlägiger Rechtsvorschriften der Union fallen, auf deren Grundlage die die Kommission über Überwachungs- und Durchsetzungsbefugnisse verfügt, etwa der Verordnung (EU) 2022/2065 des Europäischen Parlaments und des Rates ⁷ oder der Verordnung (EU) 2022/1925 des Europäischen Parlaments und des Rates ⁸, die Überwachung und Durchsetzung dieser Rechtsvorschriften vollständig mit der Überwachung und Durchsetzung der künftigen Verordnung koordiniert wird;
6. Unterstützung der Umsetzung von Vorschriften in Bezug auf verbotene KI-Praktiken und Hochrisiko-KI-Systeme in Abstimmung mit den einschlägigen Stellen, die nach den sektorspezifischen Rechtsvorschriften dafür zuständig sind, einschließlich der Erleichterung des Informationsaustauschs und der Zusammenarbeit zwischen nationalen Behörden, der Sammlung von Meldungen und der Einrichtung von Informationsplattformen und Datenbanken, insbesondere wenn ein KI-Modell oder -System mit allgemeinem Verwendungszweck in ein Hochrisiko-KI-System integriert ist.

(2) Im Hinblick auf die wirksame Durchführung der künftigen Verordnung wird das Amt darüber hinaus beauftragt,

1. die Kommission bei der Ausarbeitung einschlägiger Kommissionsbeschlüsse sowie von Durchführungsrechtsakten und delegierten Rechtsakten zu unterstützen;
2. die einheitliche Anwendung der künftigen Verordnung zu erleichtern;
3. der Kommission bei der Ausarbeitung von Orientierungshilfen und Leitlinien zur Unterstützung der praktischen Durchführung der künftigen Verordnung sowie bei der Entwicklung unterstützender Instrumente wie standardisierter Protokolle und bewährter Verfahren in Absprache mit den einschlägigen Dienststellen der Kommission und den Organen, Einrichtungen und sonstigen Stellen der Union zu helfen;
4. die Kommission bei der Ausarbeitung von Normungsaufträgen, der Bewertung bestehender Normen und der Ausarbeitung gemeinsamer Spezifikationen für die Durchführung der künftigen Verordnung zu unterstützen;
5. zur Bereitstellung von technischer Unterstützung, Beratung und Instrumenten für die Einrichtung und den Betrieb von KI-Reallaboren und gegebenenfalls zur Koordinierung mit den zuständigen nationalen Behörden, die solche Reallabore einrichten, beizutragen;
6. Bewertungen und Überprüfungen durchzuführen sowie Berichte im Zusammenhang mit der künftigen Verordnung auszuarbeiten;
7. die Einrichtung eines wirksamen Governance-Systems zu koordinieren, unter anderem durch Vorbereitung der Einsetzung von Beratungsgremien auf Unionsebene, sowie den Aufbau einschlägiger nationaler Behörden und sonstiger Stellen auf nationaler Ebene zu überwachen;
8. das Sekretariat für den KI-Ausschuss und seine Untergruppen sowie administrative Unterstützung für das Beratungsforum und gegebenenfalls das wissenschaftliche Gremium bereitzustellen, unter anderem durch die Bereitstellung der Verwaltungsstruktur, die Organisation von Sitzungen und die Ausarbeitung einschlägiger Dokumente;
9. die Ausarbeitung von praktischen Verfahrensregeln und Verhaltenskodizes auf Unionsebene unter Berücksichtigung internationaler Ansätze zu fördern und zu erleichtern sowie die Umsetzung und Bewertung solcher praktischer Verfahrensregeln zu überwachen.

Artikel 4 Zusammenarbeit mit Interessenträgern

(1) Bei der Wahrnehmung seiner Aufgaben gemäß Artikel 3 arbeitet das Amt im Einklang mit dem geltenden Wettbewerbsrecht mit Interessenträgern zusammen, indem es

1. Foren für die Zusammenarbeit der Anbieter von KI-Modellen und -Systemen einrichtet, um bewährte Verfahren voranzubringen und zur Entwicklung von praktischen Verfahrensregeln und Verhaltenskodizes beizutragen;
2. regelmäßige Konsultation von Interessenträgern, einschließlich Sachverständigen aus der Wissenschaft und dem Bildungssektor, Bürgerinnen und Bürgern, der Zivilgesellschaft und gegebenenfalls der Sozialpartner durchführt, um Beiträge für die Wahrnehmung seiner Aufgaben gemäß Artikel 3 Absatz 2 zu sammeln;
3. ein Forum für die Zusammenarbeit mit der Open-Source-Gemeinschaft einrichtet, um bewährte Verfahren für die sichere Entwicklung und Nutzung quelloffener KI-Modelle und -Systeme zu bestimmen und zu entwickeln.

Artikel 5 Sektorübergreifende Zusammenarbeit in der Kommission

(1) Das Amt trägt zur Förderung von Maßnahmen und Strategien bei, die die gesellschaftlichen und industriellen Vorteile von KI-Technik nutzbar machen.

(2) Insbesondere gewährleistet das Amt Folgendes:

1. Zusammenarbeit mit anderen einschlägigen Generaldirektionen und Dienststellen der Kommission bei der Wahrnehmung ihrer Aufgaben gemäß Artikel 2, insbesondere mit dem Europäischen Zentrum für die Transparenz der Algorithmen in Bezug auf die Bewertung und Erprobung von KI-Modellen und -Systemen mit allgemeinem Verwendungszweck;
2. Unterstützung anderer einschlägiger Generaldirektionen und Dienststellen der Kommission, um die Nutzung von KI-Modellen und -Systemen als transformative Instrumente in den einschlägigen Bereichen der Unionspolitik zu erleichtern und das Bewusstsein für neu auftretende Risiken zu schärfen.

Artikel 6 Interinstitutionelle Zusammenarbeit

Bei der Wahrnehmung seiner Aufgaben gemäß Artikel 3 richtet das Amt geeignete Formen der Zusammenarbeit mit Organen, Einrichtungen und sonstigen Stellen der Union ein.

Artikel 7 Internationale Zusammenarbeit

(1) Das Amt leistet einen Beitrag zur internationalen Zusammenarbeit der Kommission im Bereich der KI, einschließlich der Innovations- und Exzellenzpolitik, mit Drittländern und internationalen Organisationen, insbesondere indem es

1. sich für eine verantwortungsvolle Steuerung der KI einsetzt und den Ansatz der Union für vertrauenswürdige KI fördert;
2. zur internationalen Zusammenarbeit im Zusammenhang mit der KI-Regulierung und -Governance beiträgt;
3. zur Umsetzung internationaler Abkommen über KI-Vorschriften beiträgt, unter anderem auch durch Unterstützung der Mitgliedstaaten.

Artikel 8 Finanzierung

(1) Der Personalbedarf bezüglich der beim Amt tätigen Beamten wird durch die der Verwaltung der Maßnahme bereits zugeordnetes Personal der Generaldirektion oder durch Personalumschichtung innerhalb der Generaldirektion nach Maßgabe der verfügbaren Mittel gedeckt; dies gilt unbeschadet des Verfahrens der jährlichen Mittelzuweisung.

(2) Die Personalkosten für das beim Amt tätige externe Statutspersonal werden durch eine Umschichtung von Haushaltsmitteln aus den Verwaltungs- und Unterstützungsausgaben des Programms Digitales Europa gedeckt.

(3) Die operativen Ausgaben des Amtes werden durch die dem spezifischen Ziel 2 "Künstliche Intelligenz" des Programms Digitales Europa zugewiesenen Finanzmittel gedeckt.

Artikel 9 Inkrafttreten

Dieser Beschluss tritt am 21. Februar 2024 in Kraft.

Brüssel, den 24. Januar 2024

ENDE