Antrag des Landes Rheinland-Pfalz
Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen

Die Ministerpräsidentin des Landes Rheinland-Pfalz Mainz, 3. März 2020

An den Präsidenten des Bundesrates
Herrn Ministerpräsidenten
Dr. Dietmar Woidke

Sehr geehrter Herr Präsident,
die Landesregierung Rheinland-Pfalz hat beschlossen, dem Bundesrat die als Anlage beigefügte Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen zuzuleiten.

Ich bitte Sie, die Vorlage gemäß § 36 Absatz 2 der Geschäftsordnung des Bundesrates in die Tagesordnung der 986. Sitzung des Bundesrates am 13. März 2020 aufzunehmen und anschließend den Ausschüssen zur Beratung zuzuweisen.

Mit freundlichen Grüßen
Malu Dreyer

Entschließung des Bundesrates: Digitale Souveränität bei Algorithmen in Europa stärken - Marktortprinzip einführen

Begründung (nur gegenüber dem Plenum):

Zu Ziffer 1:

Der "europäische Weg" im globalen Wettlauf um Zukunftstechnologien wie der KI zeichnet sich aus durch eine Ausrichtung an der Charta der Grundrechte der Europäischen Union und der Konvention zum Schutz der Menschenrechte und Grundfreiheiten des Europarats (vertrauenswürdige KI/trusted AI) .

Zu Ziffer 2:

Die Datenethikkommission hatte den Auftrag, ethische Leitlinien für den Schutz der Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung des Wohlstands im Informationszeitalter zu entwickeln. Die Datenethikkommission stellt unter anderem fest, dass nicht alle Datennutzungen ethisch vertretbar sind und regt neben Ideen für Innovationen auch Maßnahmen zum Schutz natürlicher und juristischer Personen an. Es gilt nun zu prüfen, wie der Abschlussbericht vom 23. Oktober 2019 in die Praxis umgesetzt werden kann.

Zu Ziffer 3:

Kern der Empfehlungen der DEK ist ein risikoabhängiges Regulierungsregime für algorithmische Systeme mit fünf Risikostufen, deren Regulierungstiefe sich am Schädigungspotenzial der Algorithmen orientiert.

Zu Ziffer 4:

Die Datenethikkommission empfiehlt eine EU-Verordnung für Algorithmische Systeme und eine teilweise Stärkung der Aufsicht in den Mitgliedstaaten. Das vorgeschlagene Marktortprinzip nach dem Vorbild der Datenschutzgrundverordnung (Art. 3 Abs. 2 DSGVO) würde dazu führen, dass die Verordnung auch für Unternehmen mit Sitz außerhalb der EU gilt, die hier ihre Dienste anbieten. Dies stärkt die digitale Souveränität Deutschlands und der EU.

Zu Ziffer 5:

Während manche algorithmischen Systeme mit keinen oder nur wenig Risiken verbunden sind, gibt es auch sehr grundrechtssensible Systeme, z.B. mit Gesichtserkennung verbundene Systeme. Hier ist zu prüfen, welche Fallgruppen so grundrechtssensibel sind, dass es besonderer Regelungen zum Schutz des Persönlichkeitsrechts bedarf. Die Datenethikkommission empfiehlt als weitere Maßnahmen insbesondere technische Standards, Informationsangebote und Bewusstseinsbildung, die Errichtung von Kompetenzzentren, die Förderung von EU-Dateninfrastrukturen und die Harmonisierung forschungsspezifischer Regelungen. Solche Maßnahmen können zur Nutzung der Chancen von KI ebenso beitragen wie zur Verbesserung des Schutzes der Verbraucherinnen und Verbraucher.

Zu Ziffer 6:

Zur gewachsenen, leistungsstarken Wissenschaftslandschaft mit weitreichender KI-Kompetenz zählen Universitäten, Hochschulen und außeruniversitäre Forschungseinrichtungen.