Gesetz über künstliche Intelligenz

Die KI-Verordnung sieht einen Ansatz vor, der weitgehend risikobasiert ist. KI-Technologien werden demnach in vier verschiedene Risikokategorien eingegliedert, die von „KI-Systemen mit inakzeptablem Risiko“ über „KI-Systemen mit hohem Risiko“ und „KI-Systemen mit Transparenzanforderungen“ bis zu „KI-Systemen mit keinem/niedrigem Risiko“ reichen. Daran werden verschiedene Verbote bzw. Compliance- und Informationspflichten gekoppelt. Technologien mit einem inakzeptablen Risiko wie Social Scoring oder Teile von biometrischer Videoüberwachung und subtiler Verhaltensbeeinflussung sollen komplett verboten werden.[4]

Darüber hinaus soll es Regeln geben speziell für leistungsfähige Sprachmodelle, vor allem für multimodale Modelle (im AI Act auch „General Purpose AI“, GPAI genannt) und solche, die besonders hohe Rechenleistungen haben.[5] Diese Sonderregelung, die von der Risikokategorisierung abweicht, ist eine Reaktion auf das schnelle Aufkommen von GenAI in 2023.[6]

Außerdem ist die Schaffung eines Europäischen Ausschusses für künstliche Intelligenz vorgesehen, zur Durchsetzung sollen auf nationaler Ebene Behörden mit der Möglichkeit von Bußgeldern geschaffen werden.[7] Der AI Act selbst droht sehr hohe Bußgelder an, wenn Unternehmen gegen ihn verstoßen. Der Entwurf sieht hier Strafen bis zu 7 Prozent des weltweiten Vorjahresumsatzes oder 35 Millionen Euro vor – dies ist deutlich mehr, als bei DSGVO-Verstößen drohen.[8]

Das Gesetz stuft u. a. folgende Anwendungsbereiche in die hohe Risikokategorie und damit als erlaubt ein:[9]

• Bewertung von Schülern
• Zugangsprüfungen zur Universität
• Bewerberauswahl, Beförderungen und Kündigungen im Arbeitsleben
• Anspruch auf Sozialhilfe
• Prognose von Rückfälligkeit bei Straftaten
• Einschätzung von Sicherheitsrisikos oder eines ausgehenden Gesundheitsrisikos von Einzelnen bei Migration, Asyl sowie Grenzkontrolle

Kommissionspräsidentin von der Leyen hatte eine Regulierung von KI bereits 2019 in ihrer Bewerbungsagenda angekündigt.[10]

Dem Vorschlag vorangegangen waren 2018 das Strategiepapier Künstliche Intelligenz für Europa[11] und der Koordinierte Plan für künstliche Intelligenz,[12] 2019 der Bericht einer Expertenkommission[13] und 2020 das Weißbuch zur Künstlichen Intelligenz[14] der EU-Kommission.

Die weitgehenden Definitionen, Verbote und komplizierten Compliance-Vorschriften im ursprünglichen Vorschlag lösten Kritik der Industrieverbände (u. a. Bitkom und KI-Verband) aus. Der Kompromissentwurf des Rates wurde dahingehend in einigen Punkten abgeschwächt. Außerdem wird eine große Rechtsunsicherheit[38], der hohe bürokratische Aufwand und Doppelregulierung, z. B. im Medizinbereich kritisiert.[39][40] Auch sei die geforderte fehlerfreie Auswahl von Trainingsdaten nahezu unmöglich.[25]

Auch die Bundesregierung warnt vor Überregulierung.[41] Nach einer Studie würde die Verordnung zu einem hohen Aufwand bei einem großen Teil der KI-Anwendungen führen.[42]

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch) und z. B. der DGB[43] den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[44] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[45][46] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[47] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[48]

Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.