Die EU-Länder haben den finalen Haken gesetzt. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard setzen, heißt es. Doch kann das neue KI-Gesetz mit der Technik Schritt halten?
Die EU-Staaten haben schärfere Regeln für Künstliche Intelligenz (KI) in der Europäischen Union beschlossen. Sie stimmten am Dienstag in Brüssel den Plänen zu, mit denen unter anderem bestimmte KI-Anwendungen ganz verboten werden, wie die Länder mitteilten. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard für die Regulierung von KI setzen.
Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
Was regelt das KI-Gesetz?
Das KI-Gesetz regelt die Nutzung der Technologien etwa in der Videoüberwachung, Spracherkennung und bei der Auswertung von Finanzdaten. Das Gesetz greift allerdings erst ab Frühjahr 2026.
Vorgesehen ist etwa eine Kennzeichnungspflicht: Entwickler sollen mit Künstlicher Intelligenz erzeugte Texte, Töne und Bilder markieren müssen, um Menschen nicht in die Irre zu führen. Experten halten dies wegen der Fülle des Materials allerdings für schwer kontrollierbar.
Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen. Bestimmte KI-Anwendungen, die gegen EU-Werte verstoßen, sollen ganz verboten werden. Dazu gehört beispielsweise die Bewertung von sozialem Verhalten ("Social Scoring"). Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt – eine Massenüberwachung mit biometrischen Daten. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen soll es in der EU nicht geben.
Betroffen sind vor allem Anbieter und Betreiber von KI-Systemen
Auch die Gesichtserkennung im öffentlichen Raum – also zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung im öffentlichen Raum nutzen dürfen, um ganz bestimmte Straftaten wie Menschenhandel oder Terrorismus zu verfolgen.
Amnesty International hatte vor dem Hintergrund der kürzlich beschlossenen Reform des EU-Asylrechts davor gewarnt, Gesichtserkennung und andere umstrittene Technologien gegen Migranten und andere Schutzsuchende einzusetzen. Das polizeiliche Identifizieren von Menschen in Echtzeit sei nicht streng genug geregelt, kritisierten auch Europaabgeordnete von SPD und Linken.
Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU.
Kritik am KI-Gesetz: Regulierungsarbeit beginnt jetzt erst
Der Digitalverband Bitkom kritisierte, dass das nun beschlossene KI-Gesetz wesentliche Fragen offen lasse. In Deutschland und den anderen EU-Ländern beginne die Regulierungsarbeit jetzt erst, sagte Verbandspräsident Ralf Wintergerst. Ob KI in Europa einen Schub erhalte oder vor allem vor neue Hindernisse gestellt werde, hänge entscheidend davon ab, wie dieser Rahmen ausgestaltet werde und die Regelungen etwa in Deutschland umgesetzt würden.
Der deutsche Bundesdigitalminister Volker Wissing räumte am Dienstag ein, dass der Gesetzgeber bei einer so sich schnell verändernden Technologie wie KI dauerhaft gefordert sei. "Wir können nicht erwarten, dass wir mit einer Regulierung die Zukunftsfragen abschließend klären", sagte der FDP-Politiker. "Deswegen war ich immer dafür, dass wir schnell uns auf den Weg der Regulierung machen, aber auch den Mut haben, kontinuierlich nachzusteuern." Wichtig sei, dass die Innovationsfreundlichkeit der Regulierung immer im Blick behalten werde. Es gelte, KI-Technologien "in den eigenen Händen" zu behalten. "Künstliche Intelligenz ist eine Schlüsseltechnologie, von der unsere Wettbewerbsfähigkeit abhängt", betonte Wissing.
Die Bundesregierung hatte sich auf EU-Ebene nach eigenen Angaben mit dafür eingesetzt, sogenannte Allzweck-KI wie den Chatbot ChatGPT nicht als Hochrisiko-Anwendung einzustufen. Durch ChatGPT hatte KI vor gut einem Jahr schlagartig große Aufmerksamkeit bekommen.
Die Anwendung kann mit Nutzerinnen und Nutzern über Textnachrichten kommunizieren und in Sekundenschnelle ausführliche Antworten auf Fragen geben. Inzwischen kann sie auch Bilder erstellen, die täuschend echt aussehen. Alternative Programme sind etwa Picsart, DeepAI oder Bard von Microsoft.
Bis das Gesetz im Frühjahr 2026 greift, setzt die Kommission auf freiwillige Absprachen mit den Unternehmen. Kritiker befürchten jedoch, dass die EU-Vorgaben in zwei Jahren bereits wieder veraltet sein könnten.
Bei Verstößen drohen Geldstrafen
Nach der Bestätigung der EU-Länder werden die neuen Regeln nun im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach dem Inkrafttreten sollen sie dann gelten.
Wenn Unternehmen die Vorschriften nicht einhalten, müssen die Mitgliedstaaten Sanktionen beschließen. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen. (dpa/AFP/tas)
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.