Fragen und Antworten Neues EU-Gesetz soll Künstliche Intelligenz regulieren

Mit dem neuen Gesetz zur Künstlichen intelligenz (KI) will die Europäische Union (EU) die Nutzung der neuen Technologie sicherer machen. Dazu sollen Anwendungen künftig in Risikogruppen eingeteilt werden.

Die EU-Kommission teilt KI-Systeme in vier Risikogruppen ein: grün, gelb, orange und rot. Der größte Teil der KI-Anwendungen fällt nach Einschätzung der EU-Kommission in den ersten, grünen Bereich. Sie bleiben auch weiterhin unreguliert, da von ihnen kein oder nur ein minimales Risiko ausgeht.

In die gelbe Risikostufe fallen beispielsweise Chatbots wie ChatGPT sowie mithilfe von KI erzeugte oder veränderte Bilder und Videos. Nutzer müssen zukünftig darüber informiert werden, wenn ein Inhalt durch KI generiert wurde. Zudem müssen die Daten, mit denen das System trainiert wurde, nachvollziehbar sein. Schwerwiegende Vorfälle müssen der Kommission gemeldet werden.

Anwendungen, von denen ein "hohes Risiko" ausgeht, sollen besonderen rechtlichen Anforderungen unterliegen. Sie fallen in die orangene Risikostufe. Die Kommission befürwortet die Nutzung solcher Systeme grundsätzlich, gleichzeitig sieht sie ein hohes Risiko für Grundrechte, Sicherheit oder Gesundheit.

KI-Systeme, von denen ein "unannehmbares Risiko" ausgeht, stuft die EU in die höchste Risikostufe "rot" ein. Sie werden verboten. Hierunter fällt beispielsweise die Bewertung von sozialem Verhalten mittels KI (Social Scoring), wie es in China eingesetzt wird. Der Einsatz von KI bei der vorausschauenden Polizeiarbeit wird ebenfalls eingeschränkt.

Für die Durchsetzung des neuen Gesetzes sind die EU sowie die 27 Mitgliedsstaaten verwantwortlich. Bei Verstößen drohen den Unternehmen Strafen in Millionenhöhe. Nationale Behörden sind verantwortlich, wenn es um die allgemeine Marktaufsicht geht.

Zudem wird ein sogenanntes "AI-Office" bei der EU-Kommission angesiedelt sein. Das Büro soll Europa als führend bei der ethischen und nachhaltigen Entwicklung von KI-Technologien positionieren.

Das neue Gesetz tritt am 1. August in Kraft. Ab dem 2. Februar 2025 gelten die Verbote. Der Großteil aller anderen Bestimmungen greift ab dem 2. August 2026. Im "AI Pact" haben rund 700 Unternehmen erklärt, Vorschriften schon früher anzuwenden.

Viele Experten begrüßen das neue Gesetz. KI schaffe neue Möglichkeiten und damit auch neue ethische Fragen. Gerade in einer solchen Situation sei es gesellschaftlich wichtig, den Anspruch zu erheben, die technologische Entwicklung bewusst und aktiv zu steuern, sagte Claudia Paganini, Professorin für Medienethik an der Hochschule für Philosophie in München, dem Evangelischen Pressedienst. "Dabei muss die zentrale Frage lauten: Was gewinnen wir und was verlieren wir durch KI? Wo können wir die Qualität des Zusammenlebens steigern und wovon geht Gefahr aus?" Genau diese Thematik werde vom KI-Gesetz der EU adressiert.

"Auch, wenn davon auszugehen ist, dass sich angesichts der Geschwindigkeit des Fortschritts die Notwendigkeit ergeben wird, Anpassungen vorzunehmen, ist es dennoch wichtig, eine rechtliche Grundlage zu schaffen", betont Paganini. Besonders positiv bewertet sie den hohen Stellenwert der Transparenz und dass eine Art Beschwerdesystem geschaffen wird.

Kritiker befürchten Schlupflöcher für eine biometrische Massenüberwachung. Das KI-Gesetz verbietet die Massenüberwachung im öffentlichen Raum zwar, schafft aber gleichzeitig Ausnahmen. Das sei problematisch, meint Paganini. In der Vergangenheit habe sich oft genug gezeigt, "dass derartige Ausnahmeregelungen sehr schnell gegen politisch Andersdenkende angewendet werden können".

Kritik äußert auch eine ehemalige Linken-Abgeordnete im EU-Parlament, Cornelia Ernst. Die Verhandlungen um das Gesetz hat sie dort eng verfolgt. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum sei durch eine lange Liste von Ausnahmen praktisch gekippt worden. Auch gebe es in der Verordnung keine Verbote von KI-Systemen im Migrations- und Grenzkontext.