Die Pionierarbeit der Europäischen Union in Sachen KI-Regulierung scheint auf der Zielgeraden. Der auf Künstliche Intelligenz spezialisierte Rechtswissenschaftler Philipp Hacker von der Universität Frankfurt (Oder) nennt den finalen Entwurf einen politischen Kompromiss, der besser als gar nichts sei. Er zeigte sich zuversichtlich, dass es nach den Trilogverhandlungen zwischen EU-Kommission, Rat und Parlament zu einer Verabschiedung komme: "Wenn wir es jetzt nicht machen, ist es unklar, ob es überhaupt kommt – und das wäre doch eine massive Blamage." Sollte der AI-Act scheitern, würde es auf absehbare Zeit keine KI-Regulierung geben, ein Neustart des Vorhabens sei erst in der neuen Legislaturperiode nach den Europawahlen realistisch. Zuletzt waren Deutschland, aber auch Frankreich, Italien und Ungarn zögerlich hinsichtlich einer Zustimmung.

Hacker begrüßte auf einem virtuellen Podium des Science Media Centers etwa die verhältnismäßigen Mindestvorschriften für sogenannte Foundation Models, also sehr große Basismodelle, wie sie bei umfassenden Anwendungen wie ChatGPT Verwendung finden. Der KI-Forscher Björn Ommer begrüßt in diesem Zusammenhang, dass bei der Regulierung von generativer KI auf die entsprechenden Anwendungen geschaut werde und keine pauschale Regulierung stattfinde. Generative KI sei "eine Ermöglichungstechnologie, der wir nicht um ihrer selber Willen nachgehen, sondern wegen der Dinge, die auf sie aufbauend hinten heraus ermöglicht werden."

Der AI-Act schreibt auch explizit die strenge Regulierung von KI-Systemen im Hochsicherheitsbereich vor, zum Beispiel im Gesundheitsbereich. Großer Punkt bei den Verhandlungen zum AI-Act war zudem die Nutzung biometrischer, personenbezogener Daten. Die Vorschriften zum Schutz von Privatpersonen seien Philipp Hacker zufolge zu begrüßen, "weitere Schutzvorschriften wären wünschenswert". Das Papier enthält beispielsweise umfassende Erläuterungen, die Erkennung welcher Art menschlicher Emotion bei welcher Anwendung erlaubt oder verboten ist oder es erläutert, wo Gesichtserkennung eingesetzt werden darf, zum Beispiel bei der Verfolgung von Straftaten oder bei der Suche nach vermissten Kindern. Insgesamt seien die Einschränkungen bei biometrischer Echtzeitüberwachung streng, jedoch nicht bei Material, das älter als zwei Tage ist. Dies sorgt für Kritik bei Bürgerrechtsorganisationen, da umfängliche staatliche Überwachung drohe. Allerdings ist der AI-Act nur eine Grundlage, auf deren Basis die Mitgliedstaaten bei der Überführung in nationales Recht verschärfte Regelungen umsetzen können.

Der AI-Act schafft grundsätzlich für Unternehmen im KI-Bereich Rechtssicherheit. Gerade auf kleine Unternehmen könnten aber im Bereich der Einhaltung von Rechtsvorschriften (Compliance) signifikante Kosten zukommen, kritisieren sowohl Hacker als auch Ommer: "Kleinere Unternehmen sehen das Problem, mehr Anwälte zu brauchen als Entwickler."

Philipp Hacker sieht zudem die Streichung von Nachhaltigkeitsaspekten im Vergleich zur Ursprungsfassung problematisch. Geblieben sei nur eine Informationspflicht hinsichtlich Energieverbrauch. Gerade große KI-Modelle stehen aufgrund ihres sehr hohen Energieverbrauchs in der Kritik, der insbesondere im Trainingsprozess entsteht. Der AI-Act der Europäischen Union ist das erste umfassende Regelwerk der Welt zur Regulierung künstlicher Intelligenz. Ein Entwurf vom Dezember wurde jetzt überarbeitet und am vergangenen Montag in seiner wahrscheinlich endgültigen Fassung geleakt.

flo, mit SMC