Das Thema Migration prägt die politische Debatte in Deutschland und Europa. Die EU-Kommission fördert dabei schon seit über zehn Jahren Technologien, die den Grenzschutz vereinfachen und gleichzeitig mehr Sicherheit bringen sollen. Eines der geförderten Projekte war "Intelligent Portable Border Control System" oder kurz iBorderCtrl.

Dieses wurde im Rahmen des Förderprogramms "Horizon 2020" mit etwas mehr als 4,5 Millionen Euro finanziert. Beteiligt waren 14 Projektpartner aus neun verschiedenen Ländern. Rund 375.000 Euro gingen nach Deutschland an das Institut für Rechtsinformatik der Gottfried Wilhelm Leibniz Universität in Hannover. Dort sollte man sich vor allem mit datenschutzrechtlichen und ethischen Fragestellungen auseinandersetzen.

Im Projekt haben Expertinnen und Experten eine Soft- und Hardwarelösung für eine schnelle Grenzkontrolle von Einreisenden aus Drittstaaten in die EU entwickelt. Dafür kombinierten sie verschiedene Technologien, um die Grenzen sicherer zu machen. Den Schwerpunkt legten sie auf Grenzkontrollen auf Straßen, bei Reisen zu Fuß oder mit dem Zug. Die Projektdokumentation sieht ein zweistufiges System vor, wobei die erste Stufe schon vor dem Reiseantritt online durchgeführt wird.

Das Szenario sieht folgenden Ablauf vor: Ein Einreisewilliger legt Dokumente wie Pässe oder Visa vor. Dann wird er zu seiner Reise befragt. Daraufhin wird eine Risikoeinstufung vorgenommen und ein QR-Code ausgegeben. Dieser soll dann von dem Grenzbeamten vor Ort gescannt werden, der dann vom System Informationen erhält, ob weitere Befragungen und Kontrollen notwendig sind.

Die zweite Stufe wird am Grenzübergang erreicht: Beamte scannen Fingerabdrücke und Handvenenbilder des Einreisenden. Zusätzlich erstellt ein sogenanntes "Face Matching Tool" eine biometrische Signatur und bestätigt die Identität des Reisenden. Die Reisedokumente werden dann ebenfalls gescannt und durch einen Algorithmus auf Betrugsmerkmale untersucht. Im Falle einer Fälschung wird das dem Grenzbeamten angezeigt.

Zur zusätzlichen Risikobewertung sollten Datenbanken miteinander verglichen werden, wie etwa die Profile in sozialen Medien der Reisenden. In der Projektdokumentation wird jedoch oft betont, dass die finale Entscheidung über die Einreise immer bei den Grenzbeamten selbst liege und iBorderCtrl nur als Unterstützung genutzt werden soll. Das Projekt wurde an der ungarischen, griechischen und lettischen Grenze für sechs Monate getestet.

Kritiker problematisierten vor allem die Befragung vor Reisebeginn durch das "Automatic Deception Detection System", kurz ADDS. Bei diesem System soll der Reisende von zuhause einen Fragenkatalog über seinen Computer beantworten. Mit Hilfe der Software "Silent Talker" und einer Webcam sollte erkannt werden, ob eine Person beim Antworten lügt. Eine künstliche Intelligenz analysiert dafür Mikroexpressionen im Gesicht. Es werden Dinge untersucht wie die Öffnung der Augen, der Winkel des Gesichts und weitere nonverbale Merkmale. Diese werden dann durch die künstliche Intelligenz verarbeitet, welche ausgibt, ob es sich bei den Angaben der Person um die Wahrheit handelt. Befragt wird man durch einen digitalen Avatar, der einem Polizisten nachempfunden ist.

Eine Journalistin von The Intercept testete 2019 das System an der serbisch-ungarischen Grenze. Alle 16 ihr gestellten Fragen, wie zum Beispiel "Wie ist Ihr Name?" oder "Was ist Ihre Staatsbürgerschaft?" beantwortete sie wahrheitsgemäß. Das System sagte jedoch, sie habe bei vier Fragen gelogen und stufte sie als Risiko ein.

In Deutschland berichtete ZEIT ONLINE 2020 über das System. Für die Recherche sprachen die Journalisten mit einem der Entwickler des Algorithmus. Der bestätigte, dass die Software bei den Tests Probleme gehabt hätte und weitere Entwicklungszeit benötige, bevor sie in realen Anwendungsszenarien nutzbar sei. Auf der Website des Projekts schreibt iBorderCtrl außerdem, dass es keine hundertprozentige Garantie und immer ein Risiko für Fehler gebe. Ihr System solle erst eingesetzt werden, wenn es bessere und fairere Ergebnisse liefere, heißt es. Für den realen Einsatz an der europäischen Außengrenze müsse es zudem eine Gesetzesänderung geben, da vorher der Einsatz illegal wäre.

Die Software sollte laut Recherchen von ZEIT ONLINE nach der Projektförderungsphase mit der in Manchester ansässigen Firma Siltent Talker Limited vermarktet werden. Anscheinend ohne Erfolg. Laut Firmenregister in Großbritannien wurde die Firma im Juni 2022 aufgelöst.

iBorder-Ctrl ist nur eines von vielen Forschungsprojekten, das von der EU gefördert wurde und KI-Technologien verwendet. Patrick Breyer, Mitglied des Europäischen Parlaments für die Piratenpartei kritisiert dabei offen: "Das Hauptproblem ist, dass für die EU die sogenannte Forschungsförderung eigentlich Industrieförderung ist. Das heißt, sie soll dazu dienen, die europäische Industrie beim Absatz von Produkten zu unterstützen. Und das führt dazu, dass menschenrechtswidrige und illegale Technologien hier aus EU-Mitteln entwickelt werden."

Auch Jan-Christoph Oetjen, Mitglied des Europäischen Parlaments für die FDP, sieht die Verwendung von KI in diesem Bereich kritisch: "Im Bereich Grenzüberwachung und Management von Migrationsflows kann KI, glaube ich, eine Rolle spielen. Da, wo ich eher kritisch bin, ist, wenn es um das Asylverfahren selbst geht, also um Fragen wie Befragungen, Lügendetektoren, Einschätzungen."

Auf Anfrage von MDR Wissen schreibt die Europäische Kommission, dass künstliche Intelligenz das Potenzial habe, eine nützliche Unterstützung im Grenzmanagement zu sein. Es sei jedoch ein Unterschied, ob es sich um ein Forschungsprojekt handele oder die Technologie schon im realen Einsatz sei. Es sei oft so, dass Forschung noch nicht durch den derzeitigen Rechtsrahmen abgedeckt wäre, weil sie Ideen und Lösungen erforsche, die noch nicht existieren. Projekte, die von der EU gefördert werden, müssten allerdings ethischen Grundsätzen entsprechen. Alle Forschungsprojekte würden dabei von unabhängigen Ethikexperten bei der Antragsbewertung und der Durchführung überprüft. Bei Verstößen gegen Ethik- oder Sicherheitsvorschriften könne die Kommission die Finanzierung des Projekts sogar aussetzen oder abbrechen.

Dieser Beitrag entstand im Rahmen von "Crossborder Journalism Campus", einem Erasmus+-Projekt der Universität Leipzig, der Universität Göteborg und des Centre deFormation des Journalistes in Paris. Unter Mitarbeit von: Daniel Ågren, Judith Dargère, Sandor Adam Gorni, Cleménce Martin, Frances Mills, Naomi Madlene Ott, Thomas Ribaud, Moa Ringvall, Daniel Thalhamer.

Autor