Der Deutsche Ethikrat fordert Regeln und Grenzen für den Einsatz Künstlicher Intelligenz (KI) in Kernbereichen des Zusammenlebens. Softwaresysteme verfügten nicht über Vernunft, würden nicht selbst handeln und könnten daher keine Verantwortung übernehmen, heißt es in einer am Montag in Berlin vorgestellten Stellungnahme des Ethikrats.

"KI darf den Menschen nicht ersetzen", mahnte die Vorsitzende des Gremiums, die Medizinethikerin Alena Buyx. Künstliche Intelligenz müsse menschliche Entfaltung erweitern und dürfe sie nicht vermindern. Das seien grundlegende Regeln für die ethische Bewertung.

Die Anwendung von KI in braucht nach Einschätzung des interdisziplinären Gremiums klare Regeln. Für den Medizinbereich führt der Ethikrat auch Gründe auf, warum ein KI-Einsatz sinnvoll sein könne: So könnten mit Hilfe von KI Versorgungsengpässe aufgrund von Personalmangel gelindert und präzisere Diagnosen erstellt werden.

Jedoch müsse zugleich ein ärztlicher Kompetenzverlust vermieden werden. Zudem müsse die Privatsphäre von Patientinnen und Patienten bei intensiver Datennutzung gewahrt bleiben. Beim KI-Einsatz in der öffentlichen Verwaltung müssten die Bürgerinnen und Bürger vor Diskriminierung geschützt werden. Maschinellen Empfehlungen dürfe man nicht blind folgen. Es müssten weiter Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden.

In der Bildung dürfe Technologie kein Selbstzweck sein, sondern müsse das Ziel der Selbstbestimmung und reflektierten Persönlichkeitsbildung unterstützen. Im Bereich der öffentlichen Kommunikation verweist der Ethikrat auf die Wirkung von Algorithmen auf die Meinungsbildung und Manipulationsmöglichkeiten. Er empfiehlt eine Weiterentwicklung der Regeln zur Auswahl und Moderation von Inhalten, zu personalisierter Werbung und zum Datenhandel.

Der Deutsche Ethikrat ist ein unabhängiges Gremium, das sich mit ethischen Fragen und Herausforderungen für die Gesellschaft beschäftigt. Die 26 Mitglieder werden vom Bundestagspräsidium auf Vorschlag der Fraktionen ernannt. Da zwei Vorschläge der AfD strittig sind, sitzen im Gremium derzeit nur 24 Wissenschaftler aus unterschiedlichen Disziplinen, darunter Medizin, Recht, Philosophie und Theologie. Der Bundestag oder die Bundesregierung können den Ethikrat beauftragen, zu bestimmten Themen zu beraten.

dpa, EPD (ans)