Treffen sich ein Neurowissenschaftler, ein Philosoph und ein Informatiker und diskutieren darüber, was Bewusstsein ist. Wenn man ChatGPT fragt, wie diese Geschichte weitergeht, wenn sie ein Witz wäre, kommen Vorschläge wie:
Der Philosoph sagt: "Bewusstsein ist die Essenz unserer Existenz und das Fenster zur Wahrheit." Der Neurowissenschaftler erwidert: "Es ist eher ein biologischer Prozess in unserem Gehirn." Der Informatiker überlegt kurz und sagt dann: "Es klingt wie ein Bug, nicht wie ein Feature."

Wenn man aber nicht ChatGPT fragt, sondern in eine veröffentlichte Studie schaut, sieht man, dass aus den unterschiedlichen Denkansätzen dreier so verschiedener Forschungsrichtungen auch Gemeinsames entstehen kann, mit dem alle drei Fachgebiete offenbar gut leben können. Im konkreten Fall entstand eine Art Checkliste mit Kriterien. Und je mehr dieser Kriterien bei einem KI-System erfüllt sind, umso eher sollte man dann davon ausgehen, dass dieses System ein Bewusstsein hat.

Die vermutlich beruhigende Nachricht zuerst: Noch erfüllt keine der in der Studie untersuchten KI-Formen genügend Indikatoren, um als ernsthafter Bewusstseinskandidat durchzugehen. Einzelne Kriterien wurden aber durchaus schon erfüllt, zum Beispiel von ChatGPT.

Es gibt viele neurowissenschaftliche Theorien, die die biologischen Grundlagen des Bewusstseins beschreiben. Es besteht jedoch kein wissenschaftlicher Konsens über "die eine richtige Theorie". Deshalb verwendeten die 19 Studienautoren aus Neurowissenschaft, Philosophie und Informatik mehrere Bewusstseinstheorien. Die Idee dahinter: Wenn ein KI-System Aspekte aus mehreren Theorien erfüllt, dann ist die Wahrscheinlichkeit größer, dass man wirklich von einem vorhandenen Bewusstsein ausgehen muss. So ein theoretischer Ansatz sei besser als ein praktischer Verhaltenstest, wo man beispielsweise ChatGPT fragt, ob er bei Bewusstsein ist, oder ihn anders herausfordert und beobachtet, wie er reagiert. KI-Systeme seien mittlerweile zu gut darin, Menschen nachzuahmen, argumentieren die Studienautoren.

Um eine für KI-Systeme taugliche Checkliste mit Kritieren zu entwickeln, gingen die Autoren davon aus, dass Bewusstsein damit zusammenhängt, wie Systeme Informationen verarbeiten, unabhängig davon, woraus sie bestehen – seien es Neuronen, Computerchips oder etwas anderes. Dieser Ansatz wird als "Computational Functionalism" ("rechnerischer Funktionalismus") bezeichnet. Theorien, die mit diesem Ansatz nicht kompatibel sind, kamen nicht in Betracht. Mit anderen Worten: Die Forscher sorgten schon in den Voraussetzungen dafür, dass Lebewesen keinen Bewusstseinsvorsprung haben, nur weil sie Lebewesen sind.

Auf der Grundlage dieser Annahmen wählte das Team unterschiedliche Theorien zum Bewusstsein aus. Eine davon, die Global-Workspace-Theorie, besagt beispielsweise, dass Menschen und Tiere viele spezialisierte Systeme (die man auch Module nennen kann) verwenden, um kognitive Aufgaben wie Sehen und Hören auszuführen. Diese Module arbeiten unabhängig, aber parallel, und sie tauschen Informationen durch die Integration in ein einziges übergeordnetes System (den "globalen Arbeitsraum") aus.

Auch bei KI könne man bewerten, ob sie einen aus dieser Theorie abgeleiteten Indikator anzeigt, sagt Co-Autor Robert Long, Philosoph am "Center for AI Safety", einer gemeinnützigen Forschungsorganisation in San Francisco, "indem man sich die Architektur des Systems und den Informationsfluss durch das System ansieht".

Alle einbezogenen Theorien und die 14 daraus abgeleiteten Kriterien fasste die Forschungsgruppe in einer (englischsprachigen) Tabelle zusammen.

Bildrechte: P. Butlin et al.

"Unsere Analyse deutet darauf hin, dass kein aktuelles KI-System über Bewusstsein verfügt", schreiben die Autoren in der Studie, "aber auch, dass es keine offensichtlichen technischen Hindernisse für die Entwicklung von KI-Systemen gibt, die diese Indikatoren erfüllen." Soll heißen: Künstliche Intelligenz mit Bewusstsein ist wohl nur eine Frage der Zeit. Zumindest nach dieser Definition von Bewusstsein.

Andererseits könnte man eben wegen der Beschränkung auf den "Computational Functionalism" behaupten, dass durch den Studienaufbau schon relativ klar war, was herauskommen könnte. Wenn Bewusstsein nicht nur auf Lebewesen beziehungsweise auf biologische Gehirne beschränkt ist, sondern auch in Computern auftreten kann, dann ist natürlich theoretisch nichts unmöglich. Auch lässt die Tatsache, dass einige der Studienautoren im März an dem Offenen Brief beteiligt waren, in dem sechs Monate KI-Pause gefordert wurden, die Vermutung zu, dass hier eher KI-kritische Wissenschaftler am Werk waren.

Als Diskussionsgrundlage taugt die Studie aber in jedem Fall. "Ich bin mit manchen Annahmen nicht einverstanden, aber das ist völlig in Ordnung, denn ich könnte mich durchaus irren", sagt zum Beispiel Neurowissenschaftler Anil Seth, Direktor des Zentrums für Bewusstseinswissenschaft an der University of Sussex (Vereinigtes Königreich). Was jedoch deutlich werde, sei, "dass wir präzisere, besser erprobte Bewusstseinstheorien brauchen".

Und auch die Studienautoren sagen, dass ihr Forschungspapier noch lange keine endgültige Sicht auf die Bewertung von KI-Systemen hinsichtlich des Bewusstseins darstellt und dass sie sich wünschen, dass andere Forscher bei der Verfeinerung ihrer Methodik helfen.

(rr)