Damit bleiben nur zwei Möglichkeiten: Wir pausieren die Entwicklung von KI-Systemen, die potenziell bewusst sind. Das haben einige führende Forscherinnen und Forscher des Bereichs im März 2023 gefordert – jedoch ohne Erfolg (teilweise arbeiten sie auch selbst mit Hochdruck weiter an den Systemen). Die zweite Möglichkeit besteht darin, die Bewusstseinsforschung voranzutreiben, bis sich mit an Sicherheit grenzender Wahrscheinlichkeit die Existenz von bewusstem Leiden in künstlichen Systemen ausschließen lässt. Doch dafür müssen wir mehr über das subjektive Erleben an sich erfahren.
Das menschliche Bewusstsein birgt noch etliche Rätsel
Bewusstsein ist ein wichtiger Gegenstand der Geistesgeschichte und wirft zahlreiche metaphysische und epistemologische Fragen auf. Es taucht in vielen wissenschaftlichen Disziplinen auf, etwa in der Philosophie, Theologie, Psychologie, Kognitionswissenschaft, Neurowissenschaft, Biologie und in gewisser Hinsicht auch in der Physik. In den 1990er Jahren haben Fachleute die verschiedenen Methoden und Perspektiven dieser Felder zusammengebracht. Heute, zirka 30 Jahre später, ist daraus ein eigenständiges wissenschaftliches Feld entstanden: die »Bewusstseinswissenschaft«, die eine systematische Erforschung des Phänomens anstrebt. Das Gebiet umfasst aufwändige Experimente, zahlreiche Fachartikel sowie Lehrstühle und Forschungsgruppen auf der ganzen Welt.
Das wichtigste Werkzeug sind hierbei Theorien des Bewusstseins. Das sind Hypothesen darüber, wie »der Körper« mit »dem Geist« zusammenhängt. Eine solche Theorie schlägt Erklärungen vor, wie die physikalischen Eigenschaften eines Systems mit dessen subjektivem Erleben verbunden sind. Fachleute untersuchen beispielsweise, wie Neurone im Gehirn vernetzt sind und wie sich deren Aktivitätsmuster lokal oder in der Zeit ausbreiten. Um Bewusstsein zu beschreiben, verwenden die Theorien technische Begriffe, die subjektives Erleben kennzeichnen, oder sie bedienen sich mathematischer Strukturen, die bewusste Erfahrungen quantifizieren.
Eine der großen Herausforderungen ist hierbei, dass das menschliche Gehirn unglaublich komplex ist: Es besteht aus etwa 100 Milliarden Nervenzellen und noch mehr verbindenden Synapsen. Diese im Detail zu untersuchen, ist unmöglich. KI-Systeme sind hingegen deutlich einfacher aufgebaut. Damit lassen sich Bewusstseinstheorien nutzen, um zu prüfen, ob sie einer KI ein Bewusstsein zusprechen oder nicht.
Was Bewusstseinstheorien zu künstlicher Intelligenz sagen
Das wurde in einer noch nicht begutachteten Arbeit, die Ende August 2023 erschienen ist, getan. 19 führende KI-Forscher und Forscherinnen haben darin anhand von fünf bekannten Bewusstseinstheorien geprüft, ob heutige KI-Systeme (oder Systeme, die man in naher Zukunft herstellen könnte) demnach ein Bewusstsein haben. Dazu haben die Fachleute jeweils »notwendige Bedingungen« aus den Theorien extrahiert, die ein System besitzen müsste, um ein Bewusstsein zu besitzen. Je mehr dieser notwendigen Anforderungen ein System erfülle, so die Argumentation, desto wahrscheinlicher sei es bewusst.
Das Problem ist die Auswahl der betrachteten Bewusstseinstheorien
Das Ergebnis der Analyse: »Keines der aktuellen KI-Systeme ist bewusst.« Es gebe aber keine offensichtlichen technischen Hindernisse, bewusste KI-Systeme zu entwickeln. Diese ließen sich in den Augen einiger Autoren im Prinzip auch schon morgen realisieren.
Das grundlegende Problem an dieser und ähnlichen Untersuchungen ist die Auswahl der betrachteten Theorien. Zum aktuellen Zeitpunkt existieren 38 verschiedene Bewusstseinstheorien, die alle aus guten Gründen vorgeschlagen wurden. Die fünf im Bericht untersuchten Theorien enthalten alle eine Annahme namens »computational functionalism«. Sie besagt, dass Bewusstsein eine spezielle Art von Berechnung ist. Bewusst zu sein heißt demnach, diese spezielle Berechnung durchzuführen. Das kann neuronal passieren, beispielsweise im menschlichen Gehirn, aber auch auf Computerplatinen; das Substrat spielt keine Rolle.
Entsprechend ist es nicht verwunderlich, dass die Auswertung dieser fünf Theorien zu mehr oder weniger klaren Kriterien führt, wie künstliche Intelligenz, die ja gerade eine – sehr komplexe – Berechnung darstellt, bewusst werden könnte. »Überspitzt formuliert könnte man sagen: Die Autoren sind zu Ergebnissen gekommen, die in der sorgfältig ausgewählten Fragestellung bereits angelegt waren«, schrieb der Redakteur Wolfgang Stieler im September 2023 bei »Technology Review«.
Ein Maß für das Bewusstsein
Es ist kein Geheimnis, dass es bisher nur sehr wenig empirische Evidenz für viele Theorien des Bewusstseins gibt. Unter Expertinnen und Experten besteht ein breiter Konsens, dass die existierenden Theorien zwar wichtige erste Schritte darstellen, aber noch weit davon entfernt sind, die wahre Natur des Bewusstseins zu erklären.
Doch es gibt auch theorieunabhängige Möglichkeiten, die Frage nach dem Bewusstsein von künstlicher Intelligenz zu beantworten. Einen Ansatz bieten empirische Methoden, so genannte Maße des Bewusstseins. Dabei unterscheidet man zwischen objektiven Maßen, die verhaltensbezogene oder neuronale Daten nutzen, und subjektiven Maßen, die auf Aussagen eines Subjekts über das eigene Bewusstsein beruhen.
Ein großes Problem beim Anwenden dieser Maße auf künstliche Intelligenz ist, dass man den Aussagen der Systeme – zumindest was das eigene Bewusstsein angeht – nicht trauen kann. Denn die fortschrittlichen KI-Systeme wurden mit Inhalten des gesamten Internets trainiert. Das schließt unzählige Diskussionen, Publikationen und Reflexionen über Bewusstsein mit ein. Stellt man einer KI Fragen dazu, wie es etwa Blake Lemoine getan hat, reproduziert das System die Inhalte der Trainingsdaten, unabhängig davon, ob es wirklich bewusst ist oder nicht.
Eine Möglichkeit, dieses Problem zu lösen, geht auf die US-amerikanische Philosophin und KI-Expertin Susan Schneider zurück. Sie schlägt vor, ein KI-System ohne jegliche Daten über das Thema Bewusstsein zu trainieren. Damit lässt sich ausschließen, dass das System bei seinen Antworten lediglich bekannte Konversationsschnipsel in geeigneter Form kombiniert.
Ideen wie diese könnten in Zukunft vielleicht wirklich dazu führen, belastbare Antworten auf die Frage nach dem Bewusstsein von künstlicher Intelligenz zu erhalten. Zum aktuellen Zeitpunkt, in dem das Trainieren eines einzigen KI-Modells bereits zweistellige Millionenbeträge verschlingt, sind sie leider noch nicht so einfach umsetzbar.
Die harte Wahrheit von Nullen und Einsen
Als dritter Weg zu einer verlässlichen Antwort bleibt die analytische Philosophie. Lässt sich durch Logik die Frage nach dem Bewusstsein von künstlicher Intelligenz beantworten? Oder zumindest der Raum der Möglichkeiten stark einschränken? Das scheint tatsächlich möglich.
Bewusstsein kann in Prozessoren nicht entstehen
Eine wichtige Eigenschaft von KI-Systemen ist, dass sie auf Computerprozessoren laufen. Diese machen nichts anderes, als lange Folgen von Nullen und Einsen nach festgelegten Regeln zu verarbeiten. Jede noch so komplizierte Frage an ein KI-System führt letzten Endes zu einer Folge aus Nullen und Einsen, die durch Prozessoren gejagt wird. Die Antwort des Systems ist eine Darstellung der Ergebnisse dieser Jagd. Die Ausgabe ist also bloß das Resultat einer genau definierten Berechnung. In jedem Prozessor gibt es eine ganze Reihe von Mechanismen, die Abweichungen von den festgelegten Regeln erkennen und sofort korrigieren.
Das lässt sich nutzen, um etwas über den bewussten Zustand eines Computers herauszufinden. Wenn ein Programm eine sinnvolle Aussage über das eigene Bewusstsein macht, dann muss das »Bewusstsein« des Programms einen merklichen Einfluss auf die Rechenschritte des Systems haben. Die Aussage »Ich bin gerade bewusst« muss in irgendeiner Weise davon abhängen, ob das System zum Zeitpunkt der Aussage bewusst ist oder nicht, sonst ist sie bedeutungslos. Fachleute sprechen von »dynamischer Relevanz«. Bewusstsein muss dynamisch relevant sein, wenn wir uns darüber austauschen oder es wissenschaftlich studieren wollen. Wir können als Menschen schließlich auch Dinge unbewusst (instinktiv oder im Schlaf) tun und erkennen einen Unterschied zu Handlungen, die bewusst geschehen.
In den Regeln, welche die Berechnungen von Prozessoren definieren, kommt Bewusstsein aber nicht vor. Weil Prozessoren diese Regeln jedoch aufs Genaueste erzwingen, kann Bewusstsein keinen Unterschied in den Berechnungen erreichen. Jeglicher Ansatz eines Unterschieds würde sofort korrigiert. Falls Bewusstsein also dynamisch relevant ist, kann es in modernen Prozessoren (und darum auch in KI-Systemen) nicht entstehen, wie wir in einer im April 2023 veröffentlichten Arbeit erklären.
Logische Zusammenhänge wie der oben ausgeführte liefern aktuell die konkretesten Hinweise auf – oder in diesem Fall gegen – das Bewusstsein von künstlicher Intelligenz. Die rasante Entwicklung von KI stellt unsere Gesellschaft vor große moralische, juristische und praktische Herausforderungen. Um für diese gewappnet zu sein, muss die Frage nach dem Bewusstsein von KI-Systemen genauer erforscht werden. Die Bewusstseinsforschung steht erst am Anfang. Angesichts der enormen Bedeutung des Bereichs arbeiten Fachleute unterschiedlicher Disziplinen auf Hochtouren daran, so dass viele neue Entwicklungen zu erwarten sind.
