In jüngster Zeit sind wieder Behauptungen aufgetaucht, KI könne ein Bewusstsein erlangen. Doch was wäre wirklich nötig, damit ein künstliches System einen eigenen Geist entwickelt?
Im Juni 2022 machte der Google-Ingenieur Blake Lemoine Schlagzeilen, als er behauptete, der LaMDA-Chatbot des Unternehmens habe ein Bewusstsein erlangt. Die Software verfüge über die Gesprächsfähigkeit eines frühreifen Siebenjährigen, so Lemoine, und wir sollten annehmen, dass sie ein ähnliches Bewusstsein für die Welt besitzt.
LaMDA, das später als Bard der Öffentlichkeit zugänglich gemacht wurde, wird von einem "großen Sprachmodell" (LLM) angetrieben, das auch die Grundlage für den ChatGPT-Bot von OpenAI bildet. Andere große Technologieunternehmen beeilen sich, ähnliche Technologien einzusetzen.
Hunderte von Millionen von Menschen hatten bereits die Gelegenheit, mit LLMs zu spielen, aber nur wenige scheinen zu glauben, dass sie bewusst sind. Stattdessen sind sie, um es mit den poetischen Worten der Linguistin und Datenwissenschaftlerin Emily Bender zu sagen, "stochastische Papageien", die überzeugend plappern, ohne zu verstehen. Aber was ist mit der nächsten Generation von KI-Systemen und der übernächsten?
Unser Team aus Philosoph:innen, Neurowissenschaftler:innen und Informatiker:innen hat sich mit den aktuellen wissenschaftlichen Theorien zur Funktionsweise des menschlichen Bewusstseins befasst, um eine Liste grundlegender rechnerischer Eigenschaften zu erstellen, die jedes hypothetische bewusste System wahrscheinlich besitzen müsste. Unserer Ansicht nach erfüllt kein derzeitiges System auch nur annähernd die Anforderungen an ein Bewusstsein - gleichzeitig gibt es aber auch keinen offensichtlichen Grund, warum zukünftige Systeme nicht wirklich bewusst werden könnten.
Indikatoren finden
Seit der Computerpionier Alan Turing 1950 sein "Imitation Game" vorschlug, wurde die Fähigkeit, sich in einem Gespräch erfolgreich als Mensch auszugeben, oft als zuverlässiger Indikator für Bewusstsein angesehen. Dies lag in der Regel daran, dass die Aufgabe so schwierig erschien, dass sie Bewusstsein erfordern muss.
Wie bei der Niederlage des Schachcomputers Deep Blue gegen den Großmeister Gary Kasparov im Jahr 1997 könnte jedoch auch die Gesprächsfähigkeit von LLMs die Ziellinie verschieben. Gibt es einen prinzipiellen Weg, um die Frage des KI-Bewusstseins anzugehen, der sich nicht auf unsere Intuitionen darüber stützt, was an der menschlichen Wahrnehmung schwierig oder besonders ist?
Unser kürzlich erschienenes Whitepaper zielt genau darauf ab. Wir haben aktuelle wissenschaftliche Theorien darüber verglichen, was das menschliche Bewusstsein ausmacht, um eine Liste von "Indikatoreigenschaften" zu erstellen, die dann auf KI-Systeme angewendet werden könnten.
Wir glauben nicht, dass Systeme, die die Indikatoreigenschaften besitzen, definitiv bewusst sind, aber je mehr Indikatoren vorhanden sind, desto ernster sollten wir die Behauptungen über KI-Bewusstsein nehmen.
Die Berechnungsprozesse hinter dem Bewusstsein
Nach welcher Art von Indikatoren haben wir gesucht? Wir haben offene Verhaltenskriterien - wie die Fähigkeit, Gespräche mit Menschen zu führen - vermieden, da diese sowohl auf den Menschen bezogen als auch leicht zu fälschen sind.
Stattdessen haben wir Theorien zu den Berechnungsprozessen untersucht, die das Bewusstsein im menschlichen Gehirn unterstützen. Diese können uns Aufschluss über die Art der Informationsverarbeitung geben, die für das subjektive Erleben erforderlich ist.
"Globale Arbeitsbereichstheorien" beispielsweise postulieren, dass das Bewusstsein durch das Vorhandensein eines kapazitätsbegrenzten Engpasses entsteht, der Informationen aus allen Teilen des Gehirns zusammenführt und Informationen auswählt, um sie global verfügbar zu machen. "Theorien der rekurrenten Verarbeitung" betonen die Rolle der Rückkopplung von späteren zu früheren Prozessen.
Jede Theorie schlägt ihrerseits spezifischere Indikatoren vor. Unsere endgültige Liste enthält 14 Indikatoren, die sich jeweils auf einen Aspekt der Funktionsweise von Systemen und nicht auf ihr Verhalten konzentrieren.
Kein Grund zur Annahme, dass die derzeitigen Systeme bewusst sind
Wie sieht es mit den aktuellen Technologien aus? Unsere Analyse legt nahe, dass es keinen Grund für die Annahme gibt, dass aktuelle KI-Systeme ein Bewusstsein haben.
Einige erfüllen jedoch einige der Indikatoren. Systeme, die die Transformer-Architektur verwenden, eine Art maschinelles Lernmodell, das ChatGPT und ähnlichen Tools zugrunde liegt, erfüllen drei der Indikatoren für den "globalen Arbeitsbereich", aber ihnen fehlt die entscheidende Fähigkeit zur globalen Weiterverbreitung. Auch die meisten anderen Indikatoren erfüllen sie nicht.
Trotz der beeindruckenden Konversationsfähigkeiten von ChatGPT ist auch wahrscheinlich niemand zu Hause. Auch andere Architekturen erfüllen bestenfalls eine Handvoll Kriterien.
Die meisten aktuellen Architekturen erfüllen höchstens ein paar der Indikatoren. Für die meisten der Indikatoren gibt es jedoch mindestens eine aktuelle Architektur, die sie erfüllt.
Dies lässt darauf schließen, dass es keine offensichtlichen, prinzipiellen technischen Hindernisse für die Entwicklung von KI-Systemen gibt, die die meisten oder alle Indikatoren erfüllen.
Es ist wahrscheinlich eher eine Frage des Zeitpunkts als des Obs, ob ein solches System gebaut wird. Natürlich werden noch viele Fragen offen sein, wenn es soweit ist.
Jenseits des menschlichen Bewusstseins
Die von uns untersuchten wissenschaftlichen Theorien (und die Autoren des Papiers!) stimmen nicht immer miteinander überein. Wir haben eine Liste von Indikatoren und keine strengen Kriterien verwendet, um diese Tatsache anzuerkennen. Dies kann angesichts der wissenschaftlichen Unsicherheit eine wirksame Methode sein.
Wir haben uns von ähnlichen Debatten über das Bewusstsein von Tieren inspirieren lassen. Die meisten von uns glauben, dass zumindest einige Tiere ein Bewusstsein haben, obwohl sie sich nicht mit uns über ihre Gefühle unterhalten können.
Ein Bericht der London School of Economics aus dem Jahr 2021, in dem argumentiert wurde, dass Kopffüßer wie Oktopusse wahrscheinlich Schmerzen empfinden, trug maßgeblich zur Änderung der britischen Tierethikpolitik bei. Die Konzentration auf strukturelle Merkmale hat die überraschende Folge, dass sogar einige einfache Tiere wie Insekten eine minimale Form von Bewusstsein besitzen könnten.
Unser Bericht enthält keine Empfehlungen, was mit bewusster KI geschehen soll. Diese Frage wird umso dringlicher werden, je leistungsfähiger die KI-Systeme werden und je weiter sie verbreitet sind.
Unsere Indikatoren werden nicht das letzte Wort sein - aber wir hoffen, dass sie ein erster Schritt sein werden, diese heikle Frage auf wissenschaftlich fundierte Weise anzugehen.
