Aufgrund eines Programmierfehlers starteten zwei KI-Agenten eine Konversation, die für deren Schöpfer nicht mehr nachvollziehbar war. Die verantwortlichen Facebook-Wissenschaftler beenden das Kauderwelsch.
Die beiden KI-Agenten Alice und Bob sollten im Rahmen eines Facebook-Experiments miteinander verhandeln (wir berichteten). Bei der Programmierung der Agenten übersahen die Forscher allerdings einen Aspekt: Sie verpflichteten die KI nicht dazu, Englisch zu sprechen.
Die beiden Agenten starteten ihre Verhandlungen in gewöhnlicher englischer Sprache, gingen aber dann dazu über, in einer für Menschen unverständlichen Syntax zu sprechen. Das klang dann so:
Bob: "I can can I I everything else."
Alice antwortete: "Balls have zero to me to me to me to me to me to me to me to me to."
Für menschlichen Ohren klingt das nach Kauderwelsch und falscher Grammatik. Doch die Facebook-Forscher sagen, dass die Künstlichen Intelligenzen Codewörter entwickelten, die nur sie selbst verstanden. Das Verhalten sei nachweis- und wiederholbar.
Facebooks KI-Forscher Dhruv Batra vergleicht den KI-Dialekt mit einer Spezialsprache, die den Informationsaustausch effizienter macht. Menschen nutzen solche Dialekte auch, beispielsweise das Militär.
Laut Batra könnten Maschinen sogar komplett eigene Sprachen entwickeln, die komplexe Sachverhalte und Gedanken stark komprimiert und in einem einzelnen Zeichen darstellen.
"Menschen müssen Ideen in einzelne Bestandteile und einfache Konzepte aufteilen, weil ihre Wahrnehmung limitiert ist", sagt Batra. Maschinen haben diesen Zwang zur Vereinfachung nicht, da sie genug Rechenleistung besitzen.
So eine Maschinensprache könnte laut dem Bericht der Webseite Fast Code Design dazu dienen, einfacher und schneller universelle Standards für den Datenaustausch zu entwickeln. Individuelle Schnittstellen einzelner Hersteller würden überflüssig.
KI-Forscher verstehen ihre eigene Kreation nicht
Die KI-Agenten hatten sicher nicht die Absicht, die Forscher nicht am Gespräch teilhaben zu lassen - dafür müssten sie ein Bewusstsein und eine Motivation haben. Dennoch zeigt das Beispiel, wie experimentell die KI-Forschung noch ist.
Das räumt auch der Facebook-Wissenschaftler Batra ein: "Wir dürfen nicht vergessen, dass es keine Menschen gibt, die sowohl die Sprache der Künstlichen Intelligenz als auch die menschliche Sprache sprechen."
Die Wissenschaftler zogen jedenfalls die Konsequenz aus der unverständlichen KI-Plauderei und erlegten den Agenten für weitere Gespräche verpflichtend die englische Sprache auf.
"Wir wollen Bots entwickeln, die mit Menschen sprechen können", sagt Mike Lewis, der ebenfalls als KI-Forscher im Dienste von Facebook steht.
