Inhalt
newsletter Newsletter

Aufgrund eines Programmierfehlers starteten zwei KI-Agenten eine Konversation, die für deren Schöpfer nicht mehr nachvollziehbar war. Die verantwortlichen Facebook-Wissenschaftler beenden das Kauderwelsch.

Anzeige

Die beiden KI-Agenten Alice und Bob sollten im Rahmen eines Facebook-Experiments miteinander verhandeln (wir berichteten). Bei der Programmierung der Agenten übersahen die Forscher allerdings einen Aspekt: Sie verpflichteten die KI nicht dazu, Englisch zu sprechen.

Die beiden Agenten starteten ihre Verhandlungen in gewöhnlicher englischer Sprache, gingen aber dann dazu über, in einer für Menschen unverständlichen Syntax zu sprechen. Das klang dann so:

Bob: "I can can I I everything else."

Anzeige
Anzeige

Alice antwortete: "Balls have zero to me to me to me to me to me to me to me to me to."

Für menschlichen Ohren klingt das nach Kauderwelsch und falscher Grammatik. Doch die Facebook-Forscher sagen, dass die Künstlichen Intelligenzen Codewörter entwickelten, die nur sie selbst verstanden. Das Verhalten sei nachweis- und wiederholbar.

Facebooks KI-Forscher Dhruv Batra vergleicht den KI-Dialekt mit einer Spezialsprache, die den Informationsaustausch effizienter macht. Menschen nutzen solche Dialekte auch, beispielsweise das Militär.

Laut Batra könnten Maschinen sogar komplett eigene Sprachen entwickeln, die komplexe Sachverhalte und Gedanken stark komprimiert und in einem einzelnen Zeichen darstellen.

"Menschen müssen Ideen in einzelne Bestandteile und einfache Konzepte aufteilen, weil ihre Wahrnehmung limitiert ist", sagt Batra. Maschinen haben diesen Zwang zur Vereinfachung nicht, da sie genug Rechenleistung besitzen.

Empfehlung

So eine Maschinensprache könnte laut dem Bericht der Webseite Fast Code Design dazu dienen, einfacher und schneller universelle Standards für den Datenaustausch zu entwickeln. Individuelle Schnittstellen einzelner Hersteller würden überflüssig.

KI-Forscher verstehen ihre eigene Kreation nicht

Die KI-Agenten hatten sicher nicht die Absicht, die Forscher nicht am Gespräch teilhaben zu lassen - dafür müssten sie ein Bewusstsein und eine Motivation haben. Dennoch zeigt das Beispiel, wie experimentell die KI-Forschung noch ist.

Das räumt auch der Facebook-Wissenschaftler Batra ein: "Wir dürfen nicht vergessen, dass es keine Menschen gibt, die sowohl die Sprache der Künstlichen Intelligenz als auch die menschliche Sprache sprechen."

Die Wissenschaftler zogen jedenfalls die Konsequenz aus der unverständlichen KI-Plauderei und erlegten den Agenten für weitere Gespräche verpflichtend die englische Sprache auf.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

"Wir wollen Bots entwickeln, die mit Menschen sprechen können", sagt Mike Lewis, der ebenfalls als KI-Forscher im Dienste von Facebook steht.

| Featured Image: Facebook, via Fast Code Design
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!