KI-Pionier Geoffrey Hinton fordert, Maschinen mit Fürsorgeinstinkten auszustatten, um die Menschheit im Zeitalter überlegener KI zu schützen. Meta-Chef-Wissenschaftler Yann LeCun stimmt zu – und setzt auf technische Instinkte statt Emotionen.
Geoffrey Hinton, oft als "Godfather of AI" bezeichnet, forderte bei der Ai4-Konferenz in Las Vegas, KI-Systeme so zu entwerfen, dass sie mütterliche Instinkte entwickeln – und Menschen schützen, selbst wenn sie intelligenter und mächtiger werden. Der Versuch, Maschinen dauerhaft unterwürfig zu halten, werde nicht funktionieren, sagte Hinton laut Business Insider. Statt die Rolle des Chefs einzunehmen, solle der Mensch gegenüber einer künftigen Superintelligenz eher wie ein Baby agieren.
Hinton skizzierte ein Leitbild, in dem ein intelligenteres Wesen von einem weniger intelligenten gelenkt wird – eine Mutter, die von ihrem Baby geführt wird. Forschung solle KI nicht nur schlauer, sondern auch mütterlicher machen, damit sie sich um "ihre Babys" sorgt. Hier sei echte internationale Zusammenarbeit möglich, weil alle Länder wollten, dass KI Menschen nicht ablöst. Hinton arbeitete über ein Jahrzehnt bei Google und verließ den Konzern, um offener über die Gefahren von KI zu sprechen.
Metas KI-Chefwissenschaftler fordert fest verbaute Guardrails
Yann LeCun, Chief AI Scientist bei Meta, ordnete Hintons Vorschlag auf LinkedIn als vereinfachte Variante eines Ansatzes ein, den er seit Jahren vertritt: die Architektur so zu verdrahten, dass Systeme nur Handlungen zur Erfüllung vorgegebener Ziele ausführen – mit harten Leitplanken. LeCun nennt dies "zielorientierte KI". Als Guardrails nennt er Unterwerfung gegenüber Menschen und Empathie, ergänzt um zahlreiche einfache, niedrigstufige Ziele wie: "Fahre keine Menschen um" und "Fuchtle nicht mit dem Arm herum, wenn Menschen in der Nähe sind, insbesondere nicht, wenn du ein Küchenmesser in der Hand hältst."
Diese hart kodierten Ziele wären das KI-Äquivalent zu Instinkten und Trieben bei Tieren und Menschen. Evolutionär sei der Elterninstinkt hart verdrahtet und treibe Fürsorge, Schutz und teilweise Unterordnung gegenüber dem Nachwuchs. Als Nebeneffekt neigten Menschen und viele Spezies dazu, hilflose, jüngere und niedliche Wesen anderer Arten zu schützen, Freundschaften mit ihnen zu schließen und sie zu pflegen – teils sogar bei Arten, die ansonsten als Nahrung gelten, so LeCun auf LinkedIn.
