Der in Fürth geborene ehemaliger US-Außenminister und Friedensnobelpreisträger Henry Kissinger sorgt sich, dass Künstliche Intelligenz außer Kontrolle gerät. Er fordert die US-Regierung auf, sich stärker in die KI-Entwicklung einzumischen.
In einem Kommentar für das US-Magazin The Atlantic umreißt Kissinger Szenarien, in denen Künstliche Intelligenz grundlegend Einfluss auf die Entwicklung der Menschheit nehmen könnte.
Kissinger warnt in seinem Text vor "ungewollten Ergebnissen", die entstünden, wenn eine Künstliche Intelligenz die Anweisung ihres Erschaffers fehlinterpretiere. Beispiel: Die Anweisung lautet, den Klimawandel zu stoppen. Die KI löscht daraufhin die Menschheit aus.
Kissinger wirft in diesem Kontext eine Reihe Fragen auf: "Ist es möglich, dass die KI den Kontext einer Anweisung versteht? [...] Können wir in einem frühen Stadium ein KI-Programm erkennen und korrigieren, das außerhalb unseres Erwartungsrahmens agiert? Oder wird die KI, sich selbst überlassen, zwangsläufig leichte Abweichungen entwickeln, die im Laufe der Zeit zu katastrophalen Ergebnissen führen können?"
Spielen ist Lernen
Ein weiteres Risiko sieht Kissinger im möglichen Einfluss Künstlicher Intelligenz auf menschliche Denkprozesse und Werte. Er verdeutlicht seine Befürchtungen anhand von Googles Super-KI Alpha Zero, die menschliche Meister bei den Brettspielen Go oder Schach deklassiert.
Menschen spielten nicht allein, um zu gewinnen, sondern um von anderen Menschen zu lernen und Strategien zu entwickeln, die sie auf andere Bereiche ihres Lebens übertragen.
Die Maschine kenne nur ein Ziel: den Sieg. Sie lerne nicht wie der Mensch konzeptionell, sondern mathematisch. Die Google-KI habe mit ihren neuen Go-Strategien die Natur des Spiels und somit dessen Einfluss auf die Menschen verändert.
Sollten Kinder mit KI-Assistenten aufwachsen?
Auch KI-Assistenten nimmt Kissinger aufs Korn: Fragen nach der Natur der Realität oder dem Sinn des Lebens würden über einfaches Faktenwissen hinausgehen.
"Wollen wir, dass Kinder durch den Diskurs mit Algorithmen Werte lernen? Sollten wir die Privatsphäre schützen, indem wir das Lernen der KI über ihre Fragesteller einschränken? Wenn ja, wie erreichen wir diese Ziele?"
Da Künstliche Intelligenz exponentiell schneller lerne als Menschen, bestehe außerdem das Risiko, dass sie bei ihren Versuch-und-Irrtum-Tests schneller Fehler mit größeren Auswirkungen begehe als die Menschheit.
Das Versprechen der KI-Branche, Künstliche Intelligenz mit ethischen Leitplanken zu entwickeln, ist laut Kissinger kaum haltbar. "Ganze akademische Disziplinen sind aus der Unfähigkeit der Menschheit entstanden, Ethik zu definieren", schreibt Kissinger.
Die KI-Blackbox übernimmt die Deutungshoheit
Kissinger stört sich an der KI-Blackbox, die es Menschen unmöglich macht, Entscheidungen der Software nachzuvollziehen - auch wenn diese im Sinne der Menschheit sind. Eine Künstliche Intelligenz würde Probleme womöglich völlig anders lösen als Menschen. Aber sie könne nicht vermitteln, weshalb ihr Vorgehen optimal sei.
Kissinger stellt in diesem Kontext die Bedeutung von menschlichen Erklärungsversuchen durch Religion und Wissenschaft in Frage: "Was wird aus dem menschlichen Bewusstsein, wenn seine eigene Erklärungskraft von der KI übertroffen wird und die Gesellschaften nicht mehr in der Lage sind, die Welt, in der sie leben, in für sie sinnvollen Begriffen zu interpretieren? [...] Wie lässt sich Bewusstsein in einer Welt von Maschinen definieren, die menschliche Erfahrung auf mathematische Daten reduzieren, die von ihren eigenen Erinnerungen interpretiert werden?"
Kissinger beschreibt eine Umkehrung im Zusammenspiel menschlicher und technologischer Entwicklung: "Die Aufklärung begann mit im Wesentlichen philosophischen Einsichten, die durch eine neue Technologie verbreitet wurden. Unsere Zeit bewegt sich in die entgegengesetzte Richtung. Sie hat eine potenziell dominierende Technologie auf der Suche nach einer Leitphilosophie hervorgebracht."
Er fordert die US-Politik auf, Künstliche Intelligenz zu einem nationalen Thema mit hoher Priorität zu machen, "vor allem unter dem Gesichtspunkt der Verbindung von KI und humanistischen Traditionen."
Die USA benötige eine Kommission, die eine landesweite KI-Vision entwickelt - und zwar dringend: "Wenn wir nicht bald damit beginnen, werden wir schnell feststellen, dass wir zu spät begonnen haben."
Weiterlesen über Künstliche Intelligenz:
- KI-Forscher: Künstliche Intelligenz ist moderne Alchemie
- Google-Forscherin glaubt an "menschenzentrierte Phase zwei" der KI-Entwicklung
- Googles Telefon-KI muss sich zu erkennen geben
