Inhalt
summary Zusammenfassung
Update
  • Kernaussagen aus weiterem Aufsatz von Hofstadter ergänzt

Update vom 9. Juli 2023:

Anzeige

Hofstadter setzt seine Überlegungen in einem Artikel für The Atlantic fort und äußert sich insbesondere zu großen Sprachmodellen wie GPT-4, die mit großer Selbstverständlichkeit oberflächliche und falsche Informationen generieren würden.

Dieser Tonfall würde selbst hochintelligente Menschen in die Irre führen, dass Maschinen menschliche Autor:innen valide ersetzen könnten. Das sei aber eine Illusion.

Hofstadter arbeitet sich an einer GPT-4-Antwort ab, die aus seiner Sicht begründet, warum er "Gödel, Escher, Bach" geschrieben hat. Der Text sei "von oben bis unten eine Travestie" und vermittle "einen höchst irreführenden Eindruck davon, wer ich bin".

Anzeige
Anzeige

Hofstadters Urteil: "Offen gestanden bin ich fassungslos über die Versuchung, die so viele unbestreitbar intelligente Menschen (darunter viele Freunde von mir) verspüren, undurchsichtige Computersysteme intellektuelle Aufgaben für sie erledigen zu lassen."

Die "reflektierende Stimme eines denkenden, lebendigen Menschen" könne nicht durch die "künstliche Stimme eines Chatbots, der in rasender Geschwindigkeit wahllos vor sich hin plappert" ersetzt werden, wenn es darum gehe, Wahres von Falschem und Echtes von Fake zu unterscheiden.

Genau darin sieht Hofstadter die eigentliche Gefahr von GPT-4 und Co - die Sprachmodelle könnten das Wesen der Wahrheit und damit die gesamte Gesellschaft untergraben.

"Die Illusion, dass computergestützte Systeme, die nie eine einzige Erfahrung in der realen Welt außerhalb von Texten gemacht haben, dennoch absolut zuverlässige Autoritäten in Bezug auf die Welt als Ganzes sind, ist ein schwerwiegender Irrtum, und wenn dieser Irrtum oft genug wiederholt und weithin akzeptiert wird, untergräbt er das Wesen der Wahrheit, auf der unsere Gesellschaft - und ich meine die gesamte menschliche Gesellschaft - beruht."

Douglas Hofstadter

Ursprünglicher Artikel vom 4. Juli 2023:

"Gödel, Escher, Bach"-Autor Douglas Hofstadter hat Angst vor KI

Im KI-Hype ist eine neue Nische entstanden: Der "AI Doomer" (KI-Pessimist), der auf Basis aktueller KI-Entwicklungen eine schwierige Zukunft für die Menschheit voraussagt. Sie erhält prominenten Zuwachs.

Empfehlung

Der renommierte Kognitionswissenschaftler Douglas Hofstadter schlägt sich auf die Seite der AI Doomer und sieht große, wenig vorteilhafte Veränderungen auf die Menschheit zukommen. Er begründet dies vor allem mit der rasanten Entwicklung von KI-Systemen seit dem Aufkommen der ersten Systeme wie Deep Blue, die zuvor unerreichbar scheinende Ziele erreichten, wie Garry Kasparow im Schach zu schlagen oder Go-Champion zu werden.

"Dann wurden die Systeme immer besser im Übersetzen zwischen Sprachen und konnten sogar verständliche Antworten auf schwierige Fragen in natürlicher Sprache geben und sogar Gedichte schreiben", sagt Hofstadter.

Diese Entwicklung habe sein Glaubenssystem erschüttert, dass Maschinen in absehbarer Zeit nicht deutlich intelligenter werden könnten als Menschen.

"Ich habe das Gefühl, dass nicht nur meine Glaubenssysteme zusammenbrechen, sondern dass die gesamte menschliche Rasse bald in den Schatten gestellt und zurückgelassen wird.

Die Leute fragen mich: 'Was meinst du mit 'bald'? Und ich weiß nicht, was ich meine. Ich kann es nicht wissen. Aber ein Teil von mir sagt 5 Jahre, ein Teil von mir sagt 20 Jahre, ein Teil von mir sagt 'Ich weiß nicht, ich habe keine Ahnung'.

Aber der Fortschritt, der beschleunigte Fortschritt hat mich völlig überrascht, nicht nur mich, sondern viele, viele Menschen. Und es gibt eine Art Angst vor einem kommenden Tsunami, der die ganze Menschheit überraschen wird".

Douglas Hofstadter

Der Ausgang dieser Entwicklung sei ungewiss. Hofstadter sieht die Möglichkeit, dass eine übermächtige KI die Menschheit auslöscht. Andernfalls könnte die Menschheit als ein kleines Phänomen im Vergleich zu etwas erscheinen, das viel intelligenter ist und für uns so unverständlich wie Menschen für Kakerlaken.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

KI deprimiert Douglas Hofstadter

Hofstadter hat Grundlagenforschung auf dem Gebiet der Künstlichen Intelligenz betrieben, insbesondere im Bereich "Fluid Concepts and Creative Analogies", wo er die Fähigkeit von Maschinen untersucht, analog zu denken und zu lernen, ähnlich wie Menschen Ideen von einem Kontext in einen anderen übertragen.

Er habe nie geglaubt, dass ein neuronales Netz, das nur vorwärts funktioniere, tiefe Gedanken erzeugen könne. Das ergebe für ihn keinen Sinn, zeige aber, dass er naiv sei.

"Das überwältigt und deprimiert mich wie schon lange nicht mehr", sagt Hofstadter. Der menschliche Geist sei doch nicht so tief und komplex, wie er sich das vorgestellt habe, als er die Bücher "Gödel, Escher, Bach" und "I am a strange loop" geschrieben habe.

"In gewisser Weise fühle ich mich wie eine sehr unvollkommene, fehlerhafte Struktur im Vergleich zu diesen Rechensystemen, die, sagen wir, eine Million Mal oder eine Milliarde Mal mehr Wissen haben als ich und eine Milliarde Mal schneller sind", sagt Hofstadter.

Er habe das Gefühl, dass die Menschheit bald zu Recht überholt sei. "Denn wir sind so unvollkommen und fehlbar. Wir vergessen ständig Dinge, wir verwechseln ständig Dinge, wir widersprechen uns ständig."

Die Entdeckung der KI sei vergleichbar mit jener von Feuer, und die Entwicklung wohl nicht mehr umkehrbar. "Wir haben den Wald wahrscheinlich schon in Brand gesetzt."

Anzeige
Anzeige

Das vollständige Interview gibt’s im folgenden Video zu sehen.

Wenn Hofstadter euch zu sehr deprimiert: Es gibt auch andere Perspektiven. Nach einer aktuellen Aufstellung von IEEE Spectrum glauben nur vier von 22 führenden KI-Expertinnen und -Experten, dass KI zum Ende der Welt führen könnte. Immerhin acht gehen davon aus, dass die aktuellen großen Sprachmodelle zu einer allgemeinen künstlichen Intelligenz führen könnten. Die Prognose-Community Metaculus erwartet eine generelle KI für 2033.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Der Kognitionswissenschaftler Douglas Hofstadter sieht durch die rasante Entwicklung der KI große Veränderungen auf die Menschheit zukommen. Er kann zu den "KI-Doomern" gezählt werden.
  • Hofstadter glaubt, dass Maschinen bald klüger sein könnten als Menschen, was sein bisheriges Glaubenssystem erschüttert und ihn mit einer Art "Tsunami-Angst" zurücklässt.
  • Der Forscher ist von den Fortschritten der KI zutiefst betroffen und sieht darin sowohl eine Bedrohung als auch eine Erniedrigung der menschlichen Intelligenz. Eine positive Perspektive äußert er in einem Interview nicht.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!