- Aussagen aus The Guardian ergänzt
Update vom 4. Mai 2023:
Hinton sagt der britischen Zeitung The Guardian, nach seinem öffentlichen Rückzug von Google hätten ihn Bernie Sanders, Elon Musk und das Weiße Haus kontaktiert, um mit ihm über die Risiken von KI zu diskutieren.
Er sei ein "Sozialist", sagt Hinton, und glaube, dass Medien und große IT-Infrastrukturen nicht in privater Hand sein sollten. Google habe im Rahmen eines kapitalistischen Systems so verantwortungsvoll wie möglich gehandelt, sei aber letztlich seinen Aktionären verpflichtet.
Einen konkreten Lösungsvorschlag für KI-Risiken hat Hinton nicht parat. Er habe nur "plötzlich ein Bewusstsein dafür entwickelt", dass etwas "wirklich Schlimmes" passieren könne.
"Wir müssen jetzt gründlich darüber nachdenken, was wir machen können. Der Grund, warum ich nicht so optimistisch bin, ist, dass ich keine Beispiele kenne, in denen intelligentere Dinge von weniger intelligenten Dingen kontrolliert wurden."
Insbesondere autoritäre Regime könnten von KI-Technologie profitieren, indem sie "die Wahrheit zerstören" oder Wahlen manipulieren. In den USA stünden diese Möglichkeiten einer gespaltenen Bevölkerung gegenüber, die sich nicht einmal darauf einigen könne, keine Maschinengewehre mehr an Privatpersonen zu verkaufen.
Ursprünglicher Artikel vom 1. Mai 2023:
"KI-Pate" Hinton verlässt Google - und bereut seine Forschung
Geoffrey Hinton ist einer der bekanntesten KI-Forscher. Jetzt beendet er seine Karriere bei Google - und verabschiedet sich mit einer Warnung.
Der renommierte Informatiker und Wahrnehmungspsychologe Geoffrey Hinton hat vor rund zehn Jahren mit seinen Forschungen zu künstlichen neuronalen Netzen, Deep Learning und insbesondere zur Backpropagation die Grundlagen für heutige fortschrittliche KI-Systeme wie ChatGPT gelegt. Dafür wurde er unter anderem mit dem "Nobelpreis der Informatik", dem Turing Award, ausgezeichnet.
Im April kündigte Hinton seinen Job bei Google, um nach eigenen Angaben die KI-Entwicklung frei kritisieren zu können. Jetzt spricht er in der New York Times offen über seine Bedenken hinsichtlich der rasanten Entwicklung der Künstlichen Intelligenz.
"Schauen Sie sich an, wie es vor fünf Jahren war und wie es heute ist", sagte Hinton über den Stand der KI. "Nehmen Sie den Unterschied und denken Sie ihn weiter. Es ist erschreckend."
Ein Teil von ihm bedauere sein Lebenswerk, sagt Hinton. Er tröste sich mit der in solchen Fällen "üblichen Entschuldigung": Wenn er es nicht getan hätte, wäre jemand anderes gekommen.
Hinton hat sich um 30 bis 50 Jahre verschätzt
Hinton befürchtet zunächst die massenhafte Verbreitung von Fake-News, -Videos und -Fotos, sodass die Menschen nicht mehr wüssten, was wahr sei. Es sei schwer vorstellbar, wie Missbrauch verhindert werden könne. Auch die Auswirkungen auf den Arbeitsmarkt sieht Hinton kritisch, da KI möglicherweise mehr als nur die lästige Arbeiten übernehmen könne.
Eine weitere Befürchtung Hintons ist die Entwicklung von KI-basierten autonomen Waffen, zu denen er sich bereits in der Vergangenheit kritisch geäußert hat. Die Entwicklungsgeschwindigkeit von KI hat Hinton laut eigener Aussage deutlich unterschätzt.
"Die Idee, dass dieses Zeug tatsächlich intelligenter werden könnte als der Mensch - es gab ein paar Leute, die daran geglaubt haben", sagt Hinton. "Aber die meisten hielten es für völlig abwegig. Und ich hielt es für weit hergeholt. Ich dachte, es würde noch 30 bis 50 Jahre oder länger dauern. Aber offensichtlich glaube ich das nicht mehr."
Bis vor einem Jahr habe Google die Risiken der Technologie gut im Griff gehabt und darauf geachtet, nichts zu veröffentlichen, was Schaden anrichten könnte. Aber Microsoft habe einen Wettbewerb ausgelöst, der ohne globale Regulierung vielleicht nicht mehr zu stoppen sei.
Hintons beste Hoffnung sei, dass die führenden Wissenschaftlerinnen und Wissenschaftler Wege finden, die Technologie zu kontrollieren. Bis dahin sollten sie diese nicht weiterentwickeln. "Ich glaube nicht, dass sie sie weiterentwickeln sollten, bevor sie nicht verstanden haben, ob sie sie kontrollieren können", sagt Hinton.
Hinton erinnert an Robert Oppenheimer, der als "Vater der Atombombe" gilt. Er habe seine Arbeit an einer potenziell gefährlichen Technologie allein mit deren Machbarkeit gerechtfertigt. Früher habe Hinton Oppenheimer regelmäßig zitiert. Heute nicht mehr.
Mit Deep Learning zur menschenähnlichen KI?
Der 75-jährige Brite geht davon aus, dass eine menschenähnliche Künstliche Intelligenz nur mit Deep Learning erreichbar ist. Entsprechend trainierte KI-Systeme könnten bei ausreichender Skalierung die gesamte menschliche Intelligenz abbilden.
Ein Umdenken habe bei ihm stattgefunden, als er die großen Sprachmodelle von Google und OpenAI studiert habe. Diese seien dem menschlichen Gehirn zwar in mancher Hinsicht unterlegen, in anderer Hinsicht aber weit überlegen. Was in diesen Systemen passiere, sei möglicherweise "viel besser" als das, was im menschlichen Gehirn geschehe, so Hinton.
Ob die Skalierung bestehender KI-Systeme für eine menschenähnliche oder allgemeine KI ausreicht, ist umstritten. Renommierte Forscher wie Metas KI-Chef Yann LeCun oder Gary Marcus gehen davon aus, dass grundlegend andere Architekturen nötig sind. Kritiker vergleichen den Versuch, mit Deep Learning allgemeine KI zu erreichen, mit dem Versuch, mit einer Leiter auf den Mond zu klettern.
Wenig umstritten ist hingegen die These, dass KI-Systeme, seien sie nun generell oder gar nicht intelligent, sondern lediglich kognitiv leistungsfähig, einen erheblichen Einfluss auf unser Leben haben können.
