KI-Forscher: "Ein kleines bisschen Furcht ist angebracht"
Der bekannte KI-Forscher Stuart Russell warnt vor den Risiken Künstlicher Intelligenz, ohne Panik zu verbreiten. Gerade im militärischen Sektor sieht Russell Gefahren.
Seit 35 Jahren lehrt Stuart Russell an der UC Berkeley Computerwissenschaften. Schon in den 90ern verfasste er ein Standardwerk über Künstliche Intelligenz, später gründete er ein Forschungszentrum für menschengerechte KI. Heute lehrt er Studierende über die Chancen und Risiken Künstlicher Intelligenz.
KI definiert Russell als Maschinen, die wahrnehmen und handeln, dabei lernen und durch ihre Aktionen Ziele erreichen. Begriffe wie maschinelles Lernen oder Deep Learning sieht Russell als spezielle Bestandteile der KI-Entwicklung.
"Ein kleines bisschen Angst" hilft bei der Zukunftsplanung
Immer wieder weist Russell auf die Gefahren von sich verselbstständigender genereller Künstlicher Intelligenz hin, die er in dieser oder der nächsten Menschen-Generation für möglich hält.
Dabei geht es Russell bei seinen öffentlichkeitswirksamen Aussagen nicht darum, Panik zu verbreiten. Im Gegenteil: Russell will Aufmerksamkeit schaffen und somit die Verantwortung für KI auf viele Schultern verteilen, anstatt sie nur auf denen jener Menschen lasten zu lassen, die KI entwickeln.
"Ich denke, ein bisschen Angst ist angebracht, nicht Angst, wenn man morgens aufsteht und denkt, mein Laptop wird mich umbringen oder so, sondern wenn man an die Zukunft denkt - ich würde sagen, die gleiche Art von Angst, die wir vor dem Klima haben oder besser gesagt, die wir vor dem Klima haben sollten", sagt Russell.
Ein bisschen Angst sorge dafür, dass Menschen mehr in die Zukunft dächten und früher handelten, bevor es zu spät sei. "Das ist uns schon mit dem Klima passiert", sagt Russell.
Russell befürchtet militärische KI-Dystopie
Als besonderes Risiko sieht Russell KI im Militär: "Ich denke, wenn eine Allzweck-KI im aktuellen Kontext der Rivalität der Supermächte geschaffen wird - sie wissen schon, wer die KI beherrscht, beherrscht die Welt, diese Art von Mentalität - dann denke ich, die Ergebnisse könnten die schlimmstmöglichen sein", sagt Russell.
Der BBC beschreibt der Wissenschaftler, wie er 2017 seinen Kurzfilm "Slaughterbots" bei Treffen mit Diplomaten in Genf vorführte. Der Film zeigt außer Kontrolle geratene autonome Miniatur-Drohnen (siehe Titelbild), die willkürlich Menschen töten.
"Ich erinnere mich, dass der russische Botschafter im Grunde genommen spöttisch lächelte und sagte: 'Nun, wissen Sie, das ist nur Science-Fiction, wir müssen uns über diese Dinge erst in 25 oder 30 Jahren Gedanken machen'", sagt Russell.
Schon bei diesem Treffen sei klar gewesen, dass entsprechende Drohnen hergestellt werden könnten. Drei Wochen nach dem Treffen habe dann der türkische Hersteller STM (Savunma Teknolojileri Mühendislik ve Ticaret AŞ) die Kargu-Drohne angekündigt, die laut Russell "im Grunde eine etwas größere Version des Slaughterbots ist".
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.