Nächster Google-Deepmind-Forscher kündigt, weil er schnelle KI-Entwicklung nicht mehr verantworten will

Es ist kaum noch News, aber: Ein weiterer Google-Forscher hat aus Sorge vor KI-Risiken gekündigt. Robert O'Callahan, Technikexperte bei Google Deepmind in Neuseeland, halte die KI-Entwicklung für "viel zu schnell". Seine Arbeit an Chip-Design-Tools habe KI billiger und schneller gemacht - das könne er nicht mehr verantworten. "Millionen tragen zur Beschleunigung von KI bei, und wenn ich den Fuß vom Gas nehme, wird das nur einen sehr kleinen Effekt haben - aber keinen Null-Effekt; einige meiner Fähigkeiten sind selten", so O'Callahan.

Viele Deepmind-Kollegen teilten ernsthafte Bedenken, äußerten diese aber selten öffentlich. O'Callahan warnt vor kognitiver Kapitulation, KI-induzierter Psychose und Einsamkeit, Machtkonzentration, wirtschaftlichen Verwerfungen, Cybersicherheitsrisiken und mangelnder Rechenschaftspflicht. Künftig wolle er "eindeutig pro-Mensch" arbeiten.

Er verlinkt in seinem Beitrag auf das Buch "If Anyone Builds It" von Eliezer Yudkowsky und Nate Soares aus der kontrovers diskutierten Effective-Altruism-Szene, einer elitären Ideologie, der unter anderem vorgeworfen wird, Wohltätigkeit über politische Umverteilung zu stellen. Laut Axios kursiert im Weißen Haus ein Memo, das EA als sektenähnliche Randgruppe darstellt und Anthropic-CEO Dario Amodei als Gesicht des KI-"Doomerism" angreift.