Wenn KI schiefgeht: Anthropic-Veteranen planen angeblich Rückzug in abgelegenen US-Regionen

Laut dem Wall Street Journal erwägen einige der dienstältesten Anthropic-Mitarbeiter konkrete Vorsorgemaßnahmen für den Fall, dass KI außer Kontrolle gerät. In den vergangenen Wochen haben einige von ihnen einem Branchenkollegen erzählt, dass sie den Kauf von Land in abgelegenen Regionen der USA in Betracht ziehen, um dorthin umzuziehen, falls die KI-Entwicklung schiefgeht.

KI-Flucht ist kein neues Thema in dieser Szene. Ehemalige Mitarbeitende erinnern sich, dass bereits bei Firmenessen in der Frühphase von Anthropic ein Szenario ähnlich dem Manhattan-Projekt diskutiert wurde: Sie könnten aufgefordert werden, in die Wüste zu ziehen, um KI in einer elektromagnetisch abgeschirmten Anlage der US-Regierung weiterzuentwickeln.

Der WSJ-Bericht zeichnet nach, wie eng besonders frühe Angestellte von Anthropic und OpenAI mit der Subkultur "Effective Altruism" (EA) verbunden sind. Einige stammen aus einem Netzwerk von "Doomern", die sich in der Bay Area seit langem mit Weltuntergangsszenarien beschäftigen. Als einer der ersten warnte Eliezer Yudkowsky bereits Mitte der 2000er-Jahre vor unkontrollierter KI und wurde so zum intellektuellen Vordenker dieser Subkultur. Bevor KI die größte Bedrohung wurde, drehten sich Gespräche um Katastrophenrisiken von Kometeneinschlägen bis Supervulkanen.