Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Nach wochenlangen internen Protesten von über 4.000 Mitarbeitern bewegt sich Google nun in Sachen Künstliche Intelligenz für das Militär: Das Unternehmen möchte laut Berichten von Mitarbeitern keine KI-Waffen entwickeln und entsprechende Richtlinien aufstellen. Was das genau bedeutet, bleibt abzuwarten.

Im "Project Maven" unterstützt Google das US-Militär bei der Entwicklung von Künstlicher Intelligenz für die Bildanalyse. Die KI-Software soll Drohnenaufnahmen blitzschnell in rauen Mengen analysieren und Objekte darin identifizieren können. Angeblich wird sie schon seit Ende letzten Jahres in militärischen Konflikten mit der Terrororganisation "Islamischer Staat" eingesetzt.

Dafür bekommt Google reichlich Gegenwind aus dem eigenen Unternehmen: Über 4.000 Mitarbeiter unterzeichneten seit Anfang April eine Petition an Google-Chef Sundar Pichai. Ihre Forderung: Project Maven soll eingestellt und keine weitere Militärtechnologie mehr entwickelt werden.

Rund ein Dutzend Mitarbeiter sollen das Unternehmen verlassen haben, da die Konzernspitze nicht unmittelbar auf die Proteste reagierte.

Anzeige
Anzeige

KI-Entscheider sahen die Project-Maven-Debatte vorher

Die New York Times deckt jetzt weitere Details der internen Proteste und die Reaktion der Konzernspitze auf. Die Zeitung beruft sich auf Aussagen und Informationen von Google-Mitarbeitern.

So soll Googles führende KI-Forscherin Li Fei-Fei im vergangenen September explizit davor gewarnt haben, die KI-Kooperation mit dem Militär als solche öffentlich zu machen. Das Thema sei "eine fette Beute" für die Medien und diese würden "viele Wege finden, um Google zu schaden."

Fei-Fei sprach in den vergangenen Monaten wiederholt über eine zweite, Menschen-zentrierte Phase der Künstlichen-Intelligenz-Entwicklung. Die Technologie sei von jetzt an der größte Treiber für gesellschaftliche Veränderung.

"Ich weiß nicht, was passiert, wenn die Medien berichten, dass Google heimlich KI-Waffen oder KI-Technologien für die Verteidigungsindustrie entwickelt", schrieb Fei-Fei in einer internen E-Mail.

Google entschied sich damals dazu, Project Maven nicht öffentlich zu machen. Anfang März gaben dann verärgerte Mitarbeiter Informationen zu Project Maven unter der Hand an die Medien.

Empfehlung

"Tu das Richtige"

Laut des NYT-Berichts stellt sich auch Alphabets Londoner KI-Abteilung Deepmind entschieden gegen den Einsatz von KI für militärische Zwecke. Bei der Übernahme durch Google im Januar 2014 sei vereinbart worden, dass Deempinds Technologie niemals für das Militär oder die Überwachung eingesetzt werden dürfe.

In Googles New Yorker Büro sollen Aufkleber mit der Aufschrift "Tu das Richtige" verteilt werden. Ein ausscheidender Ingenieur habe einen Antrag gestellt, einen Konferenzraum nach Clara Immerwahr zu benennen, heißt es im Bericht.

Die deutsche Chemikerin soll 1915 aus Protest Selbstmord begangen haben, da die Forschungsergebnisse ihres Mannes - ebenso Chemiker - für die Herstellung und den Einsatz von Giftgas genutzt wurden.

Google will neue KI-Richtlinien für Militärprojekte entwickeln

Die internen Proteste zeigen offenbar Wirkung: Google-Chef Sundar Pichai hat laut der New York Times bei einer unternehmensweiten Versammlung zu Project Maven die Entwicklung von neuen Richtlinien für den Einsatz von Künstlicher Intelligenz im militärischen Kontext zugesagt. Sie sollen in den kommenden Wochen vorgestellt werden und sich laut Pichai langfristig bewähren.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

In diesen Richtlinien soll die Entwicklung von KI-Waffen ausgeschlossen werden. Unklar ist, wo genau die Google-Entscheider die Grenze ziehen werden:

Wann wird eine Militär-KI zur Waffe? Gilt das für Project Maven entwickelte Bildanalyseverfahren schon als solche? Die Technologie könnte Leben retten, wenn sie beispielsweise vor einem Angriff Zivilisten korrekt identifiziert und die Attacke automatisch abbricht.

Google-Mitgründer Sergey Brin hat sich nach Informationen der NYT ebenfalls bei der Versammlung geäußert: Er habe den Sinn und Zweck von Militärprojekten ausführlich mit Larry Page und Sundar Pichai diskutiert. Aus seiner Sicht sei es besser für den Frieden, wenn das Militär mit internationalen Konzernen kooperiert anstatt ausschließlich mit nationalen Rüstungsunternehmen.

Weiterlesen über Googles KI-Projekte:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!