Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Als Google 2014 das Londoner KI-Unternehmen Deepmind übernahm, wurde auch die zukünftige Kontrolle über eine mögliche Super-KI verhandelt.

Falls Künstliche Intelligenz eines Tages das Potenzial entfaltet, das ihr nachgesagt wird, dann dürfte Googles Deepmind-Übernahme 2014 die wichtigste Investition des Konzerns gewesen sein. Google kaufte das Unternehmen zu einem aus heutiger Sicht Schnäppchenpreis von 500 Millionen US-Dollar. Zum Vergleich: Nur rund drei Monate nach Googles Deepmind-Übernahme investierte Facebook sechsmal so viel in das VR-Startup Oculus.

Mit Googles Investitionen gelangen Deepmind in den letzten Jahren zahlreiche Forschungserfolge. Der wohl bemerkenswerteste war die Brettspiel-KI Alpha Zero, die sich in Go, Schach und Shogi von Grund auf und eigenständig auf übermenschliches Niveau trainierte.

"Kontrolle" über mögliche Super-KI liegt bei geheimem Ethik-Ausschuss

Bei der Übernahme 2014 verhandelte Deepmind mit Google über die Kontrolle der Zukunftstechnologie. Bekannt ist, dass sich Deepmind eine Vereinbarung sicherte, dass die eigene Künstliche Intelligenz nicht fürs Militär oder die Überwachung eingesetzt werden darf. Womöglich mit ein Grund, weshalb sich Google aus entsprechenden Militärverträgen zurückzog und derzeit keine Technologie für Gesichtserkennung anbietet.

Anzeige
Anzeige

In einem lesenswerten Porträt von Deepmind-Gründer Demis Hassabis beschreibt The-Economist-Autor Hal Hodson erstmals, dass seinerzeit auch die Gründung eines Ethik-Ausschusses beschlossen wurde. Beide Parteien unterzeichneten einen Vertrag mit dem Titel "Ethik- und Sicherheitsüberprüfungsvereinbarung".

Diese Vereinbarung sieht vor, dass ein Ethik-Ausschuss die Kontrolle - wie auch immer diese aussehen würde -  über eine allgemeine Super-KI übernimmt, sollte Deepmind deren Entwicklung gelingen. In dem Ausschuss sollen die drei Deepmind-Gründer Demis Hassabis, Shane Legg und Mustafa Suleyman sitzen. Die weiteren Mitglieder sind nicht bekannt.

Deepmind kommentiert Hodsons Quellen auf Anfrage nicht konkret, antwortet aber, dass Ethik und Kontrolle seit den Anfangstagen des Unternehmens hohe Priorität hätten.

Titelbild: Deepmind

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Weiterlesen über Super-KIs:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!