Facebook KI-Chef: Schlecht gemachte KI ist die gefährlichste

Die Realität sei aber eine andere: "KI fehlt das, was wir guten Menschenverstand nennen. In diesem Sinne ist sie sehr beschränkt."

Aus dieser Beschränktheit leitet  LeCun die eigentliche KI-Gefahr ab: "Was wir an KI eher fürchten sollten, ist, dass sie nicht gut genug funktioniert."

KI-Risiko: Zu gehorsame Roboter

Wer die KI-Entwicklung aufmerksam verfolgt, findet Beispiele für die von LeCun erwähnte schlecht funktionierende KI: Algorithmen, die Klickverhalten einseitig beeinflussen und Nutzer in eindimensionalen Themenwelten gefangen halten. Rassistische oder sexistische menschliche Vorurteile in Daten für das KI-Training, die von den Systemen unreflektiert übernommen und ausgeführt werden.

Die Dystopie eines totalitären Überwachungsstaates, die sich durch die automatisierte Mustererkennung von KI-Systemen - beispielsweise für die Gesichtserkennung - erfüllen könnte. Eine zunehmende Ungleichheit zwischen Ländern, die KI für ökonomische Zwecke nutzen und solchen, die keinen Zugang zum maschinellen Lernen haben. Das sind die akuten Risikopotenziale bei der KI-Entwicklung.

Hinzu kommt das übergeordnete Drohszenario, dass Menschen KI durch ungenau vorgegebene Ziele falsch einsetzen. Das Resultat wäre ein KI-System, das unaufhaltsam und stumpf sein Ziel verfolgt, selbst dann, wenn es so der Menschheit schadet, sie vielleicht sogar ausradiert.

"Ich habe viel mehr Sorge vor Robotern, die allen Befehlen gehorchen, als vor solchen, die rebellieren", sagte der Historiker Yuval Noah Harari im letzten Jahr in einem Interview mit Facebook-Chef Mark Zuckerberg.

LeCun öffnete Facebooks KI-Forschung

Ähnlich sieht es auch LeCun: Jede Technologie könne für gute und schlechte Zwecke eingesetzt werden. Auf seiner Forschung basierten beispielsweise KI-gestützte Bremssysteme, die ein Kind auf der Straße erkennen und eine Vollbremsung einleiten könnten. Autoritäre Regime hingegen könnten KI für die Massenüberwachung nutzen.

"Es hängt von der Stärke unserer demokratischen Institutionen ab, wie Technologie eingesetzt wird", sagt LeCun. Er lehne es ab, an Waffen und an geheimen Projekten zu forschen. Seine Einstiegsbedingung als KI-Forscher bei Facebook sei daher die öffentliche Publizierung wissenschaftlicher Ergebnisse gewesen.

"Alles, was wir für Facebook erforschen, wird veröffentlicht, in den meisten Fällen als offener Quellcode. Nur so können wir die besten Forschenden anwerben", sagt LeCun. Und fügt später hinzu: "Bei all den Firmen, mit denen ich es bisher zu tun hatte, gehört Facebook zu den angenehmsten."

Gemeinsam mit den KI-Forschern Geoffrey Hinton und Yoshua Bengio wurde Yann LeCun im letzten Jahr mit dem Turing-Award ausgezeichnet, dem wichtigsten Preis der Informatik.

Titelbild: O'Reilly Internal bei Flickr. Lizenziert nach CC NY 2.0.