Was ist das eigentliche Risiko der KI: Regulierung oder Offenheit? Diese Debatte wird hitzig geführt.
Yann LeCun, Leiter der KI-Forschung bei Meta, äußert sich auf Twitter.com zu den möglichen Folgen einer Regulierung der offenen KI-Forschung und -Entwicklung. Er warnt davor, dass dies zu einer Kontrolle der KI-Industrie durch eine kleine Anzahl von Unternehmen führen könnte. Aus seiner Sicht ist dies das gefährlichste denkbare Szenario.
LeCun greift Größen der KI-Forschung an
LeCuns Tweet richtete sich an die KI-Pioniere Geoff Hinton, Yoshua Bengio und Stuart Russell, die wiederholt und öffentlichkeitswirksam Bedenken über mögliche negative Auswirkungen von KI geäußert hatten.
Laut LeCun unterstützt die Mehrheit der akademischen Gemeinschaft die offene KI-Forschung und -Entwicklung, mit den KI-Pionieren Hinton, Bengio und Russell als bemerkenswerte Ausnahmen.
Er argumentiert, dass ihre "Panikmache" den Unternehmenslobbyisten Munition liefere. Die wirkliche KI-Katastrophe wäre, wenn einige wenige Unternehmen die Kontrolle über KI übernähmen.
Konkret wirft LeCun OpenAI-CEO Sam Altman, GoogleDeepmind-CEO Demis Hassabis und OpenAI-Chefwissenschaftler Ilya Sutskever vor, massives Unternehmenslobbying zu betreiben und die KI-Branche unter dem Deckmantel der Sicherheit zu ihren Gunsten regulieren zu wollen.
"Ich habe viele Argumente vorgebracht, die zeigen, dass die Weltuntergangsszenarien, vor denen ihr euch so fürchtet, absurd sind", schreibt LeCun. Er forscht an einer neuen autonomen KI-Architektur, die sich durch Ziele und Leitplanken sicher steuern lässt. Den Wirbel um aktuelle KI-Modelle und speziell große LLMs hält er für übertrieben.
Sichere offene KI ist möglich und erstrebenswert
LeCun plädiert für eine Kombination aus menschlicher Kreativität, Demokratie, Marktkräften und Produktregulierung, um die Entwicklung von KI-Systemen voranzutreiben. Er glaubt, dass sichere und kontrollierbare KI-Systeme möglich sind und macht konkrete Vorschläge in diese Richtung.
In seinem Tweet weist LeCun die Vorstellung zurück, dass KI ein unkontrollierbares Naturphänomen sei, und betont, dass sie von Menschen und Organisationen entwickelt werde, die in der Lage seien, die "richtigen Dinge" zu tun.
Die Forderung nach einer Regulierung der KI-Forschung und -Entwicklung impliziere, dass diese Personen und Organisationen inkompetent, rücksichtslos, selbstzerstörerisch oder böse seien.
LeCun ist ein starker Befürworter von Open-Source-KI-Plattformen und argumentiert, dass diese entscheidend dafür sind, dass KI-Systeme das gesamte menschliche Wissen und die menschliche Kultur widerspiegeln. Er stellt sich eine Zukunft vor, in der Beiträge zu KI-Plattformen wie bei Wikipedia von der Gemeinschaft kommen.
LeCun warnt davor, dass eine Handvoll Unternehmen aus den USA und China die Kontrolle über KI-Plattformen übernehmen würden, wenn Open-Source-KI reguliert würde, was erhebliche Risiken für die Demokratie und die kulturelle Vielfalt mit sich brächte. "Das lässt mich nachts nicht schlafen", schreibt LeCun.
LeCuns Arbeitgeber Meta setzt auf Open-Source-KI
Arbeitgeber von LeCun ist der Facebook-Konzern Meta, der mit seinem Sprachmodell Llama die Entwicklung von Open-Source-KI maßgeblich vorantreibt und weiter vorantreiben will. Das aktuelle Modell Llama 2 liegt etwa auf dem Niveau von GPT-3.5, das kommende Llama 3 soll GPT-4 erreichen.
Ziel von Meta könnte es sein, die eigenen Open-Source-Modelle zu einer Art Betriebsbasis für viele KI-Anwendungen zu machen, ähnlich dem offenen Android für Smartphones. Meta könnte dann mit Zusatzangeboten Geld verdienen und hätte zudem die Entwickler auf seiner Seite, die von einem möglichst breiten Entwicklungsstandard profitieren.
LeCun ist jedoch auch einer der angesehensten KI-Forscher und könnte sich seine Arbeitgeber aussuchen. Seine Aussagen sollten daher seine Überzeugungen widerspiegeln und nicht die Unternehmensstrategie von Meta. Möglicherweise hat LeCun die Open-Source-Strategie von Meta überhaupt erst angestoßen.
Hinton, Bengio und LeCun wurden 2019 gemeinsam für ihre Beiträge zum Deep Learning mit dem Turing Award ausgezeichnet, dem bedeutendsten Preis in der Informatik.
