Greg Brockman, Mitbegründer von OpenAI, sprach mit dem französischen Präsidenten Emmanuel Macron über Chancen und Risiken künstlicher Intelligenz. Dabei ging er auf drei Hauptpunkte ein: Regulierung, Einsatz und Prognosen.
Brockman betont das Potenzial von KI-Modellen wie GPT-4, verschiedene Bereiche wie Medizin, Recht und Landwirtschaft zu revolutionieren. Er verweist auf persönliche Erfahrungen und aktuelle Studien, die belegen sollen, dass KI die Qualität der Arbeit verbessern und Kosten senken kann.
Gleichzeitig unterstreicht er die Bedeutung von Sicherheit und Regulierung bei der Entwicklung von KI und verglich diese mit der Kryptografie. Auch hier gebe es das "Dual Use"-Szenario, also die Möglichkeit, die Technologie sowohl für gute als auch für schlechte Zwecke zu nutzen.
Beispielsweise könne eine KI wie GPT-4 Fragen beantworten oder Sprachen übersetzen. Sie könne aber auch für Dinge wie das Erfinden von Fake News oder das Erstellen gefälschter Videos eingesetzt werden.
Brockman schlug vor, dass die mächtigsten und fortschrittlichsten KI-Modelle daher besonders überwacht werden sollten. Dies dürfe jedoch nicht auf Kosten anderer Modelle und insbesondere der Open-Source-Szene geschehen.
OpenAI und anderen großen KI-Unternehmen wird mitunter vorgeworfen, durch politische Regulierung schwer überwindbare Hürden für Open-Source-Entwickler zu errichten, um das eigene Geschäftsmodell zu schützen. Auf diese Vorwürfe geht Brockman hier indirekt ein.
Iteratives Ausrollen ist die beste Sicherheitsmaßnahme
Laut Brockman ist die wichtigste Sicherheitsentscheidung von OpenAI die iterative Bereitstellung, die es seit GPT-2 anwendet.
Dieser Ansatz beinhaltet die schrittweise Veröffentlichung besserer Versionen der KI-Technologie, entweder des Modells direkt oder über die API oder eine Schnittstelle wie ChatGPT, das Sammeln von Feedback zu Sicherheit und Nützlichkeit und die Einbeziehung der Welt in den Entwicklungsprozess. Nur so könne ein Verständnis für das Potenzial und den Nutzen entstehen.
"Ich habe akzeptiert, dass die Schlagzeilen die Ängste thematisieren werden, aber nur wenn die Menschen die Technologie nutzen, werden sie wirklich verstehen, warum wir sie wollen", schreibt Brockman.
Als positives Beispiel nennt Brockman den iterativen Ansatz von OpenAI, der zur Veröffentlichung von ChatGPT führte, was eine globale Diskussion über KI und KI-Sicherheit auslöste. Brockman betont in diesem Kontext die Bedeutung von demokratischem Input im Entwicklungsprozess.
KI-Fähigkeiten besser vorhersagen
Brockman räumte ein, dass die Geschichte der KI von falschen Expertenprognosen geprägt sei. OpenAI selbst habe mit jedem GPT-Modell einen Kurswechsel vollzogen, und er erwarte, dass sich auch GPT-5 auf noch nicht vorhersehbare Weise von früheren Modellen unterscheiden werde.
Es benötige mehr Investitionen in die Wissenschaft, einschließlich wissenschaftlicher Vorhersagen, streng definierter Sicherheits- und Leistungsbewertungen und objektiver Messungen, die die Entwicklung, Einführung und Regulierung von Frontier-KI-Modellen in Zukunft leiten sollten.
Brockman hebt besonders die Vorhersage der wichtigsten Fähigkeiten von GPT-4 durch OpenAI hervor, bevor das Modell vollständig trainiert war.
"Wir lernen immer mehr, um die Ecke zu sehen! Wir haben viel in den Aufbau eines Deep Learning Stacks investiert, der die Vorhersagbarkeit skaliert", so Brockman.
Am wichtigsten sei es jedoch, mit vielen Akteuren aus Regierungen, Zivilgesellschaft, Industrie und Wissenschaft zu sprechen und zusammenzuarbeiten. "Die Welt ist immer noch klüger als jeder Einzelne von uns", so Brockman.
