OpenAI fordert: Künstliche Intelligenz braucht mehr Sozialwissenschaftler
Die Non-Profit-Organisation OpenAI fordert, dass neben Informatikern auch Sozialwissenschaftler die KI-Entwicklung prägen sollen.
Für eine sichere KI-Entwicklung braucht es neben Spezialisten für maschinelles Lernen auch Sozialwissenschaftler. So lautet die Forderung des KI-Forschungsinstituts OpenAI, das von Tech-Milliardären wie Peter Thiel (u.a. Paypal) und Reid Hoffmann (u.a. Linkedin) unterstützt wird.
Ein Großteil der KI-Sicherheitsforscher fokussiere sich auf maschinelles Lernen, heißt es in einer neuen Veröffentlichung. Die Tech-Expertise alleine liefere jedoch keinen ausreichenden fachlichen Hintergrund, um sicherzustellen, dass KI und Mensch sinnvoll miteinander kooperieren.
Diese Lücke müssten Sozialwissenschaftler mit ihrem Fachwissen zu menschlicher Wahrnehmung, Verhalten, Ethik und zur Durchführung von Experimenten füllen. Erst die Zusammenarbeit zwischen den beiden Fachrichtungen könne dafür sorgen, dass eine Künstliche Intelligenz so handele, wie es ihre Erschaffer planten.
Was schiefgehen kann, wenn eine KI eine Aufgabe durch ungeplante Aktionen erfüllt, zeigt dieser fatalistische Büroklammer-Simulator.
Einfühlen in die Maschine
Ein Vorschlag von OpenAI für den Umgang mit komplexen Aufgabenstellungen lautet: Menschen sollen KI-Aufgaben in Debatten diskutieren, bei denen eine Person die Rolle der Maschine übernimmt und mit einer zweiten Person mögliche Handlungsweisen bespricht. Eine dritte Person überwacht und bewertet die Gespräche. Die dabei gewonnenen Erkenntnisse sollen dann auf das Maschinenlernen übertragen werden.
"Für die richtige Ausrichtung fortschrittlicher KI entlang menschlicher Werte müssen wir Unklarheiten auflösen im Zusammenhang mit der Psychologie der menschlichen Rationalität, Emotionen und Vorurteilen", heißt es im Papier. "Wir glauben, dass eine enge Zusammenarbeit zwischen Sozialwissenschaftlern und KI-Forschern das Verständnis der menschlichen Seite der KI-Entwicklung verbessern kann."
OpenAI möchte aus diesem Grund Vollzeit einige Sozialwissenschaftler einstellen.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.