OpenAIs "Collective Alignment"-Team soll Künstliche Intelligenz demokratischer machen
Kurz & Knapp
- OpenAI hat ein "Collective Alignment"-Team eingerichtet, um die Vielfalt der Perspektiven und Kulturen in KI-Modellen besser zu repräsentieren und Feedback aus der Öffentlichkeit einzubeziehen.
- Das Förderprogramm "Democratic Inputs to AI" unterstützt zehn Teams weltweit mit jeweils 100.000 Dollar, um Ideen und Werkzeuge für die kollektive Kontrolle von KI-Systemen zu entwickeln.
- Die ersten Pilotprojekte konzentrieren sich auf partizipatives Engagement, wie Video-Debatten-Schnittstellen, öffentliche Überprüfung von KI-Modellen und mathematische Formulierung von Repräsentationsgarantien.
Ein neues Team bei OpenAI soll dafür sorgen, dass die Vielfalt der Perspektiven und Kulturen in den KI-Modellen besser repräsentiert wird.
Dazu soll das neue "Collective Alignment"-Team Feedback und Daten aus der Öffentlichkeit berücksichtigen. Das Team aus Wissenschaftlern und Ingenieuren hat die Aufgabe, ein System zu entwickeln, das Feedback aus der Öffentlichkeit sammelt und in die Systeme von OpenAI einfließen lässt. Zu diesem Zweck wird es mit externen Beratern und Förderteams zusammenarbeiten, Pilotprojekte starten und Prototypen entwickeln.
Die Führungsriege von OpenAI hat bereits in der Vergangenheit betont, dass die Grenzen und Ziele von KI-Systemen demokratisch festgelegt werden müssen. Bislang ist das nur eingeschränkt möglich, da insbesondere ChatGPT stark von den Leitlinien und politischen Überzeugungen von OpenAI geprägt ist. Studien zeigen, dass der Chatbot eher linksliberal einzuordnen ist.
Erste Pilotprojekte zur Demokratisierung von KI
Das OpenAI-Förderprogramm "Democratic Inputs to AI" zielt darauf ab, die Öffentlichkeit an Entscheidungen über das Verhalten von KI zu beteiligen, um die Modelle mit menschlichen Werten in Einklang zu bringen.
Seit Mai 2023 hat OpenAI jeweils 100.000 Dollar an zehn Teams aus der ganzen Welt vergeben, um Ideen und Werkzeuge für die kollektive Kontrolle von KI-Systemen zu entwickeln.
Die ersten Pilotprojekte konzentrieren sich auf verschiedene Aspekte des partizipativen Engagements, darunter neuartige Video-Debatten-Schnittstellen, die Überprüfung von KI-Modellen durch die Öffentlichkeit und die mathematische Formulierung von Repräsentationsgarantien.
OpenAI fasst die wichtigsten Erkenntnisse aus dem Programm wie folgt zusammen:
Die öffentliche Meinung kann sich häufig ändern
Viele Teams stellten fest, dass sich die öffentliche Meinung häufig ändert, was sich auf die Häufigkeit der Prozesse zur Sammlung von Beiträgen auswirken kann.
Die Überbrückung der digitalen Kluft ist immer noch schwierig
Die Rekrutierung von Teilnehmern über die digitale und kulturelle Kluft hinweg könnte zusätzliche Investitionen in bessere Öffentlichkeitsarbeit und Instrumente erfordern.
Einigung zwischen polarisierten Gruppen
Es kann schwierig sein, einen Kompromiss zu finden, wenn eine kleine Gruppe starke Meinungen zu einem bestimmten Thema hat.
Konsens erreichen versus Vielfalt repräsentieren
Der Versuch, ein einheitliches Ergebnis oder eine einheitliche Entscheidung zu erzielen, um eine Gruppe zu repräsentieren, kann zu Spannungen zwischen dem Streben nach Konsens und der angemessenen Repräsentation unterschiedlicher Meinungen führen.
Hoffnungen und Befürchtungen in Bezug auf die Zukunft der KI-Governance
Einige Teilnehmer äußerten Bedenken hinsichtlich des Einsatzes von KI in der Politik und forderten Transparenz darüber, wann und wie KI in demokratischen Prozessen eingesetzt wird.
Übersicht und Beschreibung der Pilotprojekte sind auf der Webseite von OpenAI verfügbar. Die Firma stellte zudem neue Sicherheitsregeln vor, die der Manipulation demokratischer Wahlen durch KI entgegenwirken sollen.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.