Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Ein neues Team bei OpenAI soll dafür sorgen, dass die Vielfalt der Perspektiven und Kulturen in den KI-Modellen besser repräsentiert wird.

Dazu soll das neue "Collective Alignment"-Team Feedback und Daten aus der Öffentlichkeit berücksichtigen. Das Team aus Wissenschaftlern und Ingenieuren hat die Aufgabe, ein System zu entwickeln, das Feedback aus der Öffentlichkeit sammelt und in die Systeme von OpenAI einfließen lässt. Zu diesem Zweck wird es mit externen Beratern und Förderteams zusammenarbeiten, Pilotprojekte starten und Prototypen entwickeln.

Die Führungsriege von OpenAI hat bereits in der Vergangenheit betont, dass die Grenzen und Ziele von KI-Systemen demokratisch festgelegt werden müssen. Bislang ist das nur eingeschränkt möglich, da insbesondere ChatGPT stark von den Leitlinien und politischen Überzeugungen von OpenAI geprägt ist. Studien zeigen, dass der Chatbot eher linksliberal einzuordnen ist.

Erste Pilotprojekte zur Demokratisierung von KI

Das OpenAI-Förderprogramm "Democratic Inputs to AI" zielt darauf ab, die Öffentlichkeit an Entscheidungen über das Verhalten von KI zu beteiligen, um die Modelle mit menschlichen Werten in Einklang zu bringen.

Anzeige
Anzeige

Seit Mai 2023 hat OpenAI jeweils 100.000 Dollar an zehn Teams aus der ganzen Welt vergeben, um Ideen und Werkzeuge für die kollektive Kontrolle von KI-Systemen zu entwickeln.

Die ersten Pilotprojekte konzentrieren sich auf verschiedene Aspekte des partizipativen Engagements, darunter neuartige Video-Debatten-Schnittstellen, die Überprüfung von KI-Modellen durch die Öffentlichkeit und die mathematische Formulierung von Repräsentationsgarantien.

OpenAI fasst die wichtigsten Erkenntnisse aus dem Programm wie folgt zusammen:

Die öffentliche Meinung kann sich häufig ändern

Viele Teams stellten fest, dass sich die öffentliche Meinung häufig ändert, was sich auf die Häufigkeit der Prozesse zur Sammlung von Beiträgen auswirken kann.

Empfehlung

Die Überbrückung der digitalen Kluft ist immer noch schwierig

Die Rekrutierung von Teilnehmern über die digitale und kulturelle Kluft hinweg könnte zusätzliche Investitionen in bessere Öffentlichkeitsarbeit und Instrumente erfordern.

Einigung zwischen polarisierten Gruppen

Es kann schwierig sein, einen Kompromiss zu finden, wenn eine kleine Gruppe starke Meinungen zu einem bestimmten Thema hat.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Konsens erreichen versus Vielfalt repräsentieren

Der Versuch, ein einheitliches Ergebnis oder eine einheitliche Entscheidung zu erzielen, um eine Gruppe zu repräsentieren, kann zu Spannungen zwischen dem Streben nach Konsens und der angemessenen Repräsentation unterschiedlicher Meinungen führen.

Hoffnungen und Befürchtungen in Bezug auf die Zukunft der KI-Governance

Einige Teilnehmer äußerten Bedenken hinsichtlich des Einsatzes von KI in der Politik und forderten Transparenz darüber, wann und wie KI in demokratischen Prozessen eingesetzt wird.

Übersicht und Beschreibung der Pilotprojekte sind auf der Webseite von OpenAI verfügbar. Die Firma stellte zudem neue Sicherheitsregeln vor, die der Manipulation demokratischer Wahlen durch KI entgegenwirken sollen.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • OpenAI hat ein "Collective Alignment"-Team eingerichtet, um die Vielfalt der Perspektiven und Kulturen in KI-Modellen besser zu repräsentieren und Feedback aus der Öffentlichkeit einzubeziehen.
  • Das Förderprogramm "Democratic Inputs to AI" unterstützt zehn Teams weltweit mit jeweils 100.000 Dollar, um Ideen und Werkzeuge für die kollektive Kontrolle von KI-Systemen zu entwickeln.
  • Die ersten Pilotprojekte konzentrieren sich auf partizipatives Engagement, wie Video-Debatten-Schnittstellen, öffentliche Überprüfung von KI-Modellen und mathematische Formulierung von Repräsentationsgarantien.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!