KI-Vorurteile: Twitter versucht es mit Crowdsourcing
Auf der Suche nach Lösungen gegen KI-Vorurteile startet Twitter die weltweit erste Community-Challenge mit Preisgeldern.
KI-Systeme können verschiedene Formen von Vorurteilen (Bias) in sich tragen, die die Vorhersagen der Modelle ungewollt beeinflussen: Bildanalyse-Systeme erkennen Ärzte nur, wenn sie weiß und männlich sind oder identifizieren US-Politiker als Kriminelle, Recruiting-Software sortiert Bewerbungen von Frauen aus und Text-KIs generieren massive Vorurteile über Muslime, Juden oder Frauen. KI-Modelle mit Vorurteilen können große Schäden für marginalisierte Gruppen, Kunden und den Anbieter des KI-Services verursachen.
Ein Wettbewerb für mehr KI-Ethik
Die Vorurteile sind während der Entwicklung des KI-Systems schwer aufzuspüren und werden erst dann offensichtlich, wenn das KI-System im öffentlichen Raum von vielen Menschen genutzt wird, schreibt Twitter.
Das soziale Netzwerk möchte diesem Umstand zukünftig zuvorkommen: Ende Juli startet die erste "Algorithmic Bias Bounty Challenge" im Rahmen der Online-Konferenz DEF CON AI Village. Solche Community-Wettbewerbe mit Preisgeldern sind seit Jahren etwa für die Bug-Suche in Betriebssystemen erfolgreich im Einsatz.
Ziel sei es, eine ähnliche Community für KI-Ethik aufzubauen, die helfen soll, ein "breiteres Spektrum an Problemen zu identifizieren, als es uns alleine möglich wäre", heißt es in der Ankündigung. Twitter möchte so einen Präzedenzfall für die proaktive und kollektive Identifizierung von durch Algorithmen ausgelöste Schäden schaffen.
Twitter: Mit Crowdsourcing gegen KI-Risiken
Erstes Thema des Wettbewerbs ist ein Twitter-Algorithmus, der automatisch Bildausschnitte generiert. Der Algorithmus ist seit 2018 im Einsatz und sorgte im Oktober 2020 für Schlagzeilen, da Nutzer berichteten, dass das KI-Modell zahlreiche Vorurteile aufwies: Der Algorithmus bevorzugte weiße Menschen, Männer und generierte bei Frauen Bildausschnitte der Beine statt des Gesichts.
Twitter untersuchte daraufhin den Algorithmus, veröffentlichte ihn für andere Forscher und entschied, Nutzern mehr Kontrolle über die Bildausschnitte zu geben.
In der Community-Challenge sollen Teilnehmende nun eigene Einschätzungen des Algorithmus vornehmen. Ziel ist es, mit quantitativen und qualitativen Methoden zu zeigen, welche potenziellen Fehler der Algorithmus bei seiner Arbeit machen könnte.
Zu diesen Fehlern zählen laut Twitter sowohl "natürliche" Fehler, die im normalen Umgang mit Twitter auftreten können, als auch Fehler, die durch manipulierte Bilder absichtlich hervorgerufen werden können.
Preisgelder gegen Vorurteile
Die Gewinner des Wettbewerbs werden am 08. August bekanntgegeben. Sie präsentieren ihre Arbeit auf einem Workshop. Als Preisgeld gibt es 3.500 US-Dollar für den ersten Platz, 1.000 US-Dollar für den zweiten und 500 US-Dollar für den dritten.
Zusätzlich gibt es 1.000 US-Dollar für den innovativsten Ansatz und 1.000 US-Dollar für den am besten generalisierbaren Ansatz. Bewertet werden die Einreichungen von Twitter und einer Reihe von Expertinnen für KI-Vorurteile.
Der erste Wettbewerb seiner Art könnte mehr als ein PR-Stunt sein: Unternehmen wie Twitter haben ein großes Interesse daran, eingesetzte Algorithmen vorurteilsfrei zu gestalten, um möglichst viele Nutzer zu erreichen und Kontroversen zu vermeiden.
Vorurteile können außerdem für gezielte Angriffe und Manipulationen genutzt werden: In einer möglichen Zukunft, in der sogenannte Social-Bots mit modernen Sprach-KIs für gezielte Meinungsbeeinflussung genutzt werden könnten, sind Angriffspunkte für sogenannte Adversial Attacks eine vorprogrammierte Katastrophe.
Titelbild: Twitter | Via: Twitter
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.