Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

Auf der Suche nach Lösungen gegen KI-Vorurteile startet Twitter die weltweit erste Community-Challenge mit Preisgeldern.

KI-Systeme können verschiedene Formen von Vorurteilen (Bias) in sich tragen, die die Vorhersagen der Modelle ungewollt beeinflussen: Bildanalyse-Systeme erkennen Ärzte nur, wenn sie weiß und männlich sind oder identifizieren US-Politiker als Kriminelle, Recruiting-Software sortiert Bewerbungen von Frauen aus und Text-KIs generieren massive Vorurteile über Muslime, Juden oder Frauen. KI-Modelle mit Vorurteilen können große Schäden für marginalisierte Gruppen, Kunden und den Anbieter des KI-Services verursachen.

Ein Wettbewerb für mehr KI-Ethik

Die Vorurteile sind während der Entwicklung des KI-Systems schwer aufzuspüren und werden erst dann offensichtlich, wenn das KI-System im öffentlichen Raum von vielen Menschen genutzt wird, schreibt Twitter.

Das soziale Netzwerk möchte diesem Umstand zukünftig zuvorkommen: Ende Juli startet die erste "Algorithmic Bias Bounty Challenge" im Rahmen der Online-Konferenz DEF CON AI Village. Solche Community-Wettbewerbe mit Preisgeldern sind seit Jahren etwa für die Bug-Suche in Betriebssystemen erfolgreich im Einsatz.

Anzeige
Anzeige

Ziel sei es, eine ähnliche Community für KI-Ethik aufzubauen, die helfen soll, ein "breiteres Spektrum an Problemen zu identifizieren, als es uns alleine möglich wäre", heißt es in der Ankündigung. Twitter möchte so einen Präzedenzfall für die proaktive und kollektive Identifizierung von durch Algorithmen ausgelöste Schäden schaffen.

Twitter: Mit Crowdsourcing gegen KI-Risiken

Erstes Thema des Wettbewerbs ist ein Twitter-Algorithmus, der automatisch Bildausschnitte generiert. Der Algorithmus ist seit 2018 im Einsatz und sorgte im Oktober 2020 für Schlagzeilen, da Nutzer berichteten, dass das KI-Modell zahlreiche Vorurteile aufwies: Der Algorithmus bevorzugte weiße Menschen, Männer und generierte bei Frauen Bildausschnitte der Beine statt des Gesichts.

Twitter untersuchte daraufhin den Algorithmus, veröffentlichte ihn für andere Forscher und entschied, Nutzern mehr Kontrolle über die Bildausschnitte zu geben.

In der Community-Challenge sollen Teilnehmende nun eigene Einschätzungen des Algorithmus vornehmen. Ziel ist es, mit quantitativen und qualitativen Methoden zu zeigen, welche potenziellen Fehler der Algorithmus bei seiner Arbeit machen könnte.

Zu diesen Fehlern zählen laut Twitter sowohl "natürliche" Fehler, die im normalen Umgang mit Twitter auftreten können, als auch Fehler, die durch manipulierte Bilder absichtlich hervorgerufen werden können.

Empfehlung

Preisgelder gegen Vorurteile

Die Gewinner des Wettbewerbs werden am 08. August bekanntgegeben. Sie präsentieren ihre Arbeit auf einem Workshop. Als Preisgeld gibt es 3.500 US-Dollar für den ersten Platz, 1.000 US-Dollar für den zweiten und 500 US-Dollar für den dritten.

Zusätzlich gibt es 1.000 US-Dollar für den innovativsten Ansatz und 1.000 US-Dollar für den am besten generalisierbaren Ansatz. Bewertet werden die Einreichungen von Twitter und einer Reihe von Expertinnen für KI-Vorurteile.

Der erste Wettbewerb seiner Art könnte mehr als ein PR-Stunt sein: Unternehmen wie Twitter haben ein großes Interesse daran, eingesetzte Algorithmen vorurteilsfrei zu gestalten, um möglichst viele Nutzer zu erreichen und Kontroversen zu vermeiden.

Vorurteile können außerdem für gezielte Angriffe und Manipulationen genutzt werden: In einer möglichen Zukunft, in der sogenannte Social-Bots mit modernen Sprach-KIs für gezielte Meinungsbeeinflussung genutzt werden könnten, sind Angriffspunkte für sogenannte Adversial Attacks eine vorprogrammierte Katastrophe.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Titelbild: Twitter | Via: Twitter

Weiterlesen über Künstliche Intelligenz:

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!