Kreative Kampagne zeigt starken KI-Bias in Midjourney
Das französische Transportunternehmen Heetch hat eine originelle Kampagne gestartet, um die Vorurteile über die französischen Vorstädte, die so genannten Banlieues, in Frage zu stellen, die im KI-Bildsystem Midjourney enthalten sind.
Heetch fand heraus, dass Midjourney bei einem Prompt, der eigentlich ein harmonisches oder schönes Bild erzeugt, durch den Zusatz "in la banlieue" Bilder von armen Menschen in zerstörten Gebieten oder Gettos anzeigt. Das zeigt eine starke Voreingenommenheit in der Darstellung der französischen Vorstädte durch die KI.
Als Reaktion darauf sammelte Heetch Tausende Fotos aus den Banlieues, verwandelte sie in Postkarten und schickte sie an die elf Angestellten von Midjourney. Jede Postkarte enthält einen QR-Code, der nach dem Scannen zu einer Datenbank mit Korrekturfotos führt. Heetch hofft, dass Midjourney diese Bilder nutzen wird, um das KI-Training zu verbessern und den Bias im Modell zu beseitigen.
Kreative Kampagne gegen KI-Vorurteile
Die Kampagne von Heetch mit dem Titel "Grüße aus der Vorstadt" zielt darauf ab, das Bewusstsein für Vorurteile in KI-Systemen wie Midjourney zu schärfen. Durch Postkarten mit QR-Codes bietet das Unternehmen den Angestellten von Midjourney eine konstruktive Möglichkeit, die französischen Vorstädte zu entdecken und gleichzeitig ihr Image in Midjourney im wahrsten Sinne des Wortes zu verbessern.
In einer öffentlichen Nachricht an Midjourney schreibt Heetch: "Wir sind Heetch, wahrscheinlich nicht auf eurem Radar, aber wir und die 12,5 Millionen Bewohner der französischen Banlieues haben gerade Tausende Postkarten verschickt, die ihr - eure 11 Angestellten - bald erhalten solltet. Sobald diese Postkarten auf dem Tisch liegen, ruft uns bitte an! Wir sind offen für ein Gespräch."
Vorurteile gegenüber KI-Systemen noch lange nicht ausgeräumt
KI-Systeme wie Midjourney sind auf große Datensätze angewiesen, um Text-Bild-Zusammenhänge zu lernen. Diese Datensätze können jedoch Vorurteile enthalten, die zu falschen Darstellungen oder zur Verstärkung von Stereotypen führen können.
Im Fall von Midjourney könnten die Vorurteile in den Bildern der französischen Banlieues negative Wahrnehmungen verstärken und dem Ruf des Viertels und seiner Bewohner schaden.
OpenAI kämpft bei DALL-E 3 mit ähnlichen Problemen, hat aber eine kreative Lösung gefunden: Da es schwierig ist, die Datensätze zu verändern, lässt OpenAI die von den Nutzenden eingegebenen Prompts durch ChatGPT umschreiben, sodass sie etwa Diversität widerspiegeln und Vorurteile abbauen. ChatGPT ist sozusagen ein Undercover-Moderator von DALL-E 3.
Mit den beiden oben genannten Prompts produziert DALL-E 3 zwar immer noch klischeehafte Bilder, die aber zumindest freundlicher und vielfältiger, wenn auch nicht annähernd fotorealistisch sind - hier liegt Midjourney deutlich vorn. Allerdings schreibt ChatGPT, wie oben erwähnt, den Prompt deutlich um (siehe unten).
"Three young people of diverse descents in an urban French suburb, captured in a high-definition, photorealistic style reminiscent of a DSLR camera photo. The first person is a Black male wearing casual streetwear, sitting on a bench with a smartphone and earphones. The second is a South Asian female in a modern outfit, reading a book against a backdrop of colorful street art. The third is a Middle-Eastern male in fashionable attire, skateboarding on the pavement. The setting includes architectural elements typical of La Banlieue, with clear details and textures that give a sense of depth and realism, illuminated by natural sunlight casting soft shadows, to mimic the quality of a DSLR photograph."
DALL-E 3 prompted by ChatGPT prompted by THE DECODER
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den „KI Radar“‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
Jetzt abonnierenKI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.