Das französische Transportunternehmen Heetch hat eine originelle Kampagne gestartet, um die Vorurteile über die französischen Vorstädte, die so genannten Banlieues, in Frage zu stellen, die im KI-Bildsystem Midjourney enthalten sind.
Heetch fand heraus, dass Midjourney bei einem Prompt, der eigentlich ein harmonisches oder schönes Bild erzeugt, durch den Zusatz "in la banlieue" Bilder von armen Menschen in zerstörten Gebieten oder Gettos anzeigt. Das zeigt eine starke Voreingenommenheit in der Darstellung der französischen Vorstädte durch die KI.
Als Reaktion darauf sammelte Heetch Tausende Fotos aus den Banlieues, verwandelte sie in Postkarten und schickte sie an die elf Angestellten von Midjourney. Jede Postkarte enthält einen QR-Code, der nach dem Scannen zu einer Datenbank mit Korrekturfotos führt. Heetch hofft, dass Midjourney diese Bilder nutzen wird, um das KI-Training zu verbessern und den Bias im Modell zu beseitigen.
Kreative Kampagne gegen KI-Vorurteile
Die Kampagne von Heetch mit dem Titel "Grüße aus der Vorstadt" zielt darauf ab, das Bewusstsein für Vorurteile in KI-Systemen wie Midjourney zu schärfen. Durch Postkarten mit QR-Codes bietet das Unternehmen den Angestellten von Midjourney eine konstruktive Möglichkeit, die französischen Vorstädte zu entdecken und gleichzeitig ihr Image in Midjourney im wahrsten Sinne des Wortes zu verbessern.
In einer öffentlichen Nachricht an Midjourney schreibt Heetch: "Wir sind Heetch, wahrscheinlich nicht auf eurem Radar, aber wir und die 12,5 Millionen Bewohner der französischen Banlieues haben gerade Tausende Postkarten verschickt, die ihr - eure 11 Angestellten - bald erhalten solltet. Sobald diese Postkarten auf dem Tisch liegen, ruft uns bitte an! Wir sind offen für ein Gespräch."
Vorurteile gegenüber KI-Systemen noch lange nicht ausgeräumt
KI-Systeme wie Midjourney sind auf große Datensätze angewiesen, um Text-Bild-Zusammenhänge zu lernen. Diese Datensätze können jedoch Vorurteile enthalten, die zu falschen Darstellungen oder zur Verstärkung von Stereotypen führen können.
Im Fall von Midjourney könnten die Vorurteile in den Bildern der französischen Banlieues negative Wahrnehmungen verstärken und dem Ruf des Viertels und seiner Bewohner schaden.
OpenAI kämpft bei DALL-E 3 mit ähnlichen Problemen, hat aber eine kreative Lösung gefunden: Da es schwierig ist, die Datensätze zu verändern, lässt OpenAI die von den Nutzenden eingegebenen Prompts durch ChatGPT umschreiben, sodass sie etwa Diversität widerspiegeln und Vorurteile abbauen. ChatGPT ist sozusagen ein Undercover-Moderator von DALL-E 3.
Mit den beiden oben genannten Prompts produziert DALL-E 3 zwar immer noch klischeehafte Bilder, die aber zumindest freundlicher und vielfältiger, wenn auch nicht annähernd fotorealistisch sind - hier liegt Midjourney deutlich vorn. Allerdings schreibt ChatGPT, wie oben erwähnt, den Prompt deutlich um (siehe unten).
"Three young people of diverse descents in an urban French suburb, captured in a high-definition, photorealistic style reminiscent of a DSLR camera photo. The first person is a Black male wearing casual streetwear, sitting on a bench with a smartphone and earphones. The second is a South Asian female in a modern outfit, reading a book against a backdrop of colorful street art. The third is a Middle-Eastern male in fashionable attire, skateboarding on the pavement. The setting includes architectural elements typical of La Banlieue, with clear details and textures that give a sense of depth and realism, illuminated by natural sunlight casting soft shadows, to mimic the quality of a DSLR photograph."
DALL-E 3 prompted by ChatGPT prompted by THE DECODER
AnzeigeCommunity beitretenKommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!AnzeigeCommunity beitretenKommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
