Inhalt
summary Zusammenfassung

Das französische Transportunternehmen Heetch hat eine originelle Kampagne gestartet, um die Vorurteile über die französischen Vorstädte, die so genannten Banlieues, in Frage zu stellen, die im KI-Bildsystem Midjourney enthalten sind.

Anzeige

Heetch fand heraus, dass Midjourney bei einem Prompt, der eigentlich ein harmonisches oder schönes Bild erzeugt, durch den Zusatz "in la banlieue" Bilder von armen Menschen in zerstörten Gebieten oder Gettos anzeigt. Das zeigt eine starke Voreingenommenheit in der Darstellung der französischen Vorstädte durch die KI.

Bild: Midjourney prompted by Heetch
Bild: Midjourney prompted by Heetch

Als Reaktion darauf sammelte Heetch Tausende Fotos aus den Banlieues, verwandelte sie in Postkarten und schickte sie an die elf Angestellten von Midjourney. Jede Postkarte enthält einen QR-Code, der nach dem Scannen zu einer Datenbank mit Korrekturfotos führt. Heetch hofft, dass Midjourney diese Bilder nutzen wird, um das KI-Training zu verbessern und den Bias im Modell zu beseitigen.

In Midjounrey lässt sich der "Banlieue"-Bias leicht nachvollziehen. | Bild: Midjourney prompted by THE DECODER

Kreative Kampagne gegen KI-Vorurteile

Die Kampagne von Heetch mit dem Titel "Grüße aus der Vorstadt" zielt darauf ab, das Bewusstsein für Vorurteile in KI-Systemen wie Midjourney zu schärfen. Durch Postkarten mit QR-Codes bietet das Unternehmen den Angestellten von Midjourney eine konstruktive Möglichkeit, die französischen Vorstädte zu entdecken und gleichzeitig ihr Image in Midjourney im wahrsten Sinne des Wortes zu verbessern.

Anzeige
Anzeige

In einer öffentlichen Nachricht an Midjourney schreibt Heetch: "Wir sind Heetch, wahrscheinlich nicht auf eurem Radar, aber wir und die 12,5 Millionen Bewohner der französischen Banlieues haben gerade Tausende Postkarten verschickt, die ihr - eure 11 Angestellten - bald erhalten solltet. Sobald diese Postkarten auf dem Tisch liegen, ruft uns bitte an! Wir sind offen für ein Gespräch."

Vorurteile gegenüber KI-Systemen noch lange nicht ausgeräumt

KI-Systeme wie Midjourney sind auf große Datensätze angewiesen, um Text-Bild-Zusammenhänge zu lernen. Diese Datensätze können jedoch Vorurteile enthalten, die zu falschen Darstellungen oder zur Verstärkung von Stereotypen führen können.

Im Fall von Midjourney könnten die Vorurteile in den Bildern der französischen Banlieues negative Wahrnehmungen verstärken und dem Ruf des Viertels und seiner Bewohner schaden.

OpenAI kämpft bei DALL-E 3 mit ähnlichen Problemen, hat aber eine kreative Lösung gefunden: Da es schwierig ist, die Datensätze zu verändern, lässt OpenAI die von den Nutzenden eingegebenen Prompts durch ChatGPT umschreiben, sodass sie etwa Diversität widerspiegeln und Vorurteile abbauen. ChatGPT ist sozusagen ein Undercover-Moderator von DALL-E 3.

Mit den beiden oben genannten Prompts produziert DALL-E 3 zwar immer noch klischeehafte Bilder, die aber zumindest freundlicher und vielfältiger, wenn auch nicht annähernd fotorealistisch sind - hier liegt Midjourney deutlich vorn. Allerdings schreibt ChatGPT, wie oben erwähnt, den Prompt deutlich um (siehe unten).

Empfehlung

"Three young people of diverse descents in an urban French suburb, captured in a high-definition, photorealistic style reminiscent of a DSLR camera photo. The first person is a Black male wearing casual streetwear, sitting on a bench with a smartphone and earphones. The second is a South Asian female in a modern outfit, reading a book against a backdrop of colorful street art. The third is a Middle-Eastern male in fashionable attire, skateboarding on the pavement. The setting includes architectural elements typical of La Banlieue, with clear details and textures that give a sense of depth and realism, illuminated by natural sunlight casting soft shadows, to mimic the quality of a DSLR photograph."

DALL-E 3 prompted by ChatGPT prompted by THE DECODER

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Heetch, ein französisches Transportunternehmen, entdeckte eine Verzerrung im KI-Bildsystem Midjourney, das französische Vorstädte (banlieues) negativ darstellt, wenn es mit "in la banlieue" geprompted wird.
  • Als Reaktion darauf sammelte Heetch Tausende von positiven Fotos aus den Banlieues, gestaltete sie zu Postkarten und schickte sie an die Mitarbeitenden von Midjourney mit QR-Codes, die auf eine Datenbank mit korrigierenden Bildern verlinkten, in der Hoffnung, das KI-Training zu verbessern und die Verzerrung zu beseitigen.
  • Die Kampagne mit dem Titel "Grüße aus den Vorstädten" zielt darauf ab, das Bewusstsein für Vorurteile in KI-Systemen wie Midjourney zu schärfen und bietet einen konstruktiven Weg für das Unternehmen, die echten französischen Vorstädte zu entdecken und die von der KI generierten Bilder zu verbessern.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!