Im Windschatten des Wirbels um OpenAIs Bild-KI DALL-E 2 hat sich ein Entwickler mit einem eigenen System am Markt etabliert, das wie das große Vorbild heißt - mit diesem aber nichts gemein hat.
Seit Wochen schwirren wirre und irre Bilder in Social Media herum. Sie zeigen Babys mit Pistolen, Donald Trump in Mario Kart oder Aliens vor Gericht. Der Twitter-Account "Weird Dall-E" sammelt diese Bilder und zeitgleich zahlreiche Follower:innen: Seit Februar 2022 sind es schon mehr als eine Million. KI-Kreativität kommt an.
— Weird Dall-E Mini Generations (@weirddalle) July 1, 2022
DALL-E Mini ist nicht von OpenAI
Was dabei in Social Media und in vielen Medienberichten untergeht: DALL-E Mini ist kein Produkt von OpenAI.
Das System wurde von Boris Dayma trainiert, einem KI-Berater aus Houston. Mit dem Original-DALL-E hat es kaum mehr gemein als die Idee: Es verwendet eine eigene Open-Source-Architektur und zum Teil andere, weniger Trainingsbilder (rund 30 Millionen). Dayma bastelte die erste Version im Sommer 2021 während eines Hackathons der Machine-Learning-Plattform Hugging Face und von Google zusammen.
Das System generiert zwar zu einer Texteingabe recht passende Motive, die visuelle Qualität ist allerdings viel geringer als bei DALL-E. Die Motive sind stark verwischt und wirken traumähnlich, meist ist es eher ein Albtraum. Das reicht für einen Social-Media-Spaß, eine ernsthafte Konkurrenz zu DALL-E 2 oder gar menschlichen Gestalter:innen ist Daymas System nicht.
Craiyon, wie das System neu heißt, verwendet zudem keine Sicherheitsrichtlinien, wie OpenAI sie erforscht. Entsprechend generiert das System etwa explizite Bilder mit Prominenten oder Kindern darauf und gibt Stereotype wieder.
"Da das Modell mit ungefilterten Daten aus dem Internet trainiert wurde, kann es Bilder erzeugen, die schädliche Stereotype enthalten. Das Ausmaß und die Art der Verzerrungen des DALL-E Mini-Modells müssen noch vollständig dokumentiert werden", heißt es dazu auf der Webseite.
DALL-E Mini wird Craiyon
Diese Defizite behindern jedoch nicht den Erfolg der Bild-KI: Laut der Plattform Hugging Face generierte Daymas Modell bis zu 50.000 Bilder am Tag. Das zeigt, wie groß das Interesse an solchen Systemen ist. Auch OpenAI verzeichnet bei DALL-E 2 Rekordanmeldungen.
Nachvollziehbar also, dass OpenAI Dayma (viel zu spät) darum bat, den Namen des Systems zu ändern. DALL-E Mini heißt ab sofort Craiyon und ist über eine eigene Webseite zugänglich. Dayma will die KI weitertrainieren und die Seite mit Werbung und Premiumangeboten monetarisieren. Die Bilder sind für den privaten Gebrauch frei verfügbar, für die kommerzielle Verwendung soll mit dem Anbieter Kontakt aufgenommen werden.
Es wird sich zeigen, ob Dayma mit seinem kostenlosen, unbeschränkten Ansatz weiter erfolgreich sein kann, wenn mächtigere Systeme wie DALL-E 2 oder Alternativen wie Midjourney freier verfügbar sind. Der Entwickler geht davon aus, dass es noch mehr Nachahmer mit immer hochwertigeren Systemen bis hin zum Fotorealismus geben wird.
"Ihr wisst, dass es kommt", sagt Dayma. "Aber ich hoffe, dass DALL-E Mini den Leuten bewusst macht, dass sie wissen sollten, dass ein Bild, das sie sehen, nicht unbedingt der Wahrheit entspricht."
