Der Papst mit Maschinengewehr, Karl Marx mit großen Brüsten, Micky Maus auf der Toilette oder Kindersoldaten: Das Internet braucht nur wenige Tage, um Metas generativen KI-Stickern ihr volles Potenzial zu entlocken. Die Funktion wird derzeit als Beta-Version in Messenger, bei Instagram und WhatsApp ausgerollt.

Anzeige
Generative KI-Sticker von Kindersoldaten hat das Red-Teaming von Meta nicht aufgedeckt.| Bild: defend trans rights🏳️‍⚧️ - podesbiens.bsky.social, Twitter

Laut Meta basiert die Stickergenerierung auf dem neuen Bildmodell Emu, das laut Paper trotz "signifikantem" Aufwand und "mehreren Stunden" Red-Teaming einseitige, irreführende oder beleidigende Bilder generieren kann. Solche offensichtlichen Verstöße gegen urheberrechtlich geschütztes Material dürften Disney und Co. jedenfalls nicht erfreuen und Meta dürfte schnell nachbessern wollen.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!