KI in der Praxis

Das Internet hat schon "Spaß" mit Metas generativen KI-Stickern

Matthias Bastian

Jenna via Twitter

Der Papst mit Maschinengewehr, Karl Marx mit großen Brüsten, Micky Maus auf der Toilette oder Kindersoldaten: Das Internet braucht nur wenige Tage, um Metas generativen KI-Stickern ihr volles Potenzial zu entlocken. Die Funktion wird derzeit als Beta-Version in Messenger, bei Instagram und WhatsApp ausgerollt.

Generative KI-Sticker von Kindersoldaten hat das Red-Teaming von Meta nicht aufgedeckt.| Bild: defend trans rights🏳️‍⚧️ - podesbiens.bsky.social, Twitter

Laut Meta basiert die Stickergenerierung auf dem neuen Bildmodell Emu, das laut Paper trotz "signifikantem" Aufwand und "mehreren Stunden" Red-Teaming einseitige, irreführende oder beleidigende Bilder generieren kann. Solche offensichtlichen Verstöße gegen urheberrechtlich geschütztes Material dürften Disney und Co. jedenfalls nicht erfreuen und Meta dürfte schnell nachbessern wollen.