Inhalt
summary Zusammenfassung

Ein satirischer Facebook-Post mit Bildern von angeblich satanischen Build-A-Bear-Teddybären geht über TikTok ohne Hinweis auf die Satire viral. Viele Nutzer halten die KI-generierten Bilder für echt.

Anzeige

Der US-Spielzeughersteller Build-A-Bear, bei dem Kunden ihre Plüschtiere individuell gestalten können, sieht sich mit einer Flut von Falschmeldungen in den sozialen Medien konfrontiert. Auf TikTok kursieren seit Anfang April KI-generierte Bilder, die suggerieren, Build-A-Bear biete eine neue Linie von "Satansbären" an.

Konkret handelt es sich um Stofftiere mit dem Antlitz Baphomets, einer Gottheit, die im Mittelalter von den Tempelrittern verehrt und später von okkulten Gruppen wie der Church of Satan verwendet wurde.

Ursprung der Falschmeldung ist laut einem Faktencheck von USA Today ein satirischer Facebook-Post der Seite "The Pumpkin Empress" von Ende März. Die Seite hat sich auf Horror- und Gruselinhalte spezialisiert und hat 123.000 Follower.

Anzeige
Anzeige
Bild: Screenshot von THE DECODER

Auch das Absurde wird für wahr gehalten, wenn es realistisch aussieht

Die Facebook-Seite teilte die KI-generierten Bilder mit dem Hinweis, dass es sich um Satire handelt. Der Hinweis ging jedoch verloren, als die Bilder zehn Tage später auf TikTok auftauchten. Einige TikTok-Nutzerinnen und -Nutzer hielten die Satansbären für echt und drehten Videos, in denen sie das Unternehmen kritisierten.

Das macht einerseits die Risiken von KI-Bildern gerade in sozialen Medien deutlich: Wenn selbst so offensichtliche Satire täuschen kann, woher soll dann die Medienkompetenz kommen, realistische Fakes mit gezielter Täuschungsabsicht zu erkennen?

Wo selbst absurde Parodien für wahr gehalten werden, haben ambitionierte Fakes leichtes Spiel.

Andererseits gibt es bei TikTok und speziell in den Kommentaren zahlreiche Hinweise darauf, dass es sich bei den Bildern um KI-Fakes handelt, teils mit detaillierten Analysen der Bildfehler. Längst nicht alle Nutzerinnen und Nutzer lassen sich also täuschen.

Der Scherz ist zudem nicht neu. NewsGuard dokumentierte ähnliche Behauptungen über eine satanische McDonald’s Happy Meal Box, satanische Statuen bei Hobby Lobby und satanische Kinderkleidung bei Target - alle angeblich durch KI generierte Bilder.

Empfehlung
Bild: via NewsGuard

Mit der zunehmenden Verbreitung leistungsfähiger KI-Bildgeneratoren wie DALL-E, Midjourney oder Stable Diffusion wird es immer einfacher, täuschend echte Bilder zu erzeugen und für Desinformationskampagnen, auch politischer Art, zu missbrauchen.

Für unbedarfte Nutzende wird es jedoch schwieriger, zwischen Realität und Fiktion zu unterscheiden - mit potenziell gefährlichen Folgen für Unternehmen und den öffentlichen Diskurs. Da Algorithmen und automatische Filtermethoden bisher nicht greifen, sind die sozialen Netzwerke auf sich selbst gestellt - und auf die Nutzerinnen und Nutzer, die Fakes entlarven können.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Ein satirischer Facebook-Post der Seite "The Pumpkin Empress" zeigte Ende März KI-generierte Bilder von "Satansbären" des Spielzeugherstellers Build-A-Bear.
  • Der Hinweis, dass es sich um Satire handelt, ging verloren, als die Bilder kurze Zeit später auf TikTok auftauchten. Einige Nutzer hielten die realistisch wirkenden Bilder für echt. Viele wiesen jedoch auf Satire und KI-Fakes hin.
  • Das Beispiel verdeutlicht die Risiken von KI-Bildern in sozialen Medien: Wo selbst absurde Parodien für wahr gehalten werden, haben ambitionierte Fakes leichtes Spiel - mit potenziell gefährlichen Folgen für Unternehmen und den öffentlichen Diskurs.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!