Ein satirischer Facebook-Post mit Bildern von angeblich satanischen Build-A-Bear-Teddybären geht über TikTok ohne Hinweis auf die Satire viral. Viele Nutzer halten die KI-generierten Bilder für echt.
Der US-Spielzeughersteller Build-A-Bear, bei dem Kunden ihre Plüschtiere individuell gestalten können, sieht sich mit einer Flut von Falschmeldungen in den sozialen Medien konfrontiert. Auf TikTok kursieren seit Anfang April KI-generierte Bilder, die suggerieren, Build-A-Bear biete eine neue Linie von "Satansbären" an.
Konkret handelt es sich um Stofftiere mit dem Antlitz Baphomets, einer Gottheit, die im Mittelalter von den Tempelrittern verehrt und später von okkulten Gruppen wie der Church of Satan verwendet wurde.
Ursprung der Falschmeldung ist laut einem Faktencheck von USA Today ein satirischer Facebook-Post der Seite "The Pumpkin Empress" von Ende März. Die Seite hat sich auf Horror- und Gruselinhalte spezialisiert und hat 123.000 Follower.
Auch das Absurde wird für wahr gehalten, wenn es realistisch aussieht
Die Facebook-Seite teilte die KI-generierten Bilder mit dem Hinweis, dass es sich um Satire handelt. Der Hinweis ging jedoch verloren, als die Bilder zehn Tage später auf TikTok auftauchten. Einige TikTok-Nutzerinnen und -Nutzer hielten die Satansbären für echt und drehten Videos, in denen sie das Unternehmen kritisierten.
Das macht einerseits die Risiken von KI-Bildern gerade in sozialen Medien deutlich: Wenn selbst so offensichtliche Satire täuschen kann, woher soll dann die Medienkompetenz kommen, realistische Fakes mit gezielter Täuschungsabsicht zu erkennen?
Wo selbst absurde Parodien für wahr gehalten werden, haben ambitionierte Fakes leichtes Spiel.
Andererseits gibt es bei TikTok und speziell in den Kommentaren zahlreiche Hinweise darauf, dass es sich bei den Bildern um KI-Fakes handelt, teils mit detaillierten Analysen der Bildfehler. Längst nicht alle Nutzerinnen und Nutzer lassen sich also täuschen.
Der Scherz ist zudem nicht neu. NewsGuard dokumentierte ähnliche Behauptungen über eine satanische McDonald’s Happy Meal Box, satanische Statuen bei Hobby Lobby und satanische Kinderkleidung bei Target - alle angeblich durch KI generierte Bilder.
Mit der zunehmenden Verbreitung leistungsfähiger KI-Bildgeneratoren wie DALL-E, Midjourney oder Stable Diffusion wird es immer einfacher, täuschend echte Bilder zu erzeugen und für Desinformationskampagnen, auch politischer Art, zu missbrauchen.
Für unbedarfte Nutzende wird es jedoch schwieriger, zwischen Realität und Fiktion zu unterscheiden - mit potenziell gefährlichen Folgen für Unternehmen und den öffentlichen Diskurs. Da Algorithmen und automatische Filtermethoden bisher nicht greifen, sind die sozialen Netzwerke auf sich selbst gestellt - und auf die Nutzerinnen und Nutzer, die Fakes entlarven können.
