San Francisco verklagt 16 Websites wegen nicht-einvernehmlicher Deepfake-Pornografie
Kurz & Knapp
- Der Bezirksstaatsanwalt von San Francisco, David Chiu, hat Klage auf Schließung von 16 Websites eingereicht, die Deepfake-Pornografie von Erwachsenen und Minderjährigen ohne Einwilligung der Betroffenen produzieren und verbreiten.
- In den ersten sechs Monaten dieses Jahres wurden die 16 verklagten Websites insgesamt 200 Millionen Mal besucht. Die Seiten verstoßen gegen kalifornische und bundesstaatliche Gesetze.
- Eine Studie aus dem Jahr 2019 zeigte, dass schon damals 96 Prozent von 15.000 untersuchten Deepfake-Videos pornografisch waren, wobei die Opfer fast ausschließlich Frauen waren. Auch das Problem der KI-generierten Nacktbilder von Minderjährigen, die von Schülern erstellt und verbreitet werden, nimmt einer Studie zufolge zu.
Der Bezirksstaatsanwalt von San Francisco, David Chiu, hat Klage auf Schließung von 16 der meistbesuchten Websites eingereicht, die Deepfake-Pornografie von Erwachsenen und Minderjährigen ohne Zustimmung der Betroffenen produzieren und verbreiten.
San Francisco geht rechtlich gegen 16 Websites vor, die nicht-einvernehmliche Deepfake-Pornografie erstellen und verbreiten. Staatsanwalt David Chiu teilt auf X mit, dass er die Betreiber der Websites verklagt, um die Seiten vollständig zu schließen.
Erwirft den Websitebetreibern vor, gegen kalifornische und bundesstaatliche Gesetze zu verstoßen, die Deepfake-Pornografie, Rachepornografie und Kinderpornografie verbieten. Hinter den Websites stehen laut Klage Einzelpersonen und Unternehmen aus Kalifornien, New Mexico, Großbritannien und Estland.
In den ersten sechs Monaten dieses Jahres wurden die 16 in der Klage genannten Websites laut Chius Recherchen insgesamt 200 Millionen Mal besucht.
Auf X schreibt Chiu: "Diese Untersuchung hat uns in die dunkelsten Ecken des Internets geführt, und ich bin absolut entsetzt über die Frauen und Mädchen, die diese Ausbeutung ertragen mussten. Es ist ein großes, facettenreiches Problem, das wir als Gesellschaft so schnell wie möglich lösen müssen."
Chiu räumt gegenüber der New York Times ein, dass die Schließung der Seiten als Ansatz nach dem "Whac-a-Mole"-Prinzip angesehen werden könnte, da weitere entsprechende Websites auftauchen könnten. Diese Konstellation könne aber in der Rechtsprechung berücksichtigt werden, um schneller handeln zu können.
Deepfakes haben ihren Ursprung in Pornografie ohne Zustimmung
Deepfakes tauchten erstmals 2017 auf, 7, als ein anonymer Reddit-Nutzer namens "deepfakes" gefälschte Pornos von berühmten Schauspielerinnen wie Gal Gadot veröffentlichte. Sie haben ihren Ursprung in pornografischen Bildern und Videos ohne Zustimmung der Betroffenen. Mit den neuesten Tools kann es jeden und jede erwischen - dafür reicht meist ein einzelnes Bild als Vorlage.
Zwar werden Deepfakes auch für künstlerische Zwecke oder Unterhaltung eingesetzt. Aber eine Untersuchung des niederländischen Unternehmens Deeptrace zeigte schon 2019, dass 96 Prozent von 15.000 untersuchten Deepfake-Videos Pornos sind. Die Opfer sind fast ausschließlich Frauen.
Eine Studie des Beratungsunternehmens The Human Factor hat das wachsende Problem von KI-generierten Nacktbildern Minderjähriger, sogenannten Deepfake Nudes, untersucht, die von Schülern erstellt und verbreitet werden. In den USA gab es mehrere Vorfälle, bei denen Schüler mithilfe von KI-Bildgeneratoren gefälschte Nacktbilder von Mitschülern erstellten und verbreiteten.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.