UK bekämpft "Deepfake"-Missbrauch mit Gerichtsurteil und neuem Gesetz
Kurz & Knapp
- In einem Präzedenzfall hat ein britisches Gericht einem verurteilten Sexualstraftäter für fünf Jahre die Nutzung von KI-Tools wie Text-zu-Bild-Generatoren und "Nacktmacher"-Websites untersagt, um die Erstellung von pornografischem Material zu verhindern.
- Die britische Regierung plant ein neues Gesetz, das die Erstellung von sexuell expliziten Deepfakes von Erwachsenen ohne deren Zustimmung unter Strafe stellt, mit Konsequenzen wie Strafverfolgung, Geldstrafen und potenziell Haftstrafen.
- Justizministerin Laura Farris bezeichnet die Erstellung von Deepfake-Sexbildern als inakzeptabel und als Herabwürdigung von Menschen, insbesondere von Frauen. Berichte der Internet Watch Foundation zeigen, dass solche Bilder millionenfach angesehen werden.
In einem Präzedenzfall verbietet ein britisches Gericht einem Sexualstraftäter die Nutzung von KI-Tools. Gleichzeitig kündigt die Regierung ein neues Gesetz an, das die Erstellung von sexuellen "Deepfakes" ohne Einwilligung unter Strafe stellt.
Ein britisches Gericht hat einem Sexualstraftäter, der mehr als 1.000 pornografische Bilder von Kindern generiert hatte, für fünf Jahre die Nutzung von KI-Tools untersagt
Das Verbot ist Teil einer gerichtlichen Anordnung zur Verhinderung von Sexualstraftaten und untersagt ihm die Nutzung von Text-zu-Bild-Generatoren, die auf der Grundlage schriftlicher Anweisungen realistische Bilder erzeugen können, sowie von "Nacktmacher"-Websites für explizite "Deepfakes"
Laut Gerichtsdokumenten darf Dover insbesondere keine Stable-Diffusion-Software verwenden, die Berichten zufolge von Pädophilen missbraucht wird, um hyperrealistisches Material über Kindesmissbrauch zu erstellen.
Es ist der erste bekannte Fall dieser Art in Großbritannien und könnte einen Präzedenzfall für die zukünftige Überwachung von Personen schaffen, die wegen Kinderpornografie verurteilt wurden, berichtet The Guardian.
Britische Regierung geht gegen missbräuchliche Deepfakes vor
Vor einer Woche kündigte die britische Regierung die Schaffung eines neuen Straftatbestands an, der die Erstellung sexuell expliziter Deepfakes von Erwachsenen ohne deren Zustimmung illegal macht.
Verurteilte müssen mit Strafverfolgung und einer nach oben unbegrenzten Geldstrafe rechnen. Wird das Bild weiterverbreitet, droht sogar eine Haftstrafe.
Das Gesetz soll sicherstellen, dass jemand, der ein sexuell explizites Deepfake herstellt, auch dann eine Straftat begeht, wenn er nicht die Absicht hat, es zu verbreiten, sondern dem Opfer Angst, Demütigung oder Leid zufügen will.
Außerdem werden bestehende Straftatbestände verschärft: Wenn jemand ein solches Bild anfertigt und dann verbreitet, könnte die Staatsanwaltschaft zwei Straftaten anklagen, was potenziell zu einer Erhöhung des Strafmaßes führen könnte.
Justizministerin Laura Farris bezeichnete die Erstellung von Deepfake-Sexbildern als "abscheulich und völlig inakzeptabel", unabhängig davon, ob die Bilder geteilt werden oder nicht.
Dies sei ein weiteres Beispiel für die Herabwürdigung und Entmenschlichung bestimmter Menschen, insbesondere von Frauen. Die Regierung werde dies nicht dulden.
Deepfake-Bilder haben in den letzten Jahren zugenommen und werden laut Berichten der Internet Watch Foundation weltweit jeden Monat millionenfach angesehen.
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.