In einem Präzedenzfall verbietet ein britisches Gericht einem Sexualstraftäter die Nutzung von KI-Tools. Gleichzeitig kündigt die Regierung ein neues Gesetz an, das die Erstellung von sexuellen "Deepfakes" ohne Einwilligung unter Strafe stellt.
Ein britisches Gericht hat einem Sexualstraftäter, der mehr als 1.000 pornografische Bilder von Kindern generiert hatte, für fünf Jahre die Nutzung von KI-Tools untersagt
Das Verbot ist Teil einer gerichtlichen Anordnung zur Verhinderung von Sexualstraftaten und untersagt ihm die Nutzung von Text-zu-Bild-Generatoren, die auf der Grundlage schriftlicher Anweisungen realistische Bilder erzeugen können, sowie von "Nacktmacher"-Websites für explizite "Deepfakes"
Laut Gerichtsdokumenten darf Dover insbesondere keine Stable-Diffusion-Software verwenden, die Berichten zufolge von Pädophilen missbraucht wird, um hyperrealistisches Material über Kindesmissbrauch zu erstellen.
Es ist der erste bekannte Fall dieser Art in Großbritannien und könnte einen Präzedenzfall für die zukünftige Überwachung von Personen schaffen, die wegen Kinderpornografie verurteilt wurden, berichtet The Guardian.
Britische Regierung geht gegen missbräuchliche Deepfakes vor
Vor einer Woche kündigte die britische Regierung die Schaffung eines neuen Straftatbestands an, der die Erstellung sexuell expliziter Deepfakes von Erwachsenen ohne deren Zustimmung illegal macht.
Verurteilte müssen mit Strafverfolgung und einer nach oben unbegrenzten Geldstrafe rechnen. Wird das Bild weiterverbreitet, droht sogar eine Haftstrafe.
Das Gesetz soll sicherstellen, dass jemand, der ein sexuell explizites Deepfake herstellt, auch dann eine Straftat begeht, wenn er nicht die Absicht hat, es zu verbreiten, sondern dem Opfer Angst, Demütigung oder Leid zufügen will.
Außerdem werden bestehende Straftatbestände verschärft: Wenn jemand ein solches Bild anfertigt und dann verbreitet, könnte die Staatsanwaltschaft zwei Straftaten anklagen, was potenziell zu einer Erhöhung des Strafmaßes führen könnte.
Justizministerin Laura Farris bezeichnete die Erstellung von Deepfake-Sexbildern als "abscheulich und völlig inakzeptabel", unabhängig davon, ob die Bilder geteilt werden oder nicht.
Dies sei ein weiteres Beispiel für die Herabwürdigung und Entmenschlichung bestimmter Menschen, insbesondere von Frauen. Die Regierung werde dies nicht dulden.
Deepfake-Bilder haben in den letzten Jahren zugenommen und werden laut Berichten der Internet Watch Foundation weltweit jeden Monat millionenfach angesehen.
