Inhalt
newsletter Newsletter
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Bewusstsein, Kognition und Künstliche Intelligenz | DEEP MINDS #10

Google verbietet das Training von Deepfakes im Cloud-Service Colab. Was steckt dahinter?

Dank kostenloser Deepfake-Tools wie DeepFaceLab, DeepFaceLive und FaceSwap kann heute jede Person mit etwas technischem Know-how und leistungsstarker Hardware eigene Deepfakes erstellen. Die Werkzeuge und Algorithmen werden stetig besser und das von der Community gesammelte Wissen hilft Anfänger:innen, bessere Ergebnisse zu erzielen.

Eine größere Hürde gibt es jedoch: Für überzeugende Deepfakes benötigt es ein ausreichend trainiertes Modell.

Je mehr Trainingsdaten und je höher die gewünschte Auflösung, desto größer wird das Modell – und sprengt schnell die Grenzen des verfügbaren Videospeichers (VRAM) auf Grafikkarten in herkömmlichen PCs. Nutzer:innen greifen daher auf GPUs in der Cloud zurück, die bis zu 80 Gigabyte VRAM liefern.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Google Colab verbietet Deepfake-Training

Ein häufig für Machine-Learning-Experimente genutzter Cloud-Service ist Googles Colab, eine Implementierung von Jupyter-Notebook-Umgebungen, die ein Remote-Training auf Cloud-Grafikkarten von Nvidia zulässt.

Der Service bietet neben verschiedenen bezahlten Abonnements, die Zugriff auf GPUs wie Nvidias A100 sicherstellen, auch einen kostenlosen Zugang, der die jeweils noch frei verfügbaren Ressourcen auf alle Nutzer:innen verteilt.

„Creating Deepfakes“ ist in Google Colab nicht mehr erlaubt. | Bild: Google

Mit Colab ließen sich daher bisher auch die Deepfake-Algorithmen von DeepFaceLab und FaceSwap trainieren, wie wir in unserer Deepfake-Anleitung zeigen.

Doch das ändert Google jetzt bei der kostenlosen Colab-Variante: Auf der Verbotsliste in den Nutzungsbedingungen steht neben DDOS-Attacken oder dem Mining von Cryptowährungen nun auch Deepfake-Training.

Deepfake-Verbot: FaceLab-Entwickler geht nicht von ethischer Motivation aus

Die Nutzung von DeepFaceLab in Colab wirft bereits eine Warnung aus, berichten Nutzer:innen. Demnach kann das Ausführen des Codes zu einer Einschränkung der Nutzungsmöglichkeit seitens Google führen.

Empfehlung

Der Code von FaceSwap erzeugt bisher keine Warnung – allerdings ist das Werkzeug auch deutlich weniger verbreitet. Grund für das Verbot seien wohl keine ethischen Gründe, vermutet Matt Tora, Co-Entwickler von FaceSwap. Vielmehr sei Colab als Plattform für KI-Forschende gedacht und nicht für das massenhafte und rechenintensive Training von Deepfake-Modelle.

„Es macht mich traurig, dass eine Möglichkeit für Menschen, mit unserem Code zu experimentieren, geschlossen wurde, aber im Hinblick auf den Schutz dieser besonderen Ressource, um ihre Verfügbarkeit für das eigentliche Zielpublikum zu gewährleisten, finde ich es verständlich“, so Tora.

Deepfake Tom Cruise
Der täuschend echte Tom-Cruise-Deepfake wurde mit dem jetzt in Colab verbotenem DeepFaceLab erstellt. | Bild: metaphysic.ai

Mit Googles Verbot fällt die wohl beste Möglichkeit für das kostenlose Deepfake-Training weg. Unklar ist bisher, ob die Einschränkung auch für die „Pro“- und „Pro+“-Varianten von Colab gilt.

Am Ende der Verbotsliste steht lediglich der Hinweis: „Für zahlende Nutzer gelten zusätzliche Einschränkungen.“ Allerdings tauchen Deepfakes in der Liste für Einschränkungen der Pro-Varianten bisher nicht auf – Kryptowährungen oder File-Sharing werden dort jedoch explizit doppelt genannt.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!

Der Verbreitung immer besserer Deepfakes wird das jedoch nicht im Weg stehen: Zahlreiche Cloud-Anbieter bieten verhältnismäßig günstigen Zugriff auf leistungsstarke GPUs.

Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Quellen
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!