Google verbietet das Training von Deepfakes im Cloud-Service Colab. Was steckt dahinter?
Dank kostenloser Deepfake-Tools wie DeepFaceLab, DeepFaceLive und FaceSwap kann heute jede Person mit etwas technischem Know-how und leistungsstarker Hardware eigene Deepfakes erstellen. Die Werkzeuge und Algorithmen werden stetig besser und das von der Community gesammelte Wissen hilft Anfänger:innen, bessere Ergebnisse zu erzielen.
Eine größere Hürde gibt es jedoch: Für überzeugende Deepfakes benötigt es ein ausreichend trainiertes Modell.
Je mehr Trainingsdaten und je höher die gewünschte Auflösung, desto größer wird das Modell - und sprengt schnell die Grenzen des verfügbaren Videospeichers (VRAM) auf Grafikkarten in herkömmlichen PCs. Nutzer:innen greifen daher auf GPUs in der Cloud zurück, die bis zu 80 Gigabyte VRAM liefern.
Google Colab verbietet Deepfake-Training
Ein häufig für Machine-Learning-Experimente genutzter Cloud-Service ist Googles Colab, eine Implementierung von Jupyter-Notebook-Umgebungen, die ein Remote-Training auf Cloud-Grafikkarten von Nvidia zulässt.
Der Service bietet neben verschiedenen bezahlten Abonnements, die Zugriff auf GPUs wie Nvidias A100 sicherstellen, auch einen kostenlosen Zugang, der die jeweils noch frei verfügbaren Ressourcen auf alle Nutzer:innen verteilt.
Mit Colab ließen sich daher bisher auch die Deepfake-Algorithmen von DeepFaceLab und FaceSwap trainieren, wie wir in unserer Deepfake-Anleitung zeigen.
Doch das ändert Google jetzt bei der kostenlosen Colab-Variante: Auf der Verbotsliste in den Nutzungsbedingungen steht neben DDOS-Attacken oder dem Mining von Cryptowährungen nun auch Deepfake-Training.
Deepfake-Verbot: FaceLab-Entwickler geht nicht von ethischer Motivation aus
Die Nutzung von DeepFaceLab in Colab wirft bereits eine Warnung aus, berichten Nutzer:innen. Demnach kann das Ausführen des Codes zu einer Einschränkung der Nutzungsmöglichkeit seitens Google führen.
Der Code von FaceSwap erzeugt bisher keine Warnung - allerdings ist das Werkzeug auch deutlich weniger verbreitet. Grund für das Verbot seien wohl keine ethischen Gründe, vermutet Matt Tora, Co-Entwickler von FaceSwap. Vielmehr sei Colab als Plattform für KI-Forschende gedacht und nicht für das massenhafte und rechenintensive Training von Deepfake-Modelle.
"Es macht mich traurig, dass eine Möglichkeit für Menschen, mit unserem Code zu experimentieren, geschlossen wurde, aber im Hinblick auf den Schutz dieser besonderen Ressource, um ihre Verfügbarkeit für das eigentliche Zielpublikum zu gewährleisten, finde ich es verständlich", so Tora.
Mit Googles Verbot fällt die wohl beste Möglichkeit für das kostenlose Deepfake-Training weg. Unklar ist bisher, ob die Einschränkung auch für die "Pro"- und "Pro+"-Varianten von Colab gilt.
Am Ende der Verbotsliste steht lediglich der Hinweis: "Für zahlende Nutzer gelten zusätzliche Einschränkungen." Allerdings tauchen Deepfakes in der Liste für Einschränkungen der Pro-Varianten bisher nicht auf - Kryptowährungen oder File-Sharing werden dort jedoch explizit doppelt genannt.
Der Verbreitung immer besserer Deepfakes wird das jedoch nicht im Weg stehen: Zahlreiche Cloud-Anbieter bieten verhältnismäßig günstigen Zugriff auf leistungsstarke GPUs.
