Aus Sicherheitsgründen sperrte OpenAI bislang den Upload von Personenbildern und deren Editierung. Jetzt schaltet das Unternehmen die Funktion frei, da es überzeugt ist, die Sicherheit gewährleisten zu können.
DALL-E-2-Nutzer:innen können ab sofort Bilder von Personen hochladen und über Textbefehle verändern. Die Funktion war früher in einer Beta-Version verfügbar, wurde aber aus Sicherheitsgründen zunächst entfernt. Der Bild-Upload ist direkt unterhalb der DALL-E-Eingabemaske möglich.
DALL-E 2: Upload und Edit von Gesichtern wieder möglich
Dass die Editierfunktion bislang fehlte und DALL-E 2 bis vor wenigen Tagen nicht einmal Gesichter generieren durfte, hatte mit Sicherheitsbedenken seitens OpenAI zu tun. Die Firma befürchtete Missbrauch, etwa dass mit DALL-E 2 Gesichter von Prominenten entstellt werden.
Diese Bedenken sind bei OpenAI dank eines verbesserten Sicherheitssystem nun offenbar weitestgehend ausgeräumt: "Dank der Verbesserungen an unserem Sicherheitssystem ist DALL-E nun in der Lage, diese reizvollen und wichtigen Anwendungsfälle zu unterstützen - und gleichzeitig das Schadenspotenzial von Deepfakes zu minimieren."
Laut OpenAI verwendete ein rekonstruktiver Chirurg die Gesichtseditierfunktion, um seinen Patient:innen mögliche OP-Ergebnisse vorab zu visualisieren. Viele würden Bilder von sich selbst hochladen und Outfits oder Frisuren testen. Filmemacher:innen bearbeiten laut OpenAI Szenen mit Menschen darin, "um kreative Prozesse zu beschleunigen".
OpenAI verbessert Filter-, Erkennungs- und Reaktionssystem
Ein verbessertes Filtersystem soll verhindern, dass Nutzer:innen sexuelle, politische und gewalttätige Inhalte generieren, die gegen OpenAIs Inhaltsrichtlinien verstoßen. Zudem habe OpenAI neue "Erkennungs- und Reaktionstechniken" implementiert, die Missbrauch verhindern sollen. Zugleich sei die Anzahl an Falschmeldungen durch diese Systeme reduziert worden.
Nutzer:innen dürfen wie gehabt nur Bilder hochladen, an denen sie die Rechte halten. Bilder mit Personen dürfen nur mit der Einwilligung dieser Personen ins System gegeben werden.
Eine erste Zwischenauswertung zur Sicherheit von OpenAI im Mai 2022 zeigte, dass nur wenige Missbrauchsversuche passieren. Die Firma arbeitet zudem kontinuierlich an einer verbesserten Sicherheit von DALL-E, etwa durch die Filterung von Trainingsdaten, die aber wiederum andere, unerwartete Nebeneffekte haben kann.