Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
Bewusstsein, Kognition und Künstliche Intelligenz | DEEP MINDS #10

Aus Sicherheitsgründen sperrte OpenAI bislang den Upload von Personenbildern und deren Editierung. Jetzt schaltet das Unternehmen die Funktion frei, da es überzeugt ist, die Sicherheit gewährleisten zu können.

DALL-E-2-Nutzer:innen können ab sofort Bilder von Personen hochladen und über Textbefehle verändern. Die Funktion war früher in einer Beta-Version verfügbar, wurde aber aus Sicherheitsgründen zunächst entfernt. Der Bild-Upload ist direkt unterhalb der DALL-E-Eingabemaske möglich.

DALL-E 2: Upload und Edit von Gesichtern wieder möglich

Dass die Editierfunktion bislang fehlte und DALL-E 2 bis vor wenigen Tagen nicht einmal Gesichter generieren durfte, hatte mit Sicherheitsbedenken seitens OpenAI zu tun. Die Firma befürchtete Missbrauch, etwa dass mit DALL-E 2 Gesichter von Prominenten entstellt werden.

Diese Bedenken sind bei OpenAI dank eines verbesserten Sicherheitssystem nun offenbar weitestgehend ausgeräumt: „Dank der Verbesserungen an unserem Sicherheitssystem ist DALL-E nun in der Lage, diese reizvollen und wichtigen Anwendungsfälle zu unterstützen – und gleichzeitig das Schadenspotenzial von Deepfakes zu minimieren.“

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung

Laut OpenAI verwendete ein rekonstruktiver Chirurg die Gesichtseditierfunktion, um seinen Patient:innen mögliche OP-Ergebnisse vorab zu visualisieren. Viele würden Bilder von sich selbst hochladen und Outfits oder Frisuren testen. Filmemacher:innen bearbeiten laut OpenAI Szenen mit Menschen darin, „um kreative Prozesse zu beschleunigen“.

OpenAI verbessert Filter-, Erkennungs- und Reaktionssystem

Ein verbessertes Filtersystem soll verhindern, dass Nutzer:innen sexuelle, politische und gewalttätige Inhalte generieren, die gegen OpenAIs Inhaltsrichtlinien verstoßen. Zudem habe OpenAI neue „Erkennungs- und Reaktionstechniken“ implementiert, die Missbrauch verhindern sollen. Zugleich sei die Anzahl an Falschmeldungen durch diese Systeme reduziert worden.

Nutzer:innen dürfen wie gehabt nur Bilder hochladen, an denen sie die Rechte halten. Bilder mit Personen dürfen nur mit der Einwilligung dieser Personen ins System gegeben werden.

Eine erste Zwischenauswertung zur Sicherheit von OpenAI im Mai 2022 zeigte, dass nur wenige Missbrauchsversuche passieren. Die Firma arbeitet zudem kontinuierlich an einer verbesserten Sicherheit von DALL-E, etwa durch die Filterung von Trainingsdaten, die aber wiederum andere, unerwartete Nebeneffekte haben kann.

Anzeige
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Ihr könnt jetzt Bilder von Personen bei DALL-E 2 hochladen und editieren.
  • Die Funktion war bislang aus Sicherheitsgründen offline.
  • Laut OpenAI hat DALL-E 2 jetzt Filter- und Erkennungssysteme, die einem Missbrauch entgegenwirken.
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!