Inhalt
summary Zusammenfassung
DEEP MINDS Podcast
Podcast über Künstliche Intelligenz und Wissenschaft
KI bei der Bundeswehr und der BWI | DEEP MINDS #16

OpenAI hat den C2PA-Standard (Coalition for Content Provenance and Authenticity) in sein DALL-E 3-Modell implementiert, das Metadaten in generierte Bilder einbettet, um deren Herkunft und damit verbundene Informationen zu verifizieren.

Bilder, die mit ChatGPT im Web und der API für das DALL-E 3-Modell erzeugt wurden, enthalten nun C2PA-Metadaten, die auf Websites wie Content Credentials Verify überprüft werden können.

API-Bilder enthalten eine Signatur, die anzeigt, dass sie mit dem DALL-E 3-Modell erzeugt wurden. Bilder, die mit ChatGPT erzeugt wurden, enthalten einen zusätzlichen Hinweis auf die ChatGPT-Herkunft. So kann zwischen Chat und API unterschieden werden.

Laut OpenAI hat die Implementierung von C2PA-Metadaten im DALL-E 3-Modell Auswirkungen auf die Dateigröße. Beispielsweise kann ein PNG-Bild über die API um drei Prozent, ein WebP-Bild über die API um fünf Prozent und ein WebP-Bild über ChatGPT um 32 Prozent größer werden.

Anzeige
Anzeige

Die Auswirkungen auf die Latenz sollen vernachlässigbar sein und die Qualität der Bilderzeugung soll nicht beeinträchtigt werden.

C2PA ist keine Lösung für KI-Fake-Bilder

Eine Lösung des KI-Bildproblems ist C2PA nicht, denn Metadaten lassen sich mit etwas Anstrengung leicht umgehen. Aber es dürfte zumindest die Bilderflut etwas eindämmen oder transparenter machen.

Auch OpenAI weist darauf hin, dass Metadaten entfernt werden können und die meisten Social-Media-Plattformen heutzutage Metadaten von hochgeladenen Bildern automatisch löschen.

Zumindest Meta hat jedoch angekündigt, C2PA in Zukunft auf den eigenen Social-Plattformen zu verifizieren. Auch Adobe, Microsoft, Intel und andere Plattform- und Grafikanbieter wollen C2PA unterstützen. Weitere Plattformen dürften folgen.

Die Coalition for Content Provenance and Authenticity (C2PA) ist eine Organisation, die in Zusammenarbeit mit Adobe ein "Transparenzsymbol" entwickelt hat.

Empfehlung

Dieses Symbol kann den Metadaten von Inhalten hinzugefügt werden, um deren Herkunft und die Verwendung von KI-Werkzeugen anzuzeigen.

Adobe und die Coalition for Content Provenance and Authenticity (C2PA) haben ein "Transparenzsymbol" entwickelt, das zu den Metadaten von Inhalten hinzugefügt werden kann, um deren Herkunft und die Verwendung von KI-Werkzeugen anzuzeigen. | Bild: Adobe

Der C2PA-Standard wird auch von Kameraherstellern und Nachrichtenorganisationen übernommen, um die Quelle und die Historie von Medieninhalten zu zertifizieren.

Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • OpenAI hat den C2PA-Standard in sein DALL-E 3-Modell integriert, um die Herkunft generierter Bilder und damit verbundener Informationen zu verifizieren.
  • Bilder, die mit ChatGPT und der API für das DALL-E 3-Modell erstellt wurden, enthalten nun C2PA-Metadaten, die auf Websites wie Content Credentials Verify überprüft werden können.
  • Unternehmen wie Meta, Adobe und Microsoft haben angekündigt, den C2PA-Standard zu unterstützen, um die Transparenz von KI-generierten Inhalten zu erhöhen und die Herkunft von Medieninhalten zu zertifizieren.
Quellen
Online-Journalist Matthias ist Gründer und Herausgeber von THE DECODER. Er ist davon überzeugt, dass Künstliche Intelligenz die Beziehung zwischen Mensch und Computer grundlegend verändern wird.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!