Das hier ist ein vollständig KI generierter Artikel.

Je mehr KI-Modelle Bilder, Audio und Videos erzeugen, desto wichtiger wird die Frage: Woher stammt ein Inhalt wirklich – und wurde er mit KI generiert? OpenAI baut dafür ein mehrschichtiges System aus offenen Standards, Wasserzeichen und einem öffentlichen Prüf-Tool auf, das die Herkunft von Bildern transparenter machen soll.

C2PA und Content Credentials als Basis

Seit 2024 versieht OpenAI KI-generierte Bilder mit sogenannten Content Credentials. Diese Metadaten folgen dem offenen Standard der Coalition for Content Provenance and Authenticity (C2PA), in deren Steuerungsgremium OpenAI mitarbeitet. Die Idee: Informationen zur Entstehung eines Mediums – etwa welches Tool es erzeugt oder bearbeitet hat – werden kryptografisch signiert und direkt im Datei-Metadatenblock mitgeführt.

Plattformen, Redaktionen und Nutzerinnen und Nutzer können diese Metadaten auslesen und so besser einschätzen, ob ein Bild authentisch ist oder aus einem KI-System stammt. Entscheidend ist dabei, dass OpenAI inzwischen als „C2PA Conforming Generator Product“ gilt. Das soll sicherstellen, dass andere Dienste die Provenance-Informationen zuverlässig erkennen, weitergeben und nicht versehentlich entfernen.

Provenance funktioniert nur, wenn die Informationen den Weg über verschiedene Plattformen hinweg überleben. Genau hier setzt die C2PA-Konformität an: Sie schafft eine gemeinsame technische Sprache, mit der Herkunftsdaten plattformübergreifend lesbar bleiben sollen.

Wasserzeichen mit SynthID als zweite Schicht

Metadaten sind mächtig, aber fragil: Sie können beim erneuten Abspeichern, Konvertieren, Zuschneiden oder bei Screenshots verloren gehen. Um die Herkunftssignale robuster zu machen, ergänzt OpenAI die C2PA-Metadaten um ein unsichtbares Wasserzeichen – Google DeepMinds SynthID.

SynthID bettet ein nicht sichtbares Signal direkt in die Bilddaten ein. Dieses Signal soll auch dann noch erkennbar sein, wenn Metadaten entfernt oder das Bild in ein anderes Format überführt wurde. OpenAI setzt SynthID zunächst für Bilder ein, die über ChatGPT, Codex oder die OpenAI-API erzeugt werden.

Das Wasserzeichen ist Teil eines mehrschichtigen Ansatzes: Während C2PA reichhaltige Kontextinformationen liefert (Wer hat das Bild erzeugt? Mit welchem Tool? Wurde es bearbeitet?), sorgt SynthID dafür, dass zumindest ein Herkunftssignal auch nach typischen Transformationen erhalten bleibt. OpenAI experimentiert bereits länger mit sichtbaren Wasserzeichen in Sora und Audio-Wasserzeichen in Voice Engine und überführt diese Erfahrungen nun in ein robusteres System.

Öffentliches Verifikations-Tool für Bilder

Herkunftssignale nützen wenig, wenn sie niemand prüfen kann. Deshalb stellt OpenAI ein öffentliches Verifikations-Tool vor, mit dem sich hochgeladene Bilder auf Provenance-Signale untersuchen lassen. Das Tool prüft, ob Content Credentials nach C2PA-Standard vorhanden sind und ob ein SynthID-Wasserzeichen erkannt wird.

Wenn entsprechende Signale gefunden werden, kann das Tool anzeigen, ob ein Bild mit OpenAI-Werkzeugen wie ChatGPT, der OpenAI-API oder Codex erzeugt wurde. Fehlen sowohl Metadaten als auch Wasserzeichen, trifft das System bewusst keine harte Aussage darüber, ob das Bild KI-generiert ist – denn Provenance-Informationen können unterwegs entfernt worden sein.

Zum Start beschränkt sich das Tool auf Inhalte, die von OpenAI-Systemen stammen. Perspektivisch soll es aber in breitere, branchenweite Verifikationsansätze eingebettet werden und weitere Medientypen abdecken.

Ausblick: Ein Ökosystem statt Einzellösungen

OpenAI betont, dass keine einzelne Technik allein das Problem der Herkunftsnachweise lösen kann. Erst das Zusammenspiel aus offenen Standards wie C2PA, robusten Wasserzeichen wie SynthID und allgemein zugänglichen Prüfwerkzeugen kann ein vertrauenswürdigeres Informationsökosystem schaffen.

Langfristig zielt der Ansatz darauf ab, KI-generierte Inhalte klarer erkennbar zu machen, ohne kreative Nutzung zu behindern. Für Plattformbetreiber, Medienhäuser und Nutzerinnen und Nutzer entsteht damit ein Werkzeugkasten, um besser einschätzen zu können, ob ein Bild tatsächlich zeigt, was es zu sein vorgibt – oder ob es aus einem KI-System stammt.

Für die breitere Internetlandschaft bleibt entscheidend, dass sich möglichst viele Akteure auf gemeinsame Standards einigen. Nur dann können Provenance-Signale plattformübergreifend erhalten bleiben und ihren Zweck erfüllen: mehr Transparenz und Vertrauen in einer zunehmend von KI geprägten Medienwelt.

Quelle: https://openai.com/index/advancing-content-provenance/