Methodik und Grenzen

Diese Seite trifft nur Aussagen, die sich aus den vorliegenden Daten belegen lassen. Sie schätzt nicht anhand von Bildeindruck oder Schreibstil, ob etwas maschinell erzeugt wurde. Alle eingesetzten Verfahren sind nachvollziehbar: gleiche Eingabe, gleiches Ergebnis.

Warum es drei Ergebnisse gibt und nicht zwei

Ein Urteil „von einem Menschen“ lässt sich mit dem heutigen Stand der Technik nicht begründen. Nachweisbar ist die Anwesenheit einer Kennzeichnung, nicht ihre Abwesenheit als Gegenbeweis. Plattformen entfernen Metadaten beim Hochladen praktisch immer; ein Bild ohne Kennzeichnung ist deshalb der Regelfall und kein Hinweis auf irgendetwas.

Rot – KI-Herkunft nachgewiesen

In der Datei steht eine Kennzeichnung maschineller Erzeugung, oder es wurde ein Wasserzeichen ausgelesen.

Grün – Aufnahme belegt

Ein signiertes Herkunftszeugnis weist die Datei als Aufnahme aus, die Signaturkette geht gegen die C2PA-Vertrauensliste auf, und die Prüfsummen passen noch zu den Bilddaten.

Grau – kein Nachweis

Keines der geprüften Merkmale ist vorhanden. Daraus folgt nichts.

Die geprüften Verfahren

C2PA-Herkunftszeugnis

Die Coalition for Content Provenance and Authenticity beschreibt ein signiertes Herkunftszeugnis, das in die Datei eingebettet wird. Geprüft werden drei Dinge getrennt voneinander: ob die Prüfsummen noch zu den Bilddaten passen, ob die Signaturkette gegen die offizielle Vertrauensliste aufgeht, und welche Angabe zur Quellenart vermerkt ist. Die Vertrauenslisten werden regelmäßig neu geladen.

Das ist das einzige Verfahren mit kryptographischer Substanz, hat aber bekannte Schwächen. Eine Untersuchung vom 23. April 2026 (arXiv 2604.24890) beschreibt unter anderem austauschbare Zeitstempel, eine lückenhafte Prüfung zurückgezogener Zertifikate und den Umstand, dass verschiedene Prüfprogramme bei derselben Datei zu unterschiedlichen Ergebnissen kommen. Die Fassung 2.4 der Festlegung vom 21. April 2026 ändert daran nichts.

IPTC- und EXIF-Kennzeichnung

Der Wortschatz der IPTC sieht für die Art der Quelle eigene Werte vor, unter anderem trainedAlgorithmicMedia für vollständig von einem Modell erzeugtes Material, compositeWithTrainedAlgorithmicMedia für Mischungen und digitalCapture für Aufnahmen. Diese Angaben sind nicht signiert. Sie lassen sich mit einem einzigen Befehl entfernen und ebenso leicht eintragen. Ein Fund wird deshalb ausdrücklich als Angabe der Datei ausgewiesen, nicht als gesicherte Tatsache.

Arbeitsdaten im Bild

Lokal betriebene Bildgeneratoren legen ihre Arbeitsdaten in Textblöcken der PNG-Datei ab: Automatic1111 unter parameters, ComfyUI unter prompt und workflow mit dem vollständigen Ablaufplan, InvokeAI unter sd-metadata. Solche Daten entstehen beim Erzeugen und werden nicht nachträglich angelegt. Beim Speichern in einem anderen Format gehen sie verloren.

Unsichtbares Wasserzeichen im Bild

Geprüft wird das offengelegte Verfahren aus dem Umfeld von Stable Diffusion (dwtDct und dwtDctSvd), das die Kennung in den Bilddaten selbst ablegt. SynthID von Google kann nicht geprüft werden: es gibt weder eine offene Schnittstelle noch einen Detektor zum Selbstbetrieb, und das ist beabsichtigt – ein veröffentlichter Detektor wäre angreifbar.

Grün/Rot-Listen-Wasserzeichen im Text

Das Verfahren stammt aus der Arbeit „A Watermark for Large Language Models“ von Kirchenbauer, Geiping, Wen, Katz, Miers und Goldstein. Beim Erzeugen wird aus dem jeweils vorangehenden Zusammenhang eine Liste bevorzugter Wörter berechnet, die bei der Auswahl des nächsten Wortes begünstigt wird. Beim Prüfen wird derselbe Rechenweg nachvollzogen und gezählt, wie oft die Wahl auf diese Liste fiel.

Der z-Wert gibt an, um wie viele Streuungsbreiten der gemessene Anteil über dem liegt, was Zufall ergäbe:

z = (Treffer − γ · T) / √(T · γ · (1 − γ))

Geprüft wird ein Raster aus zwei Seed-Verfahren, zwei Listenanteilen und sechs Tokenisierern. Weil mehrfach getestet wird, wird die Irrtumswahrscheinlichkeit des besten Wertes mit der Anzahl der Kombinationen multipliziert. Ohne diese Korrektur würde allein die Menge der Versuche Scheintreffer erzeugen.

Entscheidend für die Einordnung: Nachgewiesen werden kann nur, was mit einer der offengelegten Einstellungen erzeugt wurde. Die verbreiteten Sprachmodelle setzen dieses Verfahren derzeit nicht ein. Ein fehlender Nachweis ist daher der Normalfall.

Versteckte Zeichen

Zeichen ohne Breite und Richtungssteuerung werden als Träger für versteckte Markierungen benutzt. Sie werden gezählt und benannt. Sie entstehen aber auch beim Textsatz und beim Kopieren aus Textverarbeitungen, sind also ein Anhaltspunkt und keine Herkunftsaussage.

Was hier bewusst nicht gemacht wird

Keine Bewertung nach Bildeindruck. Die frei verfügbaren Modelle zur Erkennung KI-erzeugter Bilder erreichen in unabhängigen Messungen um die 60 Prozent Trefferquote bei etwa 17 Prozent Falschmeldungen – jedes sechste echte Foto würde fälschlich als maschinell erzeugt ausgewiesen.

Keine Stilanalyse bei Text. Eine Untersuchung der Stanford University (Liang und andere, Patterns, Juli 2023) hat sieben verbreitete Erkennungsprogramme an Aufsätzen von Nicht-Muttersprachlern gemessen: im Mittel 61,3 Prozent Falschmeldungen, über 91 Prozent der Aufsätze wurden von mindestens einem Programm beanstandet. Ein solches Verfahren beschuldigt systematisch die Falschen.

Keine Fehlerniveau-Analyse und keine Sensorrauschanalyse zur Frage „KI oder nicht“. Beide Verfahren wurden für andere Fragen entwickelt – für das Auffinden örtlicher Bearbeitungen und für die Zuordnung zu einer bestimmten Kamera – und beantworten diese Frage nicht.

Keine Übermittlung an fremde Erkennungsdienste. Die gesamte Prüfung läuft auf dem eigenen Server.

Rechtlicher Hintergrund

Artikel 50 der KI-Verordnung der Europäischen Union gilt seit dem 2. August 2026 und verlangt, dass maschinell erzeugte Inhalte maschinenlesbar gekennzeichnet werden. Der zugehörige Verhaltenskodex zur Transparenz wurde am 10. Juni 2026 abgeschlossen und von Kommission und KI-Gremium am 8./9. Juli 2026 als ausreichend bewertet. Er stellt fest, dass kein einzelnes Verfahren die gesetzlichen Anforderungen erfüllt, und empfiehlt zwei Schichten: signierte Metadaten und ein Wasserzeichen im Inhalt selbst. In Deutschland ist seit dem 29. Juli 2026 das KI-Marktüberwachungs- und Innovationsförderungsgesetz in Kraft; zuständige Stelle ist die Bundesnetzagentur.

Diese Seite erzeugt selbst keine Inhalte und unterliegt der Kennzeichnungspflicht daher nicht. Sie prüft, ob andere ihr nachgekommen sind.

Grenzen in einem Satz

Ein Fund belegt etwas. Ein fehlender Fund belegt nichts. Diese Seite ist kein Beweismittel und taugt nicht als Grundlage für einen Vorwurf gegen eine Person.