Mit der zunehmenden Qualität generativer KI verschwimmt die Grenze zwischen echten und synthetischen Inhalten. Bilder, Stimmen und Videos lassen sich heute so erzeugen, dass sie von authentischem Material kaum zu unterscheiden sind. Der EU AI Act reagiert darauf mit einer eigenen Transparenzpflicht in Art. 50: Bestimmte KI-generierte oder -manipulierte Inhalte müssen als solche gekennzeichnet werden. Für jedes Unternehmen, das mit generativer KI Inhalte erzeugt — von Marketing über Medien bis zur Produktentwicklung —, ist das eine konkrete operative Pflicht, keine ferne Theorie.
Wen die Kennzeichnungspflicht trifft
Art. 50 unterscheidet zwei Adressaten. Anbieter von KI-Systemen, die synthetische Inhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt markiert werden — etwa über Wasserzeichen oder Metadaten. Betreiber, die solche Systeme nutzen, treffen ergänzende Pflichten: Wer ein KI-System einsetzt, um einen Deepfake zu erzeugen — also Bild-, Ton- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen täuschend ähnlich sehen —, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Ähnliches gilt für KI-generierte Texte, die über Angelegenheiten von öffentlichem Interesse informieren.
Die Ausnahmen verstehen
Die Pflicht ist nicht absolut. Für künstlerische, kreative, satirische oder fiktionale Werke gilt eine abgeschwächte Form: Die Offenlegung muss in einer Weise erfolgen, die den Genuss des Werks nicht beeinträchtigt — etwa als unaufdringlicher Hinweis statt als störende Einblendung. Auch bei Inhalten, die einer behördlichen Kontrolle dienen, gibt es Sonderregeln. Die Kunst liegt darin, die anwendbare Variante korrekt zu bestimmen: Ein satirisches Video unterliegt einer anderen Anforderung als ein täuschend echter Werbeclip mit der synthetischen Stimme einer realen Person.
Maschinenlesbar und menschenlesbar
Ein zentraler Punkt, der oft missverstanden wird: Art. 50 verlangt im Kern zwei Ebenen. Auf der technischen Ebene sollen Ausgaben maschinenlesbar markiert sein, damit Plattformen und nachgelagerte Systeme synthetische Inhalte automatisch erkennen können. Standards wie C2PA für Content-Provenance und robuste Wasserzeichen sind die technische Antwort darauf. Auf der menschlichen Ebene muss bei Deepfakes für die betrachtende Person erkennbar sein, dass der Inhalt künstlich ist. Beide Ebenen sind nötig — ein Wasserzeichen allein erfüllt die Offenlegungspflicht gegenüber dem Menschen nicht, und ein sichtbarer Hinweis allein erfüllt die maschinenlesbare Anforderung nicht.
Die technische Umsetzung
In der Praxis bedeutet das: Wer generative KI für öffentlich sichtbare Inhalte einsetzt, braucht einen Prozess, der die Kennzeichnung verlässlich anbringt. Für maschinenlesbare Markierung bieten sich Provenance-Metadaten nach dem C2PA-Standard und Wasserzeichen-Verfahren an, die auch nach Bearbeitung möglichst erhalten bleiben. Für die menschenlesbare Offenlegung genügt oft ein klarer Hinweis im Umfeld des Inhalts — eine Bildunterschrift, ein Overlay, ein Vermerk. Wichtig ist die Robustheit: Eine Kennzeichnung, die beim ersten Zuschnitt oder erneuten Export verschwindet, erfüllt den Zweck nicht. Verankern Sie die Kennzeichnung deshalb so früh wie möglich im Erzeugungsprozess, nicht als nachträglichen Aufkleber.
Der Zeitplan
Die Transparenzpflichten des Art. 50 gehören zu den Bestimmungen, die nach dem gestaffelten Inkrafttreten des AI Act vergleichsweise früh greifen — die transparenzbezogenen Pflichten treten ab August 2026 in Kraft. Wer heute generative KI in Produkten oder im Marketing einsetzt, sollte den Kennzeichnungsprozess deshalb jetzt aufsetzen. Das ist weniger eine technische als eine prozessuale Aufgabe: Wer entscheidet, welche Inhalte als synthetisch gelten, wer bringt die Kennzeichnung an, und wie wird das dokumentiert?
Über die Pflicht hinaus: Vertrauen
Es lohnt sich, die Kennzeichnung nicht nur als Last zu sehen. In einer Medienlandschaft, in der Vertrauen knapp wird, ist transparente Kennzeichnung synthetischer Inhalte ein Glaubwürdigkeitssignal. Unternehmen, die offen ausweisen, was KI-erzeugt ist, positionieren sich auf der Seite der Seriosität — gerade im DACH-Raum, wo Skepsis gegenüber undurchsichtiger KI verbreitet ist. Die regulatorische Pflicht und das Markeninteresse zeigen hier ausnahmsweise in dieselbe Richtung.
Was zu tun ist
Erstellen Sie eine Inventur Ihrer generativen KI-Nutzung: Wo erzeugen oder bearbeiten wir Bild-, Ton-, Video- oder relevante Textinhalte mit KI, und welche davon werden veröffentlicht? Für jeden dieser Anwendungsfälle bestimmen Sie die anwendbare Kennzeichnungsvariante, definieren den verantwortlichen Prozess und implementieren sowohl die maschinenlesbare als auch die menschenlesbare Markierung. Dokumentieren Sie die Entscheidung. Wenn Sie unsicher sind, ob ein bestimmter Inhalt unter die strenge Deepfake-Regel oder eine der Ausnahmen fällt, ist das genau die Abgrenzung, an der eine fachliche Einschätzung Klarheit schafft, bevor der Inhalt veröffentlicht wird.
Die Abgrenzung zu anderen Pflichten
Die Kennzeichnungspflicht des Art. 50 steht nicht allein. Erzeugt ein generatives System personenbezogene Daten — etwa das Gesicht oder die Stimme einer realen Person —, greift parallel die DSGVO mit ihren Anforderungen an Rechtsgrundlage und Betroffenenrechte. Bei einem Deepfake einer realen Person kommen zudem Persönlichkeitsrechte und das Recht am eigenen Bild ins Spiel. Ein einziger synthetischer Inhalt kann also mehrere Regelungsschichten gleichzeitig berühren. Behandeln Sie die Kennzeichnung deshalb als einen Baustein eines breiteren Verantwortungsrahmens, nicht als isolierte Pflicht — wer nur das Wasserzeichen setzt, aber die datenschutz- und persönlichkeitsrechtliche Dimension übersieht, hat das Problem nur halb gelöst.
Praktisch hilft hier dieselbe Disziplin wie bei jeder KI-Governance: ein Inventar, das jeden generativen Anwendungsfall mit seinen Inhaltstypen, den betroffenen Personen und den jeweils anwendbaren Pflichten verbindet. Aus diesem Inventar ergibt sich dann pro Fall, welche Kombination aus Kennzeichnung, datenschutzrechtlicher Grundlage und Einwilligung nötig ist. So vermeiden Sie sowohl das Übersehen einer Pflicht als auch die übervorsichtige Überregulierung harmloser Inhalte.