KI-generierte Inhalte richtig kennzeichnen: Der EU-Verhaltenskodex zur KI-Verordnung

Mit der KI-Verordnung rücken Transparenzpflichten für KI-generierte Inhalte in den Mittelpunkt der Unternehmenspraxis. Besonders relevant ist Art. 50 der KI-Verordnung: Anbieter bestimmter KI-Systeme müssen technische Kennzeichnungen vorsehen; Betreiber, die KI-Systeme einsetzen, müssen bestimmte Inhalte gegenüber natürlichen Personen klar offenlegen. Die Transparenzpflichten aus Art. 50 der KI-Verordnung gelten nach Angaben der Europäischen Kommission ab dem 2. August 2026.
Der nun veröffentlichte „Code of Practice on Transparency of AI-Generated Content“ konkretisiert, wie Unternehmen diese Pflichten praktisch umsetzen können. Er ist zwar freiwillig, soll aber als EU-weit einheitlicher Orientierungsrahmen dienen. Die Pflichten aus Art. 50 der KI-Verordnung selbst bleiben rechtlich verbindlich. Grundlage dieses Beitrags ist der vorliegende Verhaltenskodex zur Transparenz KI-generierter Inhalte.

Zwei Ebenen der Kennzeichnung: technische Markierung und sichtbare Offenlegung

Der Verhaltenskodex unterscheidet deutlich zwischen Pflichten der Anbieter und Pflichten der Betreiber.
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sollen sicherstellen, dass die Ausgaben maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sind. Art. 50 Abs. 2 der KI-Verordnung verlangt hierfür technische Lösungen, die – soweit technisch möglich – wirksam, interoperabel, robust und zuverlässig sind.
Betreiber von KI-Systemen müssen demgegenüber bestimmte Inhalte für Menschen klar kennzeichnen. Das betrifft vor allem Deepfakes sowie KI-generierte oder KI-manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Kennzeichnungspflichten für Anbieter: maschinenlesbar und nachweisbar

Für Anbieter generativer KI-Systeme sieht der Kodex einen technischen Transparenzansatz vor. KI-generierte oder KI-manipulierte Inhalte sollen nicht nur sichtbar gekennzeichnet werden können, sondern technisch überprüfbar bleiben.
Im Zentrum stehen nach dem Kodex insbesondere:

• digital signierte Metadaten,
• nicht wahrnehmbare Wasserzeichen,
• Erkennungslösungen zur Überprüfung dieser Markierungen,
• Prozesse zur Prüfung, Dokumentation und Überwachung der technischen Lösungen.

Der Kodex empfiehlt dabei grundsätzlich einen mehrschichtigen Ansatz. Hintergrund ist, dass nach aktuellem Stand der Technik eine einzelne Kennzeichnungsmethode häufig nicht ausreicht, um Wirksamkeit, Robustheit, Interoperabilität und Zuverlässigkeit zugleich sicherzustellen. Bei Texten ist die Umsetzung besonders anspruchsvoll, weil frei formulierter Text keine Metadaten „mittransportiert“ und Wasserzeichen je nach Länge und Bearbeitung an Aussagekraft verlieren können.
Praktisch bedeutet dies: Die Kennzeichnung muss möglichst schon in der Systemarchitektur, im Modell- oder Ausgabedesign und in den Dokumentationsprozessen berücksichtigt werden.

Kennzeichnungspflichten für Betreiber: Wann Inhalte offengelegt werden müssen

Für Betreiber ist Art. 50 Abs. 4 der KI-Verordnung besonders relevant. Danach muss offengelegt werden, dass ein Inhalt künstlich erzeugt oder manipuliert wurde, wenn ein KI-System Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deepfake darstellen. Ein Deepfake liegt vor, wenn der Inhalt existierende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse so nachbildet, dass er fälschlich authentisch oder wahr erscheinen kann.
Zusätzlich besteht eine Offenlegungspflicht für KI-generierte oder KI-manipulierte Texte, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Keine Offenlegungspflicht besteht insoweit, wenn der Text einem Prozess menschlicher Überprüfung oder redaktioneller Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.
Damit wird für Unternehmen eine praktische Abgrenzung wichtig: Nicht jeder KI-generierte Text muss zwingend gekennzeichnet werden. Entscheidend sind Zweck, Kontext, Veröffentlichungsform und redaktionelle Verantwortung.

Wie Betreiber richtig kennzeichnen sollten

Der KI-Verhaltendkodex verlangt eine klare, unterscheidbare und barrierefreie Offenlegung spätestens zum Zeitpunkt des ersten Kontakts oder der ersten Wahrnehmung durch die betroffene Person. Diese Vorgabe entspricht Art. 50 Abs. 5 der KI-Verordnung.
Für die Praxis bedeutet dies: Die Kennzeichnung darf nicht versteckt werden. Ein Hinweis in schwer auffindbaren Nutzungsbedingungen, in einer allgemeinen Datenschutzerklärung oder in einem Impressum wird regelmäßig nicht ausreichen. Die Information muss dort erscheinen, wo der Nutzer den Inhalt tatsächlich wahrnimmt.
Die Europäische Kommission stellt hierfür freiwillig nutzbare EU-Icons bereit. Diese Icons sollen die Erkennbarkeit KI-generierter oder KI-manipulierter Inhalte erleichtern. Ihre Nutzung ist freiwillig; die Kennzeichnungspflicht nach Art. 50 der KI-Verordnung bleibt jedoch unabhängig davon verbindlich.

Platzierung der Kennzeichnung: Sichtbar, rechtzeitig und mediengerecht

Die Kennzeichnung muss so platziert werden, dass sie für natürliche Personen spätestens bei der ersten Wahrnehmung des Inhalts klar erkennbar ist. Sie darf also nicht erst in allgemeinen Hinweisen, Nutzungsbedingungen oder nachgelagerten Begleitinformationen erscheinen. Nach dem Verhaltenskodex soll das Icon oder ein gleichwertiges Label grundsätzlich direkt im Inhalt selbst eingebettet werden; alternativ kommt eine gleichwertige Einblendung über die Benutzeroberfläche in Betracht, wenn sie für Nutzer wie eine Kennzeichnung am Inhalt wirkt.

Bei KI-generierten oder KI-manipulierten Bildern sollte die Kennzeichnung an einer gut sichtbaren Stelle erscheinen, an der sie nicht durch andere Elemente überdeckt wird. Der Kodex nennt beispielhaft die obere rechte Ecke eines Bildes oder Videos. Entscheidend ist nicht die konkrete Ecke, sondern dass das Label mit ausreichendem Abstand zu anderen Overlays, Bannern, Buttons oder Bildinformationen platziert wird und auf dem jeweiligen Hintergrund klar lesbar bleibt.
Für die Praxis bedeutet dies: Wird ein KI-generiertes Produktbild, ein manipuliertes Personenbild, ein synthetisches Pressefoto oder ein sonstiger visueller Deepfake veröffentlicht, sollte das KI-Label auf oder unmittelbar an dem Bild erscheinen. Ein bloßer Hinweis unterhalb einer Bildergalerie oder am Seitenende wird regelmäßig nicht genügen, wenn der Nutzer das einzelne Bild bereits vorher wahrnimmt.

Bei Videos ist die Kennzeichnung mindestens zu Beginn einzublenden. Wo möglich, soll sie zusätzlich in regelmäßigen Abständen sowie nach Unterbrechungen – etwa nach Werbe- oder Sendepausen – erneut erscheinen. Besonders bei kurzen Ausschnitten, Clips oder Live-Inhalten ist dies wichtig, weil Nutzer häufig nicht den Anfang des Videos sehen. Soweit technisch und gestalterisch möglich, sollte das Label während der gesamten Dauer des Deepfake-Videos oder jedenfalls während des KI-manipulierten Abschnitts sichtbar bleiben.

Bei Audio-Inhalten ist ein kurzer hörbarer Hinweis zu Beginn erforderlich, wenn keine visuelle Kennzeichnung möglich ist. Steht ein Bildschirm zur Verfügung – etwa bei Wiedergabe über Smartphone, Fahrzeugdisplay, Smart-TV oder Webplayer –, sollte zusätzlich ein visuelles KI-Label eingeblendet werden.

Bei veröffentlichten Texten sollte die Kennzeichnung am Anfang des Beitrags, oberhalb des Textes, in der Nähe der Überschrift oder an einer vergleichbar prominenten Stelle erfolgen. Bei sehr kurzen Texten, einzelnen Formulierungen oder kurzen KI-generierten Ausgaben kann eine Kennzeichnung in der Benutzeroberfläche ausreichen, etwa durch einen klaren Hinweis unmittelbar neben der Ausgabe oder zu Beginn der Nutzungssitzung.

Besondere Fälle: Kunst, Satire und redaktionelle Inhalte

Die KI-Verordnung sieht für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke eine Erleichterung vor. In diesen Fällen darf die Offenlegung so erfolgen, dass sie die Darstellung oder den Genuss des Werkes nicht beeinträchtigt.
Das bedeutet jedoch keine vollständige Ausnahme. Auch hier muss grundsätzlich erkennbar gemacht werden, dass KI-generierte oder KI-manipulierte Inhalte verwendet wurden. Die Kennzeichnung kann aber etwa in Begleitinformationen, Credits, Beschreibungen, Tickets, Ausstellungshinweisen oder an vergleichbaren Stellen erfolgen.
Für Medienunternehmen und andere redaktionell arbeitende Organisationen ist außerdem die Ausnahme für KI-generierte Texte wichtig. Wenn menschliche Überprüfung oder redaktionelle Kontrolle stattfindet und eine natürliche oder juristische Person redaktionelle Verantwortung übernimmt, kann die spezifische Offenlegungspflicht für KI-generierte Texte auf Angelegenheiten von öffentlichem Interesse entfallen. Dies ersetzt jedoch nicht die Prüfung anderer Pflichten, etwa aus Medien-, Urheber-, Datenschutz-, Wettbewerbs- oder Verbraucherrecht.

Umsetzung im Unternehmen: Was Betreiber jetzt vorbereiten sollten

Betreiber sollten die Kennzeichnungspflichten nicht erst bei Veröffentlichung einzelner Inhalte prüfen, sondern in interne Prozesse übersetzen. Der Kodex verlangt insbesondere interne Compliance-Prozesse, Sensibilisierung der beteiligten Personen sowie Review- und Feedbackmechanismen.
Für Unternehmen empfiehlt sich ein praktischer interner Umsetzungsplan:

• Erfassung, welche KI-Systeme für Content-Erstellung oder Content-Bearbeitung genutzt werden.
• Einordnung, ob Deepfakes oder Texte zu Angelegenheiten von öffentlichem Interesse entstehen können.
• Prüfung und Festlegung, wann ein Inhalt als KI-generiert, KI-manipuliert oder redaktionell kontrolliert gilt.
• Definition einheitlicher Labels, Icons und Textbausteine.
• Vorgaben zur Platzierung auf Website, Social Media, Video, Audio, Präsentationen und internen Medien.
• Dokumentation der Verantwortlichkeiten, Freigabeprozesse und redaktionellen Kontrolle.
• Schulung von Marketing, Kommunikation, Redaktion, HR, Vertrieb und externen Dienstleistern.
• Einrichtung eines Prozesses zur Korrektur fehlender oder fehlerhafter Kennzeichnungen.

Gerade in Marketing- und Kommunikationsabteilungen sollten klare Freigaberoutinen geschaffen werden. Wer etwa KI-generierte Produktbilder, synthetische Stimmen, Avatare, Bildmanipulationen oder automatisierte Nachrichteninhalte verwendet, sollte vor Veröffentlichung prüfen, ob eine Kennzeichnungspflicht besteht und wie diese mediengerecht umzusetzen ist.

Fazit: Transparenz wird Teil der Content-Governance

Der Verhaltenskodex macht deutlich: Die KI-Verordnung behandelt Transparenz nicht als bloße Formalie. Unternehmen müssen künftig nachvollziehbar organisieren, wann KI-generierte Inhalte entstehen, wie sie technisch oder sichtbar gekennzeichnet werden und wer intern Verantwortung übernimmt.
Für Betreiber liegt der Schwerpunkt auf klaren, rechtzeitigen und barrierefreien Hinweisen gegenüber den Personen, die den Inhalt sehen, hören oder lesen. Für Anbieter stehen maschinenlesbare Markierungen und verlässliche Erkennungslösungen im Vordergrund. In beiden Fällen gilt: Wer frühzeitig Standards, Workflows und Zuständigkeiten schafft, reduziert Compliance-Risiken und stärkt zugleich das Vertrauen in den Einsatz generativer KI.

Weitere Informationen

Verhaltenskodex zur Transparenz von KI-generierten Inhalten der Europäischen Kommission

KI-Verordnung (Verordnung (EU) 2024/1689)