Ab dem 2. August 2026 müssen bestimmte KI-generierte Texte, Bild- und Video-Inhalte als solche gekennzeichnet werden. Welche Inhalte genau betroffen sind, auf welcher rechtlichen Grundlage das basiert und mit welchen Mitteln du die Transparenzpflicht nach EU AI Act einhalten kannst, erfährst du hier.
Transparenzpflicht nach EU AI Act
Dir wird in den nächsten Monaten immer öfter ein kleines schwarzes Label begegnen, das dir signalisiert: Achtung, das hier ist **AI GENERATED**. Vielleicht in der Ecke eines Videos, vielleicht über einem Artikel oder in einem Bild. Dahinter steckt der Geltungsbeginn von Artikel 50 der europäischen KI-Verordnung am Stichtag des 02. August 2026. (In Kraft getreten ist der EU AI Act bereits im August 2024, jedoch müssen die Regelungen nur stufenweise umgesetzt werden. Alle Stufen findest du auch hier: 20 Fragen und Antworten zum EU AI Act)
Das Wichtigste in Kürze:
Ab dem 02. August 2026 greift die Transparenzpflicht in der EU in Bezug auf KI-generierte Inhalte. Reguliert werden hierbei in erster Linie: Texte, Bilder und Videos.
Welche Texte müssen gekennzeichnet werden?
- Texte, die dazu dienen, „die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“ (Quelle)
- Ausnahme: Die betroffenen Texte wurden redaktionell (menschlich) geprüft. (Dazu weiter unten mehr)
- Ausgenommen sind reine Marketingtexte, Produktinfos, KI-generierte Newsletter (da hier kein öffentliches Interesse in dem Sinne vorliegt), ebenso wie private Nachrichten oder interne Dokumente
Was steht eigentlich in Artikel 50?
Schauen wir zuerst in den Gesetzestext. Artikel 50 Absatz 1 der KI-Verordnung lautet:
1. (1) Die Anbieter stellen sicher, dass KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Nutzungskontexts angemessen informiert, aufmerksam und umsichtig ist, offensichtlich.
„Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“¹
Was hier eigentlich steht, wird klarer, wenn man zwei Wörter auseinandernimmt: „Betreiber“ und „offenlegen“. Die Verordnung unterscheidet nämlich zwischen zwei Ebenen der Transparenz. Die Anbieter von KI-Systemen — also etwa OpenAI, Google oder Anthropic — müssen nach Absatz 2 dafür sorgen, dass KI-Ausgaben maschinenlesbar gekennzeichnet sind: über Wasserzeichen und digital signierte Metadaten, die Software erkennen kann, auch wenn das menschliche Auge nichts sieht¹. Die Betreiber also alle, die KI zum Beispiel beruflich einsetzen, müssen Deepfakes zusätzlich für Menschen sichtbar offenlegen, so fern sie solche mit KI herstellen.
Zwei Ebenen der Kennzeichnung
Das Gesetz baut also eine doppelte Sicherung ein: Die maschinenlesbare Ebene sorgt dafür, dass Plattformen und Prüfwerkzeuge KI-Inhalte automatisch erkennen können — selbst dann, wenn ein Mensch das sichtbare Label entfernt hat. Die sichtbare Ebene sorgt dafür, dass jeder Nutzer es erkennt, ohne Technik-Expert sein zu müssen. Keine der beiden Ebenen allein würde reichen: Ein Wasserzeichen, das nur Maschinen lesen, schützt niemanden beim Scrollen. Ein sichtbares Label ohne technische Verankerung wäre mit zwei Klicks wegretuschiert.
Wie müssen betroffene KI-generierte Text geprüft werden?
Welche Texte sind betroffen?
Betroffen sind nur solche Texte, die dazu geschrieben wurden, „die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren“. Dieser Rahmen ist bewusst eng gesetzt. Es müssen längst nicht alle Texte gekennzeichnet oder geprüft werden.
Aber zum Beispiel Texte, die…
- als Nachrichtenartikel über eine Wahl, eine Gesetzesänderung, eine Pandemie informieren
- politische Statements oder Wahlkampf-Posts darstellen, die als Information auftreten
- Texte zu Gesundheit, Klima, öffentlicher Sicherheit, die Fakten behaupten
Eine Kennzeichnung entfällt dann, wenn der Text „einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen [wurde] und eine natürliche oder juristische Person […] die redaktionelle Verantwortung für die Veröffentlichung des Inhalts [trägt]“ (Quelle).
In Artikel 50 wird dies nicht näher erläutert. Aber die Europäische Kommission hat Guidelines zum besseren Verständnis herausgebracht, in denen erklärt wird, wie die unterschiedlichen Begriffe („Deepfake“, „öffentliches Interesse“ oder „redaktionelle Kontrolle“) zu verstehen sind.
Zum Thema redaktionellen Prüfung werden darin folgende Vorgaben gemacht:
Erstens: Es muss sich entweder um eine echte inhaltliche Prüfung durch einen Menschen handeln, der über einschlägige Sachkenntnis verfügt und ein professionelles Urteil über den Inhalt abgeben kann. Als Beispiel nennt die Leitlinie die akademisches Peer-Review, der Goldstandard in der Wissenschaft, bei dem die Begutachtung des Inhalts durch (mehrere) Gutachter, die in demselben Feld arbeiten stattfindet.
Oder – zweitens – zur Prüfung durchläuft der Text eine „professionelle Validierungskette“. Darunter wird ein mehrstufiger Freigabeprozess verstanden, wie er bei jeder internen, beruflichen Qualitätssicherung zum Tragen kommt: Ein Beispiel: Ein KI-erstellter Text durchläuft die Fachabteilung (stimmt der Inhalt?), dann die Rechts- oder Compliance-Prüfung (ist das haltbar?), dann die Freigabe durch eine verantwortliche Leitung. Erst wenn jede Stufe zugestimmt hat, wird veröffentlicht.
Hinzu kommt eine klar zuordbare redaktionelle Verantwortung. Eine identifizierbare Person oder Organisation muss die Verantwortung tragen, ihr Name und ihre Kontaktdaten müssen öffentlich zugänglich sein, und diese Stelle muss die Befugnis haben, den Inhalt zu genehmigen, zu ändern oder abzulehnen. „Redaktionelle Kontrolle“ definieren die Leitlinien als die tatsächlich ausgeübte Kontrolle einer verantwortlichen redaktionellen Instanz — Beispiel: ein Chefredakteur.
Wie genau sich die „menschliche Überprüfung“ von der „redaktionellen Kontrolle“ unterscheidet, dazu gibt es noch nicht so viel Input. Fakt ist aber, dass es hier um eine echte Kontrolle der Fakten, Quellen und Inhalte geht, und vor allem, das am Ende auch jemand die Verantwortung für die Veröffentlichung übernehmen muss.
Die Richtlinie zur Transparenzpflicht vom EU AI Office
Genau diese Doppelstruktur zieht sich auch durch den „Code of Practice on Transparency of AI-Generated Content“, den eine Expertenkommission im Auftrag des EU AI Office erarbeitet hat². Der Kodex verlangt von den Unterzeichnern sogar ein mehrschichtiges Markierungssystem — mindestens zwei Ebenen maschinenlesbarer Kennzeichnung, weil nach dem Stand der Technik keine einzelne Methode allen Manipulationsversuchen standhält². (Wer der EU gerne Bürokratiemonster-Reflexe vorwirft, sollte diesen Kodex einmal lesen: Da haben Techniker sehr nüchtern aufgeschrieben, wie leicht sich einzelne Wasserzeichen durch simples Abfotografieren des Bildschirms entfernen lassen — und Regeln gebaut, die genau das einpreisen. Das ist keine Bürokratie, das ist Ingenieursarbeit in Gesetzesform.)
Muss jetzt jeder KI-Text gekennzeichnet werden?
Hier räumen wir mit dem größten Missverständnis auf. Entgegen der weit verbreiteten Annahme muss eben nicht jeder KI-generierte Text gekennzeichnet werden. Die Offenlegungspflicht für Texte greift nur, wenn zwei Bedingungen zusammenkommen: Der Text wird veröffentlicht, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren und er wurde ohne menschliche Überprüfung oder redaktionelle Kontrolle publiziert¹. Sobald ein Mensch den Text geprüft hat und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt, entfällt die Kennzeichnungspflicht.
Ein Beispiel für KI-Kennzeichnung von Texten
Lässt du dir von einer KI einen Blogartikel über neue Gesetze entwerfen, prüfst ihn gründlich, korrigierst Fehler und veröffentlichst ihn unter deinem Namen — dann trägst du die redaktionelle Verantwortung, und der Text muss nicht als KI-Text gekennzeichnet werden. Lässt du dagegen einen Agenten vollautomatisch Nachrichtenmeldungen generieren und ungeprüft publizieren, greift die Pflicht.
Diese Unterscheidung ist kein Schlupfloch, sondern der eigentliche Kern der Regelung — und hier lohnt ein Blick über den Tellerrand ins Presserecht. Dort gilt seit weit über hundert Jahren das Prinzip des „V.i.S.d.P.“: Verantwortlich im Sinne des Presserechts. Jede Zeitung muss eine Person benennen, die für den Inhalt geradesteht.
Der AI Act überträgt diese alte presserechtliche Logik auf das KI-Zeitalter: Entscheidend ist nicht, womit ein Text entstanden ist, sondern ob jemand die Verantwortung für ihn übernimmt. Der Code of Practice verlangt von Unternehmen ohne redaktionelle Strukturen deshalb genau das, was Zeitungen schon immer tun mussten: die verantwortliche Person mit Name, Rolle und Kontaktdaten zu benennen². Wo ein Mensch haftet, braucht es kein Label. Wo niemand haftet, muss die Maschine sichtbar werden.
Deepfakes: Was auf dem Spiel steht
Warum dieser ganze Aufwand? Die Antwort gibt eine Geschichte, die die Moderatorin Collien Ulmen-Fernandes öffentlich gemacht hat — und die zeigt – unter anderem – was passieren kann wenn synthetische Inhalte nicht als solche erkennbar sind.
Dein Gesicht auf einem KI-generierten Körper
Ein Essen mit einem Fernsehproduzenten, eigentlich ein Routinetermin. Doch der Mann druckst herum, bis er schließlich erzählt: Er habe mit ihr monatelang auf LinkedIn geschrieben. Erst unverbindlich, dann habe sie angefangen zu flirten. Nacktbilder geschickt. Sogar Sexvideos³. Das Problem: Ulmen-Fernandes hatte nie mit ihm geschrieben. Die Fotos und Videos existierten — aber sie zeigten einen fremden Körper, auf den eine KI ihr Gesicht montiert hatte. Jemand hatte mit Deepfake-Pornos und einem Fake-Profil ihre Identität übernommen und in ihrem Namen Männer aus der Branche kontaktiert, in der sie arbeitet.
Für die ZDF-Doku-Reihe „Die Spur“ hat Ulmen-Fernandes den Fall 2024 selbst recherchiert und dabei offengelegt, was Betroffene erwartet⁴: Anzeigen, die wegen Geringfügigkeit eingestellt werden. Eine Frau, die zum fünften Mal umziehen musste, weil neben den Deepfakes auch ihre Adresse veröffentlicht wurde. Und eine Zahl, die das Ausmaß zeigt: 99 Prozent der von Deepfake-Pornografie Betroffenen sind Frauen³. Ihre Kolleginnen Lola Weippert und Mareile Höppner berichten in der Doku von denselben Erfahrungen.
Deepfake: Definition
An diesem Fall lässt sich präzise ablesen, wogegen Artikel 50 gebaut ist. Ein Deepfake ist nach der Legaldefinition der Verordnung ein KI-erzeugter Inhalt, der wirklichen Personen ähnelt und „einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde„⁵ — genau das war hier die Waffe: Der Produzent hatte keinen Grund zu zweifeln. Die Täuschung funktionierte, weil nichts sie als Täuschung auswies.
Die Kennzeichnungspflicht setzt exakt an dieser Stelle an. Sie macht Täter zwar nicht harmlos — wer Deepfake-Pornos erstellt, wird sich von einer Labelpflicht nicht aufhalten lassen und macht sich ohnehin strafbar. Aber sie verändert das Ökosystem darunter: Seriöse KI-Anbieter müssen Ausgaben maschinenlesbar markieren, Plattformen können markierte Inhalte automatisch erkennen, und ungekennzeichnete realistische Inhalte werden vom Normalfall zur Anomalie, die Verdacht erregt. Der Code of Practice verpflichtet Anbieter zusätzlich, kostenlose Erkennungswerkzeuge bereitzustellen — mit garantiert freiem Zugang für Medien, Faktenchecker und Forschende².
Risiken für die Gesellschaft abwenden
Dieselbe Logik gilt eine Ebene höher, wo nicht Einzelne, sondern Gesellschaften getäuscht werden. Stell dir den Abend vor einer Bundestagswahl vor: Ein Video kursiert, in dem eine Spitzenkandidatin etwas Ungeheuerliches sagt. Bis Faktenchecker es widerlegt haben, ist die Wahl vorbei. Genau dieses Szenario — Desinformation, Manipulation im großen Maßstab, Betrug und Identitätsdiebstahl — benennt der Code of Practice ausdrücklich als Risiko für die „Integrität des Informationsökosystems“². Der Schutz des Einzelnen und der Schutz der demokratischen Öffentlichkeit sind hier zwei Seiten derselben Regelung.
Ein Blick über den Atlantik: Was ohne diese Regeln möglich ist
Wie viel diese Schutzarchitektur wert ist, sieht man dort, wo sie fehlt. In den USA gleichen Polizeibehörden Überwachungsvideos über private Dienste wie „Clearview AI“ in Sekunden mit Milliarden Social-Media-Fotos von echten und überwiegend unschuldigen Menschen ab. Das ist biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum – und in der EU verboten. Ebenfalls erlaubt im „Land of the free“ ist das Analysieren der Mimik mittels KI, beispielsweise von den eigenen Beschäftigten in Video-Meetings, um Stress oder Loyalität zu messen. Dieses Verfahren (Emotionserkennung) am Arbeitsplatz und in Schulen ist in der EU untersagt. Und KI-generierte Inhalte dürfen dort weitgehend ohne Kennzeichnung kursieren, solange kein anderes Gesetz verletzt wird — während in der EU ab August die Offenlegungspflicht greift.
Man kann diese Liste auf zwei Arten lesen. Als Standortnachteil: „In den USA geht mehr.“ Oder als das, was sie ist: eine Aufzählung dessen, was dir hier nicht passieren kann. Dein Gesicht landet nicht in einer kommerziellen Erkennungsdatenbank, dein Arbeitgeber darf deine Mimik nicht auswerten, und wenn dir ein täuschend echtes Video begegnet, hast du einen Rechtsanspruch darauf zu erfahren, dass es künstlich ist. Die EU hat sich entschieden, den Schutz vor Täuschung höher zu gewichten als die Freiheit zu täuschen — das ist keine Bürokratie, das ist eine Werteentscheidung.
Wie die Pflicht zur Kennzeichnung konkret aussieht
Bleibt die praktische Frage: Wie sieht so eine Offenlegung aus? Die Verordnung schreibt keinen festen Wortlaut vor, verlangt aber Klarheit spätestens „zum Zeitpunkt der ersten Interaktion oder Aussetzung“¹ — du sollst also nicht erst im Kleingedruckten erfahren, dass ein Video künstlich ist, sondern bevor du es für echt halten kannst.
Damit daraus kein Wildwuchs aus hundert verschiedenen Labels wird, liefert der Code of Practice fertige EU-Icons mit: ein Label „AI GENERATED“ für vollständig KI-erzeugte Inhalte und „AI MODIFIED“ für KI-veränderte Inhalte². Interessant ist, wie die EU zu diesen zwei Varianten kam — nämlich empirisch: In Nutzertests über mehrere Mitgliedstaaten schnitten Icons mit explizitem Textzusatz deutlich besser ab als reine Symbole, weil der Klartext die Mehrdeutigkeit reduziert². Für künstlerische und satirische Werke gilt eine abgeschwächte Pflicht: Die Kennzeichnung darf den Genuss des Werks nicht beeinträchtigen — bei einem Film reicht also der Hinweis im Vor- oder Abspann, niemand muss ein Label über die ganze Spielzeit einblenden¹.
Wann kommt die Transparenzplflicht nach EU AI Act?
Ein Termin zum Vormerken bleibt: Die Betreiberpflicht zur Deepfake-Offenlegung gilt fix ab dem 2. August 2026⁶. Bei der maschinenlesbaren Anbieter-Kennzeichnung ist derzeit eine Übergangsfrist für ältere Systeme im Gespräch — beschlossen ist sie noch nicht⁶. Wer beruflich mit KI-Bildern, -Videos oder -Stimmen arbeitet, sollte seine Prozesse jetzt prüfen. Nicht, weil ein Bürokratiemonster es verlangt. Sondern weil das kleine schwarze Label der Preis dafür ist, dass wir unseren Augen wieder trauen können.
Quellen zum Artikel Transparenzpflicht nach EU AI Act
1. Artikel 50 KI-Verordnung (Verordnung (EU) 2024/1689): https://ai-act-law.eu/de/artikel/50/
2. Code of Practice on Transparency of AI-Generated Content, EU AI Office (Arbeitsgruppen unter Vorsitz von Kalina Bontcheva und Anja Bechmann)
3. WEISSER RING Magazin: „Collien Ulmen-Fernandes: Wenn dein Gesicht in einem Porno ist“: https://wr-magazin.de/themen/collien-ulmen-fernandes-deepfake-pornos-digitale-gewalt/
4. ZDF „Die Spur“: Deepfake-Pornos — Doku mit Collien Ulmen-Fernandes (2024): https://www.zdf.de/reportagen/die-spur-deepfake-pornos-collien-ulmen-fernandes-100
5. Artikel 3 Nr. 60 KI-Verordnung (Legaldefinition Deepfake): https://artificialintelligenceact.eu/de/article/50/
6. ab&d Rechtsanwälte: „Wie müssen Deepfakes gekennzeichnet werden?“ (Stand der Fristen inkl. Digital-Omnibus-Debatte): https://www.abd-partner.de/de/blog/deepfakes-kennzeichnen