Warum führt der EU AI Act Transparenzpflichten ein?

Mit dem zunehmenden Einsatz künstlicher Intelligenz wird es immer schwieriger zu erkennen, ob Bilder, Videos oder Stimmen tatsächlich echt oder vollständig künstlich erzeugt wurden. Der Gedanke hinter den neuen Transparenzpflichten lautet: Die Europäerinnen und Europäer sollen erkennen können, ob Inhalte von einer künstlichen Intelligenz erzeugt oder wesentlich verändert wurden – insbesondere dann, wenn dadurch der Eindruck einer echten Aufnahme oder eines authentischen Ereignisses entstehen kann.

Der Fokus liegt dabei nicht auf der verwendeten Technologie selbst, sondern auf der Transparenz gegenüber den Nutzerinnen und Nutzern.

Was ändert sich ab dem 2. August 2026?

Ab dem 2. August 2026 verpflichtet der EU AI Act Anbieter und Betreiber bestimmter KI-Systeme dazu, KI-generierte oder KI-manipulierte Inhalte in bestimmten Fällen transparent kenntlich zu machen. Dabei gilt: Nicht jede KI-Nutzung ist automatisch kennzeichnungspflichtig.

Maßgeblich ist vielmehr,

• welcher Inhalt veröffentlicht wird,
• wie dieser auf Betrachter wirkt,
• und ob der Eindruck entstehen kann, dass es sich um eine echte Aufnahme oder ein authentisches Ereignis handelt.

Wann kann eine Kennzeichnung erforderlich sein?

Eine Kennzeichnung kann insbesondere dann erforderlich sein, wenn künstliche Intelligenz Inhalte erzeugt oder verändert, die für durchschnittliche Betrachter wie echte Aufnahmen wirken könnten. Der Begriff, der hierbei eine zentrale Rolle spielt, lautet Deepfake.

Dazu gehören beispielsweise:

• KI-generierte Personen
• KI-generierte Stimmen
• KI-generierte Interviews
• KI-generierte Videos scheinbar realer Ereignisse
• KI-manipulierte Fotos
• KI-manipulierte Videos

Was versteht der AI Act unter einem Deepfake?

Der EU AI Act definiert einen Deepfake als ein KI-generiertes oder KI-manipuliertes Bild-, Audio- oder Videomaterial, das echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und von durchschnittlichen Betrachterinnen oder Betrachtern fälschlicherweise für echt oder authentisch gehalten werden könnte.

Wichtig ist dabei: Die Transparenzpflicht beschränkt sich nicht ausschließlich auf Personen. Sie kann ebenso greifen, wenn KI täuschend echt wirkende Darstellungen von Produkten, Gebäuden, Fahrzeugen, Räumen, Gegenständen oder Orten erzeugt oder verändert.

Beispiele hierfür können sein:

• eine KI-generierte Person, die wie ein echtes Model aussieht
• ein KI-generiertes Produktfoto, das wie eine reale Produktaufnahme wirkt
• ein KI-generiertes Fahrzeug, das aussieht wie ein tatsächlich existierendes Modell
• eine KI-generierte Küche oder Wohnzimmereinrichtung, die wie eine Fotografie erscheint
• ein KI-generiertes Video eines scheinbar realen Ereignisses
• KI-manipulierte Aufnahmen, bei denen Gesichter, Stimmen oder Inhalte verändert wurden

In diesen Fällen kann eine Kennzeichnung erforderlich sein.

Wichtiger rechtlicher Hinweis

Der AI Act nennt ausdrücklich Personen, Gegenstände, Orte, Einrichtungen und Ereignisse. Gleichzeitig legt das Gesetz jedoch nicht abschließend fest, wann beispielsweise ein fotorealistisches KI-Produktbild bereits als Deepfake einzustufen ist. Maßgeblich ist stets, ob der jeweilige Inhalt geeignet ist, als echte Aufnahme oder authentisches Ereignis wahrgenommen zu werden. Für diese Grenzfälle existiert derzeit noch keine gefestigte Rechtsprechung. Deshalb bleibt in vielen Fällen eine rechtliche Bewertung des jeweiligen Einzelfalls erforderlich.

Welche KI-Unterstützung ist grundsätzlich nicht kennzeichnungspflichtig?

Nicht jede Nutzung künstlicher Intelligenz löst automatisch Transparenzpflichten aus.

Grundsätzlich nicht betroffen sind beispielsweise:

• klassische Bildretusche
• Farbkorrekturen
• Freisteller
• Lichtanpassungen
• Layout-Unterstützung
• KI als Hilfsmittel im Designprozess
• Produktbeschreibungen mit anschließender menschlicher Prüfung
• Werbetexte mit redaktioneller Verantwortung
• Newsletter eines Unternehmens
• Broschürentexte
• Claims oder Slogans

Auch viele kreative oder eindeutig künstliche Darstellungen wie Illustrationen, Fantasiemotive oder surrealistische Grafiken fallen regelmäßig nicht unter die Deepfake-Regelungen.

Besonderheiten bei Texten

Für Texte gelten besondere Regelungen. Die Transparenzpflicht nach Artikel 50 Absatz 4 betrifft ausschließlich KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Deshalb gilt grundsätzlich:

Die entscheidende Frage lautet: Dient der veröffentlichte KI-generierte Text dazu, die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren?

Ausnahme bei Texten

Der AI Act sieht ausdrücklich eine Ausnahme vor. Eine Kennzeichnung ist grundsätzlich nicht erforderlich, wenn

• der KI-generierte Text einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und
• eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.

Eine belastbare Umsetzung kann beispielsweise so aussehen:

• KI erstellt einen Entwurf
• verantwortliche Person prüft den Inhalt
• Änderungen werden vorgenommen
• Fakten werden geprüft
• Veröffentlichung erfolgt unter menschlicher Verantwortung

Welche Fotos können kennzeichnungspflichtig sein?

Ein KI-Bild kann kennzeichnungspflichtig sein, wenn

• es künstlich erzeugt oder verändert wurde und
• so realistisch wirkt, dass Betrachter es für eine echte Aufnahme halten könnten.

Beispiele:

• KI-generierte Person
• Austausch eines Gesichts durch KI
• KI-generiertes Produktfoto mit realistischer Wirkung
• KI-generierte Räume oder Gebäude
• KI-generierte Ereignisse

Welche Fotos sind grundsätzlich nicht betroffen?

Nicht jedes KI-Bild fällt automatisch unter die Deepfake-Regelung. Typischerweise nicht betroffen sind beispielsweise:

• Produktvisualisierungen, solange nicht der Eindruck entsteht, es handle sich um eine reale Fotografie
• Illustrationen
• Fantasiemotive
• surrealistische Gestaltungen
• klassische Bildbearbeitung
• Farbkorrekturen
• Freisteller
• Lichtanpassungen

Welche Videos können kennzeichnungspflichtig sein?

Kennzeichnungspflichtig können beispielsweise sein:

• KI-generierte Personen in real wirkenden Umgebungen
• KI-generierte Stimmen realer Personen
• manipulierte Interviews
• veränderte Redebeiträge
• täuschend echte KI-generierte Ereignisse

Gerade bei Videos empfiehlt sich eine besonders sorgfältige Prüfung, da bewegte Inhalte häufig besonders authentisch wirken.

Was bedeutet das für Werbefotos und Werbevideos?

Gerade im Marketing entstehen derzeit viele neue Anwendungsfälle. Hier liegt zugleich einer der wichtigsten praktischen Grenzbereiche.

Beispiel 1
Eine Agentur erstellt ein KI-Bild einer Familie in einem Wohnzimmer.

Wenn

• die Familie vollständig KI-generiert wurde,
• die Szene wie ein echtes Fotoshooting wirkt,
• Betrachter davon ausgehen könnten, dass die Aufnahme tatsächlich existiert, kann rechtlich eine Kennzeichnung erforderlich sein.

Beispiel 2
Eine Agentur erstellt eine futuristische Produktvisualisierung mit schwebenden Elementen. Hier besteht grundsätzlich keine Kennzeichnungspflicht.

Beispiel 3
KI erweitert einen Hintergrund, tauscht den Himmel aus oder verändert die Lichtstimmung. Allein dadurch entsteht regelmäßig keine Transparenzpflicht.

Wo gelten die Transparenzpflichten?

Die Transparenzpflichten gelten grundsätzlich plattformunabhängig. Entscheidend ist nicht, wo Inhalte veröffentlicht werden. Entscheidend ist, welcher Inhalt veröffentlicht wird.

Die Regelungen können deshalb unter anderem gelten für:

• Websites
• Onlineshops
• Social Media
• Printmedien
• Präsentationen
• Newsletter
• Apps
• Videos
• Audioinhalte
• digitale Werbemittel
• digitale Werbedisplays

Wie muss gekennzeichnet werden?

Der AI Act schreibt keinen festen Wortlaut vor. Die Kennzeichnung muss jedoch

• klar,
• verständlich,
• leicht wahrnehmbar,
• deutlich
• und vom übrigen Inhalt unterscheidbar sein.

Die offiziellen EU-Icons zur Kennzeichnung

Die Europäische Kommission stellt standardisierte Kennzeichnungssymbole zur Verfügung. Diese existieren in mehreren Varianten und können beispielsweise verwendet werden für

• allgemeine KI-Kennzeichnung
• vollständig KI-generierte Inhalte
• teilweise KI-modifizierte Inhalte

Die Nutzung dieser Icons ist freiwillig und kann als geeignete Umsetzung der Transparenzpflicht dienen. Die entsprechenden Icons können Sie hier downloaden: https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content.

Wo sollte die Kennzeichnung platziert werden?

Aus den Leitlinien der Europäischen Kommission ergeben sich klare Empfehlungen.

Nicht ausreichend sind beispielsweise:

• versteckte Hinweise
• Metadaten allein
• Mouseover-Hinweise
• winzige Fußnoten
• ein Hinweis ausschließlich im Impressum oder Footer

Empfohlen werden dagegen:

• Bei Bildern: Hinweis direkt am Bild oder unmittelbar daneben
• Bei Videos: Einblendung zu Beginn oder im Video
• Bei Audio: Hinweis zu Beginn
• Bei Webseiten: Kennzeichnung unmittelbar beim jeweiligen Inhalt

Was gilt derzeit als rechtlich sichere Vorgehensweise?

Da der AI Act keine konkrete Platzierung vorschreibt, empfehlen viele Fachjuristen sowie die Leitlinien der Europäischen Kommission derzeit:

• Bild direkt kennzeichnen
• Video zusätzlich im Video selbst kennzeichnen
• ergänzende Kennzeichnung in der Videobeschreibung
• Hinweise auf Social Media nicht ausschließlich in langen Captions oder zwischen zahlreichen Hashtags verstecken

Die Information soll für durchschnittliche Nutzerinnen und Nutzer leicht wahrnehmbar sein.

Reicht eine Kennzeichnung pro Medium?

In der Regel ja. Besteht beispielsweise ein Werbemittel aus mehreren KI-generierten Bestandteilen wie Bild, Hintergrund und Sprecherstimme, genügt normalerweise eine eindeutige Kennzeichnung des gesamten Mediums, sofern klar erkennbar ist, worauf sich der Hinweis bezieht.

Müssen bestehende Inhalte nachträglich gekennzeichnet werden?

Nein. Der AI Act enthält keine allgemeine Rückwirkung. Für bereits veröffentlichte Inhalte besteht grundsätzlich keine pauschale Pflicht zur nachträglichen Kennzeichnung. Relevant wird die Transparenzpflicht jedoch dann, wenn Inhalte nach dem 2. August 2026 erneut veröffentlicht oder weiterhin eingesetzt werden.

Praktisch bedeutet das:

• interne Archive müssen grundsätzlich nicht angepasst werden
• weiterhin veröffentlichte Inhalte sollten geprüft werden
• wiederverwendete Kampagnen sollten erneut rechtlich bewertet werden

Was Unternehmen jetzt tun sollten

Viele Unternehmen setzen künstliche Intelligenz inzwischen selbstverständlich in Marketing, Vertrieb und Kommunikation ein.

Umso wichtiger wird künftig die Frage,

• welche Inhalte tatsächlich kennzeichnungspflichtig sind,
• welche nicht betroffen sind
• und wie Transparenz rechtssicher umgesetzt werden kann.

Gerade bei fotorealistischen KI-Inhalten empfiehlt sich aufgrund noch offener Rechtsfragen eine sorgfältige Prüfung des jeweiligen Einzelfalls.

Rechtlicher Hinweis

Die Inhalte dieses Fachbeitrags dienen ausschließlich der allgemeinen Information und stellen keine Rechtsberatung dar. Trotz sorgfältiger Recherche können sich durch weitere Leitlinien, behördliche Auslegungen oder zukünftige Rechtsprechung Änderungen ergeben. Eine verbindliche rechtliche Bewertung sollte stets im konkreten Einzelfall erfolgen.

Unser Blick

Wir bei Revocit beschäftigen uns intensiv mit den neuen Transparenzpflichten des EU AI Act und unterstützen Unternehmen dabei, den Einsatz künstlicher Intelligenz in der visuellen Kommunikation strategisch und transparent zu gestalten. Ob klassische Medienproduktion, KI-generierte Inhalte oder die Kombination verschiedener Technologien: Gemeinsam entwickeln wir die passende Lösung für Ihre Kommunikation und berücksichtigen dabei die aktuellen regulatorischen Anforderungen. Denn moderne Unternehmenskommunikation bedeutet heute nicht nur, neue Technologien sinnvoll einzusetzen. Sie bedeutet auch, Transparenz zu schaffen und Vertrauen aufzubauen.