KI-Kennzeichnungspflicht – Was ist zu tun?

Schon seit dem 2. August 2026 ist sie in Kraft: die KI-Kennzeichnungspflicht in der EU. Vielen ist aber noch nicht klar, was das eigentlich bedeutet. Die Kennzeichnung soll nämlich KI nicht verhindern, sondern nur in bestimmten Fällen kenntlich machen.

Der sogenannte AI Act der EU ist bereits seit dem 21. Mai 2024 in Kraft. Seit dem 2. August 2026 gelten nun auch die neuen Transparenz- und Kennzeichnungspflichten für bestimmte KI-generierte und KI-manipulierte Inhalte. Der AI Act verbietet nicht die Nutzung von Künstlicher Intelligenz, sondern schreibt vor, dass KI-Anwendungen nicht missbraucht werden dürfen. Ebenso muss der Schutz der Grundrechte gewährleistet sein. Der AI Act verfolgt hier einen sogenannten risikobasierten Ansatz. Das heißt, je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben.

Kaum Verbote aber Gebote

Wirkliche Verbote gibt es aber auch, wenn Anwendungen ein inakzeptables Risiko darstellen. Dazu gehören zum Beispiel KI-Systeme, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen und sie so zu manipulieren. Genauso gilt dies für KI-basiertes „Social Scoring“, also die Vergabe von Punkten nach erwünschtem Verhalten.

Seit dem 2. August 2026 gelten nun auch die neuen Transparenzpflichten. Die Regeln richten sich hier nach der Anwendung. Betroffen sind insbesondere KI-generierte Texte, Bilder, Audio- und Videoinhalte, die für echte oder von Menschen erstellte Inhalte gehalten werden könnten. Die Regelungen gelten nicht nur für Hochrisiko-KI, sondern können auch KI-Anwendungen mit geringerem Risiko betreffen, beispielsweise Bild- und Videogenerierungsprogramme. Im Fokus stehen dabei Inhalte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren.

Entscheidend ist hier, ob Texte automatisiert veröffentlicht oder nach einer Prüfung durch einen Menschen bzw. unter redaktioneller Verantwortung einer natürlichen oder juristischen Person veröffentlicht werden. Ein Beispiel: Eine NGO lässt ChatGPT einen Text über Kinderarmut schreiben und stellt ihn ungeprüft auf ihre Website. Wenn der Text der Information der Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse dient, greift grundsätzlich die Offenlegungspflicht. Bei vielen inhaltlichen Beiträgen auf NGO-Websites dürfte dies der Fall sein. Lässt die NGO den Text dagegen von ihrer Kommunikationsreferentin redaktionell prüfen und verantwortet die NGO anschließend dessen Veröffentlichung, greift diese Kennzeichnungspflicht nach Art. 50 Abs. 4 des EU AI Acts nicht.

Der Mensch muss prüfen

Ähnliches gilt auch für einen Spendenbrief-Text, der mit KI erstellt wurde und von einem Menschen unterzeichnet ist. Auch der muss nicht unbedingt gekennzeichnet werden, wenn beispielsweise ein Fundraiser ihn prüft, bearbeitet und freigibt. Außerdem trägt die Organisation für die Veröffentlichung die redaktionelle Verantwortung. Auch hier besteht also keine Kennzeichnungspflicht.

Auch Videos, die mit einer künstlichen Stimme Menschen zu überzeugen versuchen, sind nicht immer zu kennzeichnen. Entscheidend ist hier, ob es sich um einen Deepfake im Sinne des AI Acts handelt. Das sind KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlicherweise als authentisch oder wahr erscheinen könnten.

Ein Beispiel macht den Unterschied deutlich: Eine NGO lässt die tatsächliche Geschäftsführerin einen Spendenaufruf sprechen, verwendet aber KI, um ihre Stimme künstlich zu erzeugen bzw. zu imitieren. Das Publikum könnte glauben, die Geschäftsführerin habe diese Worte tatsächlich gesprochen. Das kann ein Deepfake sein und muss grundsätzlich offengelegt werden.

Deepfakes im Fokus

In einem anderen Fall produziert eine NGO einen Animationsfilm und lässt ihn von einer erkennbar künstlichen, generischen KI-Stimme sprechen, die keine reale Person imitiert. Das ist nicht automatisch ein Deepfake im Sinne von Art. 50 Abs. 4. Die Kommission betont ausdrücklich, dass für einen Deepfake drei Voraussetzungen zusammenkommen müssen:

1. Ähnlichkeit (Resemblance): Der KI-generierte oder manipulierte Inhalt muss eine hohe Ähnlichkeit mit dem dargestellten bzw. simulierten Subjekt aufweisen.
2. Existenz (Existing): Die dargestellte Person, das Objekt, der Ort, die Einrichtung oder das Ereignis muss tatsächlich existieren, plausibel existieren können oder in der Realität plausibel existiert haben können.
3. Falscher Eindruck von Authentizität oder Wahrheit: Der Inhalt muss geeignet sein, bei einer Person fälschlicherweise den Eindruck zu erwecken, er sei authentisch oder wahr.

Am Beispiel des NGO-Videos der Geschäftsführerin würde das bedeuten: Wenn eine NGO einfach eine generische künstliche Stimme verwendet, die keine reale oder plausibel reale Person nachahmt, fehlt schon das Kriterium der Ähnlichkeit mit einem existierenden Subjekt. Damit wäre die Aufnahme nach dieser Definition kein Deepfake.

Bei einem kennzeichnungspflichtigen Deepfake muss die Information sichtbar oder hörbar sein. Die Kommission sagt ausdrücklich, dass die Nutzer dafür keine technischen Hilfsmittel benötigen oder zusätzliche Schritte unternehmen müssen. Ein ausschließlich in Metadaten oder einem unsichtbaren Wasserzeichen versteckter Hinweis reicht für die Offenlegungspflicht des Verwenders also nicht. Die EU hat für die Kennzeichnung auch Icons entwickelt, die genutzt werden können. Im August wurden auch neue Leitlinien mit konkreteren Anwendungsfällen veröffentlicht. Auch das Deutsche Stiftungszentrum hat vier Praxisbeispiele für NGOs veröffentlicht.

Kennzeichnungspflicht der Anbieter

Zu unterscheiden ist hier auch die Kennzeichnungspflicht der Anbieter von KI für die von ihnen synthetisch erzeugten Audio-, Bild-, Video- und Textinhalte. Diese müssen maschinenlesbar gekennzeichnet und als KI-generiert bzw. manipuliert erkennbar sein. So hat Anthropic (Claude) gerade bekannt gegeben, dass seit dem 2. August 2026 generierte Texte eingebettete Wasserzeichen und generierte Dateien – sofern unterstützt – digital signierte Herkunftsmetadaten enthalten.

Auch ChatGPT hat bei Audios und Bildern Wasserzeichen und Hinweise in den Metadaten integriert. Bei Texten fehlt das allerdings noch. Wer möchte, kann das auch selbst prüfen: Mit OpenAI Verify können hochgeladene Bilder und Audiodateien daraufhin geprüft werden, ob sie OpenAI-Herkunftssignale wie „C2PA“ oder „SynthID“ enthalten.

Ein Problem dabei bleibt aber. Gerade erst machten rund um die Landtagswahl in Sachsen-Anhalt Deepfakes von Politikerinnen und Politikern die Runde. Kritiker sehen allerdings kaum Handlungsmöglichkeit, diese Inhalte zu verbieten oder gar regresspflichtig zu verfolgen und bezweifeln, dass einsehbare Codes oder Labels gefälschte Beweise oder Betrugsversuche verhindern können.