Kennzeichnungspflicht für KI-generierte und KI-manipulierte Inhalte

Nach der EU-KI-Verordnung (AI Act) gelten ab August 2026 verbindliche Transparenzpflichten für Inhalte, die vollständig oder wesentlich durch KI erzeugt oder verändert wurden. Maßgeblich ist Art. 50 KI-Verordnung.

Kennzeichnungspflichtig sind insbesondere Texte, Bilder, Audio- und Videoinhalte, wenn sie für Nutzer wie menschlich erzeugte Inhalte wirken und ein Irreführungsrisiko besteht. Besonders streng sind die Vorgaben bei Deepfakes: Synthetische Inhalte, die reale Personen täuschend echt darstellen, müssen immer als KI-generiert gekennzeichnet werden (Ausnahmen nur in gesetzlich geregelten Fällen). Die Kennzeichnung muss klar, verständlich und unmittelbar wahrnehmbar erfolgen; versteckte Hinweise oder rein technische Angaben reichen nicht aus.

Wie können KI-generierte Inhalte gekennzeichnet werden?

Der Hinweis darauf, dass der Inhalt KI-generiert ist, sollte stets direkt am Bild erfolgen. Als Disclaimer bietet sich ein Hinweis im Falle von künstlich erzeugten Produkten wie folgt an:

Hinweis: Dieser Inhalt wurde ganz oder teilweise mithilfe künstlicher Intelligenz (KI) erstellt.

oder kurz

„KI-generierter Inhalt“ oder „KI-unterstützt erstellt“

Transparenzpflicht bei KI-Interaktion und automatisierter Kommunikation

Neben der Inhaltskennzeichnung verlangt die KI-Verordnung, dass Nutzer erkennen können, wenn sie mit einem KI-System interagieren. Dies betrifft insbesondere Chatbots, virtuelle Assistenten, automatisierte Kundenkommunikation sowie KI-gestützte Empfehlungssysteme im Marketing und Vertrieb. Die Pflicht greift immer dann, wenn ein Nutzer sonst annehmen könnte, mit einem Menschen zu kommunizieren.

Keine Kennzeichnung ist erforderlich, wenn KI lediglich unterstützend eingesetzt wird (z. B. Korrektur, Strukturierung, Stiloptimierung) und der Inhalt inhaltlich vom Menschen bestimmt bleibt.

Handlungsempfehlung: KI-Content bereits jetzt systematisch prüfen und kennzeichnen

Unternehmen sollten frühzeitig eine Bestandsaufnahme aller KI-Tools vornehmen und klare Kriterien für kennzeichnungspflichtige Inhalte (vgl. oben) festlegen. Ergänzend sollten Marketing-, Kommunikations- und Social-Media-Guidelines angepasst und der KI-Einsatz prozessual dokumentiert werden (Tool, Zweck). So lässt sich die KI-Verordnung ab August 2026 rechtssicher umsetzen und gleichzeitig Abmahn-, Bußgeld- und Reputationsrisiken minimieren.