„Kennzeichnungspflicht KI-generierter Texte, Bilder und Videos (Deepfakes)“
Seit dem 2. August 2026 verpflichtet die europäische KI-Verordnung (AI Act) in bestimmten Fällen, offenzulegen, wenn Inhalte durch eine KI erstellt oder verändert wurden oder wenn Nutzer mit einer KI interagieren. Dies betrifft auch den Einsatz von KI mit geringem Risiko, wie zum Beispiel Sprachmodelle wie ChatGPT oder Bildgenerierungsprogramme. Ausreichend ist oft eine einfache, verständliche Kenn-zeichnung.
Kennzeichnung von Texten und Beiträgen
Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen und die von KI generiert oder wesentlich bearbeitet wurden, müssen gekennzeichnet werden. Dies sind z. B. Texte, wie Nachrichten, politische Informationen, gesellschaftlich relevante Themen und manipulative, meinungslenkende Texte. Diese Kennzeichnungspflicht entfällt dann, wenn ein Mensch den Text überprüft hat und die redaktionelle Verantwortung übernimmt. Auch Produkt-beschreibungen und Texte, die mittels Rechtschreibkorrektur der KI verbessert wurden, sowie Übersetzungen durch KI müssen nicht gekennzeichnet werden.
Textbausteine der Kennzeichnung
Die Kennzeichnungen der mit KI-bearbeiteten Texte könnten lauten:
• „Dieser Text wurde mit Unterstützung einer KI erstellt.”
• „Text KI-unterstützt erstellt.“
• „Dieser Inhalt wurde mithilfe künstlicher Intelligenz erstellt.“
Diese Bausteine können am Ende des jeweiligen Textes angefügt werden. Ein Hinweis, etwa im Impressum oder auf einer allgemeinen Transparenzseite reicht nicht aus, ein direkter Zusammenhang mit dem betreffenden Text muss gewährleistet sein. Hierzu geben die Leitlinien der EU aber eindeutig den Hinweis, Transparenzpflichten „verhältnismäßig und nicht bei jeder geringfügigen KI-Unterstützung“ anzuwenden.
Kennzeichnung von Bildern, Audio und Videos
Sobald Medien wie Bilder, Audio oder Video durch KI erstellt und verändert wurden und dies nicht mehr als unecht erkannt werden kann (Deepfakes), besteht eine Kennzeichnungspflicht. Beispiele wären etwa KI-generierte Politikerrede, künstlich erzeugtes Interview und KI-generierte Fotos.
Wiederum unterliegen grafische Illustrationen wie Karikaturen, Comic, Icons, abstrakte Grafiken oder Bilder, bei denen lediglich Schärfen, Farbkorrekturen oder Belichtung oder nicht wesentliche Korrekturen (Entfernung eines Straßenschildes, o. Ä.) verändert wurden, keiner Kennzeichnungspflicht.
Textbausteine der Kennzeichnung
Die Kennzeichnungen können lauten:
• „KI-generiertes Bild“ oder „Dieses Bild wurde mithilfe künstlicher Intelligenz erstellt/ bearbeitet.“
• „Diese Audioaufnahme wurde mithilfe künstlicher Intelligenz erstellt.“
• „Dieses Video wurde ganz oder teilweise mit künstlicher Intelligenz erstellt.“
• „Video enthält KI-generierte Inhalte.“
Eine kleine Bildunterschrift oder ein Hinweis in der Bildbeschreibung genügt. Bei Videos genügt am Anfang oder Ende eine kurze Texteinblendung bzw. alternativ ein Einfügen vorgegebener EU-Symbole.
Interaktion mit der KI/ Chatbots
Der AI Act verlangt, dass Nutzerinnen und Nutzer darüber informiert werden, wenn sie mit einer KI und nicht mit einem Menschen kommunizieren. Dies sollte direkt am Beginn einer Unterhaltung als einmalige Anzeige/ Nennung geschehen. So etwa bei Chatbots auf Internetseiten, Beantwortung von Fragen am Telefon, KI-generierte Mails sowie Beratung durch digitale Avatare.
Keine Notwendigkeit der Kennzeichnung hingegen besteht dann, wenn es offensichtlich ist, dass man mit KI kommuniziert und wenn der Gesprächspartner KI als Unterstützung nutzt (E-Mail-Entwurf, Recherche während des Gesprächs, etc.).
Geeignete Formulierungen
Hinweise können in diesen Fällen wie folgt lauten:
• „Sie chatten mit einem KI-Assistenten.“
• „Dieser Chat wird von einer Künstlichen Intelligenz betrieben.“
• „Sie sprechen mit einem KI-gestützten Assistenten.“
Synthetische Audio-, Bild-, Video- oder Textinhalte, die vor dem 2. August 2026 erstellt wurden, müssen bis zum 2. Dezember 2026 gekennzeichnet werden.
Anmerkung
Die kommunalen Spitzenverbände begrüßen diese Regelung im Sinne der Transparenz. In der Umsetzung allerdings lassen die Leitlinien noch einige Fragen offen. Es braucht vor allem verständliche, eindeutig abgrenzbare und umsetzbare Vorgaben,
damit die Anforderungen sicher und mit vertretbarem Aufwand erfüllt werden können. Aus diesem Grund wird empfohlen, bei Unsicherheiten bzgl. der Kennzeichnungspflicht im Zweifelsfall einen Hinweis bei Texten, Bildern, Audio- und Videoaufnahmen beizufügen.
Weitere Informationen:
Verhaltenskodex für die Transparenz von KI-generierten Inhalten: Verhaltenskodex für die Transparenz von KI-generierten Inhalten | Gestaltung der digitalen Zukunft Europas der EU
https://digital-strategy.ec.europa.eu (EU-Symbole)
Quelle: DStGB Aktuell Nr. 3326-03 vom 14. August 2026