Digitale Inhalte: KI-Generierung muss transparent sein

Ab dem 2. August 2026 müssen Anbieter und Betreiber von Internet-Präsenzen viele künstlich erzeugte Inhalte kennzeichnen und auch offenlegen, wenn Nutzer mit einem KI-System interagieren

[datensicherheit.de, 16.07.2026] Immer häufiger begegnen Verbraucher Inhalten, welche mit Künstlicher Intelligenz (KI) erstellt wurden – etwa bei Chatbots, Bildern, Videos oder Texten. Oft lässt sich eben nicht mehr erkennen, ob Inhalte von Menschen oder einer Maschine generiert wurden. Laut einer aktuellen Stellungnahme der Verbraucherzentrale NRW soll sich dies nun ändern: Mit der KI-Verordnung („AI Act) führt die Europäische Union (EU) neue Transparenzpflichten ein. Konkret müssen ab dem 2. August 2026 Anbieter und Betreiber von Internet-Präsenzen viele künstlich erzeugte Inhalte kennzeichnen und auch offenlegen, wenn Nutzer mit einem KI-System interagieren. Welche Regeln dann gelten und was diese für Verbraucher bedeuten, erläutert nachfolgend Ayten Öksüz, Expertin für Digitales bei der Verbraucherzentrale NRW:

Verbraucher sollen klar erkennen können, wenn sie mit KI interagieren oder auf mit deren Hilfe erzeugte Inhalte treffen

Verbraucher sollen demnach klar erkennen können, wenn sie es mit KI zu tun haben. „Das betrifft etwa interaktive KI-Systeme wie Chatbots und Sprachassistenten. Diese müssen als solche erkennbar sein, damit klar ist, dass eine KI antwortet und kein Mensch. Wer eine KI-Anwendung anbietet, die Bilder, Videos, Tonaufnahmen oder Texte generiert, muss sicherstellen, dass die Ergebnisse maschinenlesbar als künstlich erzeugt markiert werden.“

• Besonders täuschend echt wirkende Inhalte – sogenannte Deepfakes – müssten deutlich sichtbar als „automatisiert erstellt“ ausgewiesen werden. Auch KI-generierte Texte, welche die Öffentlichkeit über wichtige Themen informieren sollen, wie Nachrichteninhalte, müssten entsprechend kenntlich gemacht werden – „es sei denn, sie wurden redaktionell bearbeitet“.

Zudem müssten Nutzer informiert werden, wenn KI-Technologien ihre Emotionen auswerten. „Die meisten dieser Pflichten gelten ab dem 2. August 2026. Für Anbieter, die ihre generativen KI-Systeme bereits vor dem 2. August 2026 in Verkehr gebracht haben, ist hinsichtlich bestimmter Kennzeichnungspflichten eine Übergangsfrist vorgesehen.“

Kennzeichnungspflicht: Sichtbare bzw. auslesbare Hinweise für KI-Inhalte

KI-Inhalte ließen sich mit Einführung der Kennzeichnungspflichten an sichtbaren Hinweisen wie „mit KI erstellt“ oder „mit KI verändert“, an einem Wasserzeichen oder daran erkennen, dass sich ein Chatbot als automatisiertes KI-System ausweist. Damit Verbraucher solche Hinweise leicht erkennen können, schlägt die EU einheitliche Symbole für KI-generierte Inhalte vor.

• Bei Texten, Fotos, Videos oder Tonaufnahmen könne außerdem in der Datei gespeichert sein, dass sie von einer KI erzeugt wurden. Diese Information stecke dann in den sogenannten Metadaten, also unsichtbaren Begleitinformationen. Diese seien nicht unmittelbar sichtbar und lassen sich nur mit technischen Hilfsmitteln auslesen.

Verbraucher sollten sich deshalb nicht allein auf Kennzeichnungen verlassen. „Die Technik steckt noch in der Entwicklung und Markierungen können fehlen oder beim Teilen verloren gehen. Hilfreich bleibt ein kritischer Blick darauf, woher ein Inhalt stammt und wer ihn verbreitet hat.“ Öksüz führt hierzu aus: „Wirkt ein Inhalt ungewöhnlich perfekt, besonders emotionalisierend oder reißerisch, lohnt es sich, die Quelle genauer zu prüfen!“ Gerade deshalb seien die neuen Kennzeichnungspflichten wichtig: Diese sollten ein verlässliches Symbol schaffen, „das nicht vom geübten Auge abhängt“.

Beschwerde bei der Bundesnetzagentur über intransparente KI-Inhalte

„Wer vermutet, dass eine gesetzlich vorgeschriebene Kennzeichnung fehlt, kann bei der zuständigen Marktaufsichtsbehörde eine Beschwerde einreichen.“ In Deutschland übernehme die Bundesnetzagentur diese Aufgabe.

• Betroffene sollten die entsprechenden Inhalte möglichst dokumentieren und sichern, etwa durch Screenshots, und festhalten, wo und wann sie aufgetaucht sind.

Unternehmen drohten bei Verstößen Bußgelder. Täuschen KI-Inhalte gezielt und beeinflussen Kaufentscheidungen, könnten zusätzlich wettbewerbsrechtliche Konsequenzen drohen.

Weitere Informationen zum Thema:

Verbraucherzentrale Nordrhein-Westfalen
Verbraucherzentrale NRW: Wir über uns / Von Jahresberichten und Leitbild bis zur Satzung oder aktuellen Stellenangeboten: Informationen der Verbraucherzentrale NRW „in eigener Sache“

lpb.nrw
Frau Dr. Öksüz, sollen wir KI im Alltag nutzen oder nicht? / Wie jede Technologie birgt die Künstliche Intelligenz Chancen und Risiken. Wir haben Dr. Ayten Öksüz, Datenschutzexpertin bei der Verbraucherzentrale NRW, um ihre Einschätzung gebeten…

Verbraucherzentrale, 24.10.2025
AI Act: Was regelt die neue europäische KI-Verordnung? / Mit dem AI Act, der Verordnung über Künstliche Intelligenz, gibt die Europäische Union (EU) erstmals einen rechtlichen Rahmen für die Entwicklung, den Einsatz und die Nutzung von Künstlicher Intelligenz (kurz KI) vor. Wir fassen die wichtigsten Regelungen für Sie zusammen.

Verbraucherzentrale Nordrhein-Westfalen, 25.08.2025
Künstliche Intelligenz: Funktionsweise, Anwendungsgebiete und Risiken / Künstliche Intelligenz ist längst keine Science-Fiction mehr. Ganz im Gegenteil: Sie ist aus dem Alltag vieler Verbraucher:innen nicht mehr wegzudenken. Aber wie funktioniert Künstliche Intelligenz eigentlich? Wo findet sie überall Anwendung und was sind die Risiken?

datensicherheit.de, 11.07.2026
AI Act: Bundesrat hat Weg für Durchführungsgesetz zur europäischen KI-Verordnung freigemacht / Der TÜV-Verband begrüßt die geplante Bündelung der KI-Marktüberwachung bei der Bundesnetzagentur und fordert schnellen Aufbau leistungsfähiger Marktaufsichts- und Notifizierungsprozesse

datensicherheit.de, 12.04.2026
KI-Verordnung: Konkretisierung der Transparenzpflichten für Unternehmen / Für betroffene Unternehmen wächst der Handlungsdruck – sie müssen wissen, wann KI-generierte oder KI-manipulierte Inhalte zu kennzeichnen sind

datensicherheit.de, 25.06.2024
Kennzeichnungspflicht digital bearbeiteten Bildmaterials kommt voran / Deutschlands Plastische und Ästhetische Chirurgen melden Teilerfolg mit Petition zur Kennzeichnungspflicht