KI-Kennzeichnungspflicht: Transparenz vergleichsweise einfach im Vergleich zur Übernahme der Verantwortung

Ungeklärte Verantwortlichkeit, unrealistischer Anspruch an vollständige Sicherheit und fehlende „AI Literacy“ größere Hürden für sinnvollen Einsatz Generativer Künstlicher Intelligenz als KI-Kennzeichnungspflicht ab 2. August 2026

[datensicherheit.de, 28.07.2026] Ab dem 2. August 2026 müssen gemäß Artikel 50 des „EU AI Act“ Nutzer über KI-Interaktionen informiert werden. Carolin Edler-Mende, Gründerin und Geschäftsführerin der Aristech GmbH, geht in ihrem Kommentar darauf ein, warum diese Transparenz zwar sinnvoll, aber nur der einfachste Teil dieser Regulierung ist. Auf Basis ihrer Praxiserfahrung führt sie aus, weshalb ungeklärte Verantwortlichkeiten, ein unrealistischer Anspruch an vollständige Sicherheit und fehlende „AI Literacy“ heute größere Hürden für den sinnvollen Einsatz Generativer Künstlicher Intelligenz (GenKI) darstellen als die Kennzeichnungspflicht selbst.

Foto: © A. Löffler / FotoAgenten

Carolin Edler-Mende: Wer von Generativer KI vollständige Vorhersehbarkeit verlangt, verhindert nicht nur schlechte Anwendungen – er verhindert auch gute

GenKI kann vollständige Absicherung technisch nicht leisten

„Ab dem 2. August müssen Unternehmen offenlegen, wenn Menschen mit einem KI-System interagieren. Für ,Voice AI’ ist das eine sinnvolle und notwendige Vorgabe. Wer mit einem Sprachbot spricht, sollte nicht im Unklaren darüber gelassen werden, ob am anderen Ende ein Mensch oder eine Maschine antwortet. Doch die Kennzeichnung ist der einfache Teil.“

• Ein Voicebot könne sich z.B. mit einem Satz als KI zu erkennen geben. Edler-Mende gibt zu bedenken: „Schwieriger ist, was danach passiert: Wie zuverlässig muss das System sein? Wann muss ein Mensch übernehmen? Und wer trägt Verantwortung, wenn eine Antwort falsch, unpassend oder schädlich ist?“

Moderne Sprachmodelle seien nicht vollständig deterministisch. Sie ließen sich sorgfältig entwickeln, testen und absichern, aber niemand könne jede denkbare Gesprächssituation vorwegnehmen und jeden einzelnen Output garantieren. Genau hierbei entstehe ein Spannungsfeld: „Unternehmen sollen Verantwortung übernehmen, zugleich wird häufig eine Form vollständiger Absicherung erwartet, die Generative KI technisch nicht leisten kann.“

Auch der Einsatz guter, sinnvoller KI-Anwendungen droht verhindert zu werden

In der Praxis führe das schnell zu einem vertrauten Muster. Das einsetzende Unternehmen möchte sich gegenüber dem Technologieanbieter absichern. Der Anbieter könne wiederum keine Garantie für jeden möglichen Output geben.

• Das Management müsse entscheiden, welches verbleibende Risiko es tragen kann. Weil aber diese Verantwortung häufig nicht klar verteilt sei, drohten Projekte stärker eingeschränkt, verzögert oder gar nicht erst umgesetzt zu werden.

Edler-Mende warnt: „Doch der Rückzug ins Nichtstun ist nicht automatisch die sicherere Entscheidung. Wenn jedes begrenzbare Restrisiko zum Ausschlusskriterium wird, verhindern wir im Zweifel auch gute, sinnvolle KI-Anwendungen.“

In „AI Literacy“ investieren, um KI flächendeckend verantwortungsvoll einsetzen zu können

„Verantwortlicher Einsatz bedeutet deshalb nicht, jedes denkbare Risiko auszuschließen. Er bedeutet, den Anwendungsfall klar zu begrenzen, Systeme sorgfältig zu testen, verlässliche Eskalationswege vorzusehen und Zuständigkeiten eindeutig zu verteilen!“ Zugleich müsse man anerkennen, dass sich das Restrisiko der GenKI nicht allein technisch lösen lasse.

• Wer mit KI-Systemen interagiert, müsse ihre Fähigkeiten und Grenzen zumindest grundsätzlich einordnen können. Eine Gesellschaft, welche KI flächendeckend einsetzen möchte, ohne in „AI Literacy“ zu investieren, verlange von der Technologie eine Sicherheit, die sie selbst nicht vorbereitet habe.

Die Transparenzpflicht setzt also laut Edler-Mende einen „sinnvollen Anfang“. Sie löse indes nicht das eigentliche Problem: „Wir haben es mit einer Technologie zu tun, die leistungsfähig ist, aber nicht in jeder Situation vollständig vorhersehbar. Wer von Generativer KI vollständige Vorhersehbarkeit verlangt, verhindert nicht nur schlechte Anwendungen – er verhindert auch gute.“

Weitere Informationen zum Thema:

aristech
Über uns: Wir verbinden Sprache, Technologie und Menschlichkeit. / Aristech entwickelt KI-basierte Sprachtechnologien, die Kommunikation einfacher, natürlicher und effizienter machen. Seit 2012 arbeiten wir daran, die Schnittstelle zwischen Mensch und Maschine zu revolutionieren – mit Lösungen, die Sprache verstehen, sprechen und kontextbezogen handeln…

netzwoche, René Jaun, 18.03.2026
Beyond ICT: Carolin Edler-Mende, Mitgründerin und Geschäftsführerin, Aristech / Carolin Edler-Mende ist ­Mitgründerin und Geschäftsführerin von Aristech. Das ­Unternehmen entwickelt KI-­basierte Sprachtechnologien für die Kundenkommunika­tion. Zudem engagiert sie sich für mehr Diversität in der ­IT-Branche.

datensicherheit.de, 16.07.2026
Digitale Inhalte: KI-Generierung muss transparent sein / Ab dem 2. August 2026 müssen Anbieter und Betreiber von Internet-Präsenzen viele künstlich erzeugte Inhalte kennzeichnen und auch offenlegen, wenn Nutzer mit einem KI-System interagieren

datensicherheit.de, 12.04.2026
KI-Verordnung: Konkretisierung der Transparenzpflichten für Unternehmen / Für betroffene Unternehmen wächst der Handlungsdruck – sie müssen wissen, wann KI-generierte oder KI-manipulierte Inhalte zu kennzeichnen sind

datensicherheit.de, 25.06.2024
Kennzeichnungspflicht digital bearbeiteten Bildmaterials kommt voran / Deutschlands Plastische und Ästhetische Chirurgen melden Teilerfolg mit Petition zur Kennzeichnungspflicht