KI-Chatbots bleiben nützliche Werkzeuge kundiger Anwender – ersetzen aber keine reale Bezugsperson

Der TÜV-Verband gibt Hinweise zur sicheren KI-Nutzung durch Kinder und Jugendliche und Eltern zusätzliche Tipps, was sie dabei beachten sollten

[datensicherheit.de, 01.06.2026] Der TÜV-Verband e.V. warnt, dass sogenannte KI-Chatbots die Gefahr emotionaler Abhängigkeit bergen. Um KI-Antworten richtig einordnen und überprüfen sowie persönliche Informationen schützen zu können, gibt der TÜV-Verband Hinweise zur sicheren KI-Nutzung durch Kinder und Jugendliche und Eltern Tipps, was sie dabei beachten sollten.

KI-Chatbots im Alltag vieler junger Menschen angekommen

KI-Chatbots gehören laut TÜV-Verband für viele Kinder und Jugendliche inzwischen zum digitalen Alltag – diese können Fragen beantworten, bei Hausaufgaben helfen und Ideen für Schule und Freizeit liefern. Doch diese Technik berge auch Risiken, wie etwa falsche Informationen, problematische Inhalte, Datenschutzprobleme, eine zu enge Bindung an digitale Gesprächspartner oder der Verlust eigenen kritischen Denkens.

• Der TÜV-Verband warnt deshalb vor einem unkritischen Umgang mit KI-Anwendungen: „KI-Chatbots sind nützliche Alltagshelfer, aber keine garantiert fehlerfreie Lexika – und dürfen nicht mit verlässlichen sozialen Gegenübern verwechselt werden“, kommentiert Dr. Patrick Gilroy, Referent für KI und Bildung beim TÜV-Verband.

Nutzer müssten die Grenzen von KI-Tools kennen. „Viele Chatbots klingen sehr überzeugend, auch wenn ihre Antworten fehlerhaft oder frei erfunden sind.“ Das könne bei Kindern und Jugendlichen zu Missverständnissen führen, wenn Inhalte ungeprüft übernommen werden.

Risiken der Anwendung von KI-Chatbots

Gilroy betont: „Ob jung oder alt: Wer mit KI arbeitet, muss lernen, gute Fragen zu stellen und auch sinnvoll klingende, vermeintlich hilfreiche Antworten einzuordnen und zu überprüfen! Das ist eine wichtige digitale Kompetenz.“ Der TÜV-Verband stellt die Risiken der Anwendung von KI-Chatbots dar:

• Falsche Informationen
  KI-Chatbots lösten Suchmaschinen zunehmend als Instrument für Recherchen im Internet ab. In ihren zusammenfassenden Antworten könnten KI-Chatbots aber Inhalte erfinden oder Zusammenhänge falsch oder unausgeglichen darstellen – selbst wenn sie sehr plausibel klingen.
  Bei Recherchen für die Schule könnten beispielsweise Fehler entstehen und Schülern Desinformation, falsche Quellen oder veraltete Informationen als gesichertes Wissen übernehmen.
  „Der dauerhafte Griff zur KI birgt zudem das Risiko eines ‚Deskilling‘“, so Gilroy und führt weiter aus: „Ohne vertiefte Auseinandersetzung mit einer Materie gehen wertvolle Lerneffekte verloren.“

• Datenschutz und Privatsphäre
  Je nach Anbieter, Kontoart und Einstellungen könnten in den Chatbots gestellte Fragen, hochgeladene Dokumente oder andere Eingaben von den KI-Anbietern gespeichert und weiterverarbeitet werden.
  Sie nutzten diese Informationen, um ihre KI-Modelle weiter zu trainieren.
  Durch Hacks und Sicherheitslücken könnten indes ungewollt sensible persönliche Daten wie Namen, Adressen oder Passwörter an die Öffentlichkeit gelangen oder nach Cyberangriffen missbraucht werden.
• Emotionale Abhängigkeit
  KI-Modelle seien darauf trainiert, einfühlsam, hilfsbereit und menschlich zu wirken. Manche Kinder und Jugendliche bauten daher eine starke emotionale Bindung zu den empathisch wirkenden Chatbots auf.
  Sie nutzten den digitalen Begleiter beispielsweise, um emotionale Unterstützung zu erhalten oder sich weniger einsam zu fühlen. Es komme auch vor, dass sich Nutzer in einen Chatbot oder in einen KI-Avatar verlieben.
  Gerade junge Menschen seien dann anfällig für Manipulation und emotionale Abhängigkeit. Diese Scheinbeziehungen könnten mitunter dramatische Folgen bis hin zum Suizid haben.
• Suchtgefahr und Realitätsflucht
  Der ständige Austausch mit KI-Chatbots könne soziale Isolation fördern und zu einer Abhängigkeit führen, ähnlich wie bei Social-Media- oder Online-Spielsucht.
  Warnsignale könnten sein: Rückzug, Schlafprobleme, Leistungsabfall, Vernachlässigung von Hobbys, Freunden oder der Familie, geringes Selbstwertgefühl oder verminderte Konzentrationsfähigkeit.
  Typisch sei auch starke Unruhe oder „schlechte Laune“, wenn der Dienst nicht genutzt werden kann.
• Ungeeignete oder verstörende Inhalte
  Je nach Dienst könnten sexualisierte, gewalttätige, extremistische oder sonstige problematische Inhalte auftauchen, da die KI-Modelle auch mit Daten aus dem offenen Internet trainiert werden.
  Die Inhalte könnten zum Beispiel durch Missverständnisse beim Prompten entstehen.
  Nicht zuletzt könnten junge Menschen selbst dazu verleitet werden, mit KI-Tools Inhalte zu erstellen und zu teilen, mit denen andere herabgesetzt, bloßgestellt oder auf andere Weise gemobbt werden.

Tipps für einen konstruktiv-kritischen Umgang mit KI-Chatbots

• Nicht alles glauben!
  KI-Antworten sollten kritisch hinterfragt und bei Recherchen immer weitere Quellen konsultiert werden. Hierzu den KI-Chatbot auffordern, seine Quellen zu nennen, diese nachverfolgen und Inhalte auf Plausibilität prüfen.
  Ergänzend autoritative Quellen wie Schulbücher und vertrauenswürdige Websites einbeziehen sowie das Gespräch mit Eltern, Mitschülern oder Lehrern suchen.
• KI als Werkzeug nutzen!
  Bei Hausaufgaben oder Referaten sei die Versuchung groß, sich mit Hilfe einer KI komplette Antworten oder den gesamten Vortrag erstellen zu lassen. Die eigene Leistung sei dann eher gering.
  KI sollte stattdessen als Hilfsmittel bzw. Werkzeug verstanden werden. KI könne beim Verstehen, Strukturieren, Erklären, Üben, Gegenchecken und Visualisieren helfen – die Bewertung, Auswahl und eigene Formulierung müssten bei den Schülern bleiben.
• Persönliche Daten schützen!
  Nutzer sollten keine persönlichen Daten wie echte Namen, Adressen, Telefonnummern, Schulnamen oder Passwörter preisgeben.
  Am besten Pseudonyme bzw. Spitznamen (Nicknames) verwenden. Niemals private Fotos, Videos oder auch Sprachaufnahmen hochladen, da sie für Deepfakes missbraucht werden könnten.
• Emotionaler Abhängigkeit vorbeugen!
  Nicht alles mit der KI besprechen: Bei privaten Konflikten, Krisen oder psychischen Belastungen sollte ein Chatbot nie der einzige Ansprechpartner sein. Besser mit Eltern, Vertrauenslehrern, anderen vertrauten Erwachsenen oder guten Freunden reden.
  Wer Unterstützung in Krisensituationen sucht, könne rund um die Uhr anonyme Hilfe beim Notruf (112), der TelefonSeelsorge (0800 111 0 111) oder speziell für junge Menschen und Eltern bei der „Nummer gegen Kummer“ (116 111 bzw. 0800 111 0 550) finden.

TÜV-Verband gibt ferner Eltern spezielle Tipps

• Aufklärung und Dialog
  Mit Kindern und Jugendlichen über KI sprechen: „Wie funktioniert KI? Wo liegen die Grenzen? Worauf ist zu achten?“ KI sei eine noch recht junge Technologie. Daher sei es sinnvoll, Erfahrungen zu teilen und voneinander zu lernen.
  Gemeinsam könnten gute und schlechte Antworten verglichen werden, Quellen geprüft, erlaubte Plattformen definiert, Grenzen besprochen und Regeln regelmäßig angepasst werden. Nutzungszeiten und Verbote sollten klar kommuniziert werden, zum Beispiel keine persönlichen Daten preisgeben oder problematische Inhalte erstellen und teilen.
• Altersgerechte Nutzung
  Altersfreigaben für KI-Tools seien uneinheitlich und leicht zu umgehen. „ChatGPT“ und „Gemini“ seien in den „App-Stores“ ab 13 Jahren angegeben – „Claude“, „Perplexity“ oder „Character.AI“ erst ab 18 Jahren.
  Eltern müssten daher selbst entscheiden, ab welchem Alter sie eine Nutzung erlauben. Grundsätzlich gilt: Am Anfang sollte die Nutzung immer gemeinsam erfolgen, bevor Kinder oder Jugendliche die KI allein anwenden.
• Einrichtung technischer Schutzmaßnahmen
  Kindersicherung einrichten über ein gemeinsames Familien-Konto, das Betriebssystem oder die Nutzerverwaltung.
  Privatsphäre-Einstellungen prüfen und zum Beispiel Chatverlauf und die Nutzung von Eingaben zu Trainingszwecken deaktivieren. Gespeicherte Chats regelmäßig löschen.
• Handlung im Notfall
  Bei Cybermobbing oder Belästigung, zum Beispiel mit KI-generierten Fake-Bildern, Stimmen-Imitationen oder Bloßstellungs-Memes: Beweise sichern (etwa Screenshots). Plattform melden, zum Beispiel bei „jugendschutz.net“.
  Falls nötig, Schule oder Polizei einschalten. Bei Suchtverhalten: Nutzung einschränken und Alternativen in der realen Welt anbieten. Wenn keine Besserung erkennbar ist, psychosoziale Beratungsangebote nutzen.

Weitere Informationen zum Thema:

TÜV VERBAND
Über uns

TÜV VERBAND
Team / Dr. Patrick Gilroy, Referent Künstliche Intelligenz und Bildung

NummergegenKummer
Darüber reden hilft. / Bei uns können sich Kinder, Jugendliche, Eltern und andere Bezugspersonen kostenlos und anonym beraten lassen.

datensicherheit.de, 16.04.2026
Kollege KI: Jeder vierte Erwerbstätige setzt bei wichtigen Fragen zuerst Vertrauen in einen Chatbot / Zu Bewerbungen, Gehaltsgesprächen, Fachthemen oder kreativen Prozessen wenden sich sogar mehr als 40 Prozent der vom PINKTUM Institute Befragten primär an einen Chatbot

datensicherheit.de, 27.05.2025
Medienkompetenz und digitales Know-how für Kinder werden immer wichtiger / 2024 nutzten bereits über 50 Prozent der sechs- bis siebenjährigen Kinder ein Smartphone – bei den zehn- bis elfjährigen sogar 90 Prozent

datensicherheit.de, 21.06.2024
Chat-Kontrolle: Bitkom unterstützt Schutz der Kinder und Wahrung der Bürgerrechte / Mit der Chat-Kontrolle beabsichtigt die EU-Kommission, dass Web-Plattform-Anbieter ihre Dienste umfassend durchsuchen, um Darstellungen sexueller Gewalt gegen Kinder zu finden