[datensicherheit.de, 17.11.2025] Chatbots in Sozialen Medien erscheinen praktisch, kann man ihnen doch Fragen zu Beiträgen oder ganz allgemeine Themen stellen, welche sie dann wahrheitsgemäß zu beantworten versuchen. Allerdings birgt diese relativ neue Technologie offensichtlich auch Gefahren: So warnt ESET aktuell vor einer neuen Cybercrime-Masche, bei der Hacker Links zu Phishing-Seiten in Beiträgen verstecken. Das Perfide daran sei, dass sie den Chatbot danach diesen Link posten ließen und ihm somit anscheinend Legitimation verliehen.

Abbildung: „X“

Beispiel für einen typischen „Grokking“-Angriff

„Grokking“: Angreifer platzieren Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern

Cyberkriminelle nutzten Künstliche Intelligenz (KI) zunehmend als Einfallstor und Erfüllungsgehilfen für Betrug und Phishing. ESET warnt vor einer neuen Angriffsmethode, welche aktuell in Sozialen Netzwerken für Aufsehen sorge: Beim sogenannten Grokking bringen Angreifer KI-Chatbots demnach dazu, schädliche Links selbst zu verbreiten – und zwar im Namen vertrauenswürdiger Konten. Ziel sei der Diebstahl sensibler Nutzerdaten.

• „Der verantwortungsbewusste Umgang mit Generativer KI wird immer wichtiger“, betont Michael Klatte, Cybersicherheitsexperte bei ESET. Viele Nutzer vertrauten Chatbots fast blind – „besonders wenn sie auf bekannten Plattformen wie ,X’ auftreten“. Klatte rät: „Nutzer sollten beim Anklicken von Links per se immer wachsam bleiben!“

Beim „Grokking“ handele es sich um eine neuartige Form der Prompt-Injection, also um Manipulationen durch versteckte Befehle. Angreifer platzierten Phishing-Links in scheinbar harmlosen Beiträgen oder Datenfeldern. Werde dann eine KI gebeten, solche Inhalte zu analysieren oder zu kommentieren, lese sie die eingebetteten Befehle aus und gebe die schädlichen Links ganz automatisch als Kommentar weiter.

Phishing mittels Prompt-Injection-Angriffen

Ein Fall auf der Plattform „X“ zeige die Effektivität dieser Methode: Betrüger hätten eine schadhafte URL in einem Videopost versteckt und den offiziellen KI-Bot „Grok“ dazu gebracht, diese im Rahmen einer Antwort zu teilen. Der Link habe wie eine legitime Quelle gewirkt – in Wahrheit jedoch habe er auf eine gefälschte Webseite geführt.

• „Grokking“ beschränke sich aber nicht nur auf „X“ – auch andere Soziale Netzwerke könnten betroffen sein, wenn sie digitale KI-Assistenten bereitstellen. Laut Schätzungen von Gartner waren im vergangenen Jahr, 2024, bereits 32 Prozent aller Unternehmen von Prompt-Injection-Angriffen betroffen.

„Das Gefährliche daran ist: Diese Technik funktioniert auf jeder Plattform, die Sprachmodelle einsetzt, also potenziell überall“, so Klattes Warnung. Er führt aus: „KI-Systeme besitzen kein Bewusstsein für Absichten. Sie verarbeiten nur Text – egal ob er harmlos oder manipulativ ist. Dadurch können sie unbeabsichtigt zu Mittätern werden.“

ESET gibt Sicherheitstipps für Nutzer zum Schutz vor Phishing per Prompt-Injection

Um sich vor Angriffen wie „Grokking“ zu schützen, empfehlen ESET-Experten:

1. Links aus KI-Antworten niemals blind anzuklicken – immer zu prüfen, wohin der Link führt!
2. Skepsis auch bei offiziellen Chatbots walten zu lassen, denn ein verifiziertes Konto garantiere noch keine Sicherheit!
3. Systeme und Sicherheitssoftware stets aktuell zu halten!
4. Zwei-Faktor-Authentifizierung (2FA) zu aktivieren und Passwortmanager zu nutzen!
5. Im Zweifel Originalquellen prüfen, statt sich auf automatisch generierte Inhalte zu verlassen!

Weitere Informationen zum Thema:

eseT
Wir sind ein weltweites Unternehmen für digitale Sicherheit und schützen Millionen von Kunden sowie Hunderttausende von Unternehmen rund um den Globus. / Technologie ermöglicht Fortschritt. ESET macht ihn sicher.

welivesecurity by eseT, Phil Muncaster, 12.11.2025
Grokking: Wenn KI-Chatbots zu Phishing-Helfern werden / Sogenannte Prompt Injection-Angriffe kommen durch die Hintertür

welivesecurity by eseT
Michael Klatte – Security Writer

datensicherheit.de, 11.11.2025
ChatGPT: 7 kritische Sicherheitslücken als Wegbereiter für Datendiebstahl und Hijacking / Untersuchungen von Tenable decken versteckte KI-Schwachstellen auf, welche Datenexfiltration, die Aufhebung von Sicherheitsmaßnahmen und anhaltende Kompromittierungen innerhalb von „ChatGPT“ ermöglichen

datensicherheit.de, 10.11.2025
Effektive Absicherung der KI-Systeme: TÜV Rheinland publiziert Whitepaper / Welche spezifischen Risiken bei der Nutzung von „Large Language Models“ (LLMs) entstehen, erörtert der TÜV Rheinland in seinem aktuellen Whitepaper „Ist Ihr KI-System sicher?“ und gibt Tipps

datensicherheit.de, 29.08.2025
PromptLock: ESET-Warnung vor erster autonomer KI-Ransomware / ESET hat deren technische Details veröffentlicht, um die IT-Sicherheits-Community zu sensibilisieren, und stuft diese Ransomware unter dem Namen „Filecoder.PromptLock.A“ ein

[datensicherheit.de, 09.09.2025] Digitale Souveränität gillt längst mehr als ein Schlagwort nur aus der Politik, denn wer IT-Systeme zuverlässig schützen möchte, muss gesichert wissen, auf welche Technologien rechtlich, technisch und strategisch überhaupt Verlass ist. Im neuen Positionspapier „Made in EU – IT-Sicherheit und digitale Souveränität“ des europäischen IT-Sicherheitsanbieters ESET wird deutlich gemacht, warum die Herkunft von Produkten, Services und Herstellern heute eine zentrale Rolle für Vertrauen spielt. Gleichzeitig soll das Papier aufzeigen, wie europäische Sicherheitslösungen Organisationen helfen könnten, widerstandsfähiger zu werden und ihre digitale Unabhängigkeit zu stärken.

Abbildung: eseT

ESET-Positionspapier: Digitale Souveränität ist längst mehr als ein Schlagwort aus der Politik!

Strategischer Überblick für Entscheider: IT-Sicherheit mehr als nur eine technische Frage

„Das Papier richtet sich an alle, die IT-Sicherheit nicht nur als technische Frage verstehen, sondern auch Herkunft und Vertrauen in den Blick nehmen.“ Angesprochen seien Unternehmen genauso wie Behörden und politische Entscheider.

• „Wer Digitale Souveränität ernst meint, braucht Lösungen, die transparent sind, rechtlich Bestand haben und zugleich langfristig tragfähig bleiben!“

Dabei gelte es den schwierigen Spagat zwischen europäischen Regelwerken wie „NIS-2“, „DORA“ oder „Cyber Resilience Act“ und der praktischen, bezahlbaren Umsetzung zu meistern. Die Kernfrage dabei lautet demnach: „Wie kann Europa seine digitale Unabhängigkeit sichern und dabei trotzdem den Innovationsgeist bewahren?“

Vertrauen kann wachsen, wenn Organisationen die Kontrolle über ihre IT-Systeme zurückgewinnen

„Digitale Souveränität beginnt dort, wo Organisationen die Kontrolle über ihre Systeme zurückgewinnen“, betont Holger Suhl, „Country Manager DACH“ bei ESET. Indes stellt er auch klar: „Vertrauen lässt sich nicht verordnen. Es muss durch Transparenz, nachvollziehbare Technologie und eine klare Herkunftspolitik verdient werden.“

• Das nun vorliegende Positionspapier rücke einen Ansatz in den Fokus, welcher in Europa zunehmend an Bedeutung gewinne: IT-Sicherheit als präventive, systemisch gedachte Aufgabe. Der von ESET verfolgte Weg beginne nicht erst bei der Reaktion auf einen Vorfall, sondern bei der strukturellen Risikominimierung. Sichere Voreinstellungen, kontinuierliche Systemhärtung und ein durchdachtes „Zero Trust“-Modell schafften eine Architektur, „die Angriffe möglichst früh erkennt, bevor sie wirksam werden“.

Unterstützt werde dieser Weg durch automatisierte Analysen, etwa mit dem KI-gestützten „AI Advisor“, sowie durch „Managed Detection and Response“-Dienste, welche rund um die Uhr auf Anomalien reagierten. Wichtig sei dabei nicht nur die Technologie, sondern auch deren Herkunft: „Die Module werden vollständig in Europa entwickelt und betrieben. Damit erfüllen sie nicht nur funktionale Anforderungen, sondern auch zentrale Kriterien für Datenschutz, Transparenz und Kontrollierbarkeit.“

Weitere Informationen zum Thema:

eseT
IT-Sicherheit ist Vertrauenssache / ESET Positionspapier „Made in EU – IT-Sicherheit und Digitale Souveränität“

eseT, Michael Klatte, Juni 2025
POSITIONSPAPIER: Made in EU – IT-Sicherheit und Digitale Souveränität

connect professional, Daniel Dubsky, 04.04.2018
Holger Suhl folgt auf Stefan Thiel bei Eset / Nach mehr als vier Jahren an der Spitze von Eset in der DACH-Region wechselt Stefan Thiel zu Mimecast. Sein Nachfolger wird mit Holger Suhl der frühere Deutschlandchef von Kaspersky.

datensicherheit.de, 21.08.2025
IT-Sicherheit „Made in EU“: Deutsche Unternehmen streben digitale Souveränität an / Laut neuer ESET-Studie beabsichtigen drei Viertel der wechselbereiten Unternehmen künftig europäische IT-Sicherheitslösungen einzusetzen

datensicherheit.de, 16.08.2025
Mehr digitale Souveränität und Resilienz – Cybersicherheit neu gedacht / Die Cybersicherheitslandschaft in Europa verändert sich deutlich: Unternehmen stehen vor einer von zunehmenden Bedrohungen, KI-Durchdringung und wachsendem Bewusstsein für Digitale Souveränität geprägten Zeitenwende

datensicherheit.de, 07.08.2025
Sicheres Vertragsmanagement: Digitale Souveränität als Notwendigkeit / Die US-Abhängigkeit stellt ein erhebliches Risiko für die Datenhoheit, „Compliance“ und Innovationsfähigkeit europäischer Betriebe dar – umso wichtiger ist es, die eigene Digitale Souveränität zu stärken

datensicherheit.de, 07.08.2025
Digitale Souveränität statt Digitaler Naivität – Europas IT-Sicherheitsstrategie auf dem Prüfstand / Der aktuelle EU-Fortschrittsbericht zur „Digitalen Dekade 2030“ zeigt auf, dass vielen EU-Mitgliedstaaten das Verfehlen zentraler Ziele droht – gleichzeitig wächst die Abhängigkeit von nicht-europäischen Anbietern im Bereich der IT-Sicherheit

datensicherheit.de, 21.07.2025
Digitale Souveränität: Europäischer Datenspeicher zur Resilienzstärkung / Datensicherheit im geopolitischen Spannungsfeld – Digitale Souveränität keine theoretische Debatte, sondern strategische Notwendigkeit

datensicherheit.de, 11.07.2025
Cybersicherheit: Deutsche Unternehmen setzen zunehmend auf Digitale Souveränität / Laut einer neuen Studie von HarfangLab messen 81 Prozent der Führungsetagen in deutschen Unternehmen Digitaler Souveränität heute mehr Bedeutung zu als noch vor einem Jahr

[datensicherheit.de, 22.03.2025] Der Frühling 2025 ist da – damit sei auch Zeit für einen „digitalen Hausputz“ zum Schutz der ganzen Familie, so ESET in einer aktuellen Stellungnahme, in der ausgeführt wird, wie Eltern und Kinder gemeinsam für mehr Sicherheit im Netz sorgen können. Die digitale Welt sei ein wichtiger Teil des Lebens von Kindern und Jugendlichen – umso wichtiger sei es auch, dass Eltern gemeinsam mit ihren Kindern für einen sicheren Umgang mit Smartphone, Tablet und Internet sorgten.

ESET-Tipps sollten dabei helfen, eine sichere und entspannte Umgebung zu schaffen

„Ein regelmäßiger digitaler Frühjahrsputz kann dabei helfen, Risiken zu minimieren und das digitale Wohlbefinden der ganzen Familie zu fördern“, betont Michael Klatte, IT-Sicherheitsexperte bei ESET.

Er führt weiter aus: „Da sich große Teile unseres Lebens ins Digitale verlagern, sollte jeder ein umfassendes Sicherheitsbewusstsein an den Tag legen!“ Nachfolgende ESET-Tipps könnten dabei helfen, eine sichere und entspannte Umgebung zu schaffen:

1. ESET-Tipp: Gemeinsam „ausmisten“ – Apps und Daten unter die Lupe nehmen

„Setzen Sie sich mit Ihren Kindern zusammen und schauen Sie sich gemeinsam an, welche Apps auf ihren Geräten installiert sind: Welche Apps werden wirklich genutzt, welche sind überflüssig?“ Löschen Sie gemeinsam nicht mehr benötigte Apps – dies schaffe Platz, erhöhe die Übersicht und verringere das Risiko, Opfer von Sicherheitslücken zu werden.

„Nutzen Sie auch die Kinder- und Jugendschutzfunktionen auf den Geräten Ihrer Kinder!“ So könnten beispielsweise die Nutzungsdauer begrenzt, der Zugriff auf bestimmte Apps und Webseiten eingeschränkt und die Privatsphäre-Einstellungen angepasst werden.

2. ESET-Tipp: Passwort-Sicherheit für die ganze Familie

Starke Passwörter seien Pflicht: „Erklären Sie Ihren Kindern, warum starke Passwörter wichtig sind und was ein gutes Passwort ausmacht: Mindestens acht Zeichen lang, Sonderzeichen, Groß-/Kleinschreibung und Zahlen.“ Für jedes Konto sollte ein eigenes, sicheres Passwort verwendet werden. Ein Passwort-Manager könne helfen, sichere Passwörter zu erstellen und direkt zu speichern.

Eine Zwei-Faktor-Authentifizierung (2FA) erhöhe die Sicherheit zusätzlich und sorge dafür, dass Online-Konten auch dann sicher blieben, wenn die Zugangsdaten in unbefugte Hände geraten. „Aktivieren Sie daher, wo immer möglich, die 2FA, zum Beispiel in Form einer Authenticator-App!“

3. ESET-Tipp: Streaming-Dienste nicht vergessen

Viele Familien nutzten gemeinsam Streamingdienste wie „Netflix“, „Disney+“ oder „Spotify“. Auch dort gelte: „Verwenden Sie starke Passwörter und aktivieren Sie, wenn möglich, die 2FA!“

So werde verhindert, dass Fremde das Konto missbrauchen oder persönlichen Daten gefährden könnten. „Erklären Sie Ihren Kindern, dass es riskant sein kann, Passwörter mit Freunden zu teilen!“

4. ESET-Tipp: Backups für den Notfall – Datenverlust vorbeugen

„Sichern Sie regelmäßig alle wichtigen Daten Ihrer Familie!“ Die Backups sollten auf einer externen Festplatte oder in einer sicheren „Cloud“-Lösung gespeichert werden – oder auch beides gleichzeitig.

„So können Sie verhindern, dass wertvolle Erinnerungen wie Fotos und Videos, aber auch wichtige Dokumente verloren gehen!“

5. ESET-Tipp: Gefahren im Netz erkennen und vermeiden

Das Internet sei ein interessanter, aber manchmal auch gefährlicher Ort: „Informieren Sie Ihre Kinder deshalb über die Gefahren von Phishing und erklären Sie ihnen, woran sie Phishing-Mails und -Anrufe erkennen können!“ Auch Cyber-Mobbing gehöre zu diesen Gefahren: Mit den Kindern möge darüber gesprochen und diese sollten ermutigt werden, sich zu melden, wenn sie oder andere davon betroffen sind.

„Eine starke IT-Sicherheitslösung rundet den Digitalen Frühjahrsputz ab“, unterstreicht Klatte. So schütze man die eigene Familie vor Schadsoftware, Phishing-Attacken und anderen Bedrohungen. Zusätzliche Features wie eine VPN-Funktion und ein Identitätsschutz komplettierten das Paket.

Weitere Informationen zum Thema:

datensicherheit.de, 19.03.2025
Zeit für Digitalen Frühjahrsputz: Löschung alter Daten bei Beachtung neuer Speicherfristen / Mindestens einmal im Jahr ist es Zeit, sich einen Überblick zu verschaffen, was noch gespeichert ist und ob diese Daten oder Akten länger benötigt werden

datensicherheit.de, 15.04.2024
Digitaler Frühjahrsputz: ESET gibt IT-Sicherheits-Tipps / Schon einfache Maßnahmen können Cyber-Sicherheit im Frühling – und darüber hinaus – verbessern