Ambivalente Künstliche Intelligenz – KI als Fluch oder Segen für die Cyber-Sicherheit

KI kann für Cyber-Angriffe, aber auch zur -Verteidigung eingesetzt werden

[datensicherheit.de, 31.10.2023] Der Branchenverband Bitkom hat am 31. Oktober 2023 die Ergebnisse einer Umfrage zum Thema KI als neue Herausforderung für die Cyber-Sicherheit bekanntgegeben. Demnach kann sogenannte Künstliche Intelligenz nahezu perfekt klingende Phishing-Mails formulieren oder sogar Code für Schadsoftware programmieren – andererseits könne KI aber z.B. auch Spam-Mails aus dem E-Mail-Postfach herausfiltern, verdächtige Kommunikation auf Servern erkennen und die Verantwortlichen frühzeitig bei Angriffen warnen. Zu der Diskussion, ob KI für die Cyber-Sicherheit eher „Fluch oder Segen?“ bedeutet, nimmt Matt Cooke, „Cybersecurity Strategist“ bei Proofpoint, Stellung:

Cyber-Kriminelle nutzen vor allem menschliche Schwächen aus

„Cyber-Kriminelle nutzen heutzutage vor allem menschliche Schwächen aus“, warnt Cooke in seinem Kommentar. Untersuchungen zeigten, dass fast 99 Prozent aller Bedrohungen eine Art von menschlicher Interaktion erforderten. Dies gelte für Bedrohungen ohne Malware, „wie die verschiedenen Arten von ,Business eMail Compromise’ (BEC) oder ,eMail Account Compromise’ (EAC)“, z.B. die Abzweigung von Gehaltsabrechnungen, die Übernahme von Konten und die Imitation von Geschäftsführern.

Es gelte aber auch für malware-basierte Bedrohungen: „Tag für Tag werden Menschen Opfer dieser Angriffe. Und alles, was ein Cyber-Krimineller braucht, um erfolgreich zu sein, ist ein einziger Klick von einer Person.“

KI in den Händen Cyber-Krimineller kann Bedrohungen noch verschärfen

Es bestehe kein Zweifel daran, dass KI in den Händen von Cyber-Kriminellen diese Bedrohungen noch verschärfen könne. „Sie kann die Leichtigkeit, die Geschwindigkeit und den Umfang eines Angriffs erhöhen und Social-Engineering-Angriffe noch vertrauenswürdiger erscheinen lassen.“ KI-Tools könnten Cyber-Kriminelle dabei unterstützen, überzeugende Phishing-E-Mails zu verfassen, betrügerische Telefonanrufe zu tätigen und sogar gefälschte Bilder zu erstellen, um ihre Köder noch überzeugender wirken zu lassen – und so die Wahrscheinlichkeit zu erhöhen, dass ihre Opfer darauf hereinfallen.

Cooke führt weiter aus: „So können Angreifer beispielsweise ,ChatGPT’ nutzen, um Schreibstil und Tonfall zu verändern oder längere Social-Engineering-Angriffe durchzuführen. Da sich die Bedrohungen weiterentwickeln, können Menschen allein keinen ausreichenden Schutz vor solchen Angriffen mehr bieten.“

Cyber-Kriminelle werden wohl weiterhin bewährte Phishing-Techniken verwenden

Aus defensiver Sicht seien Künstliche Intelligenz (KI) und Maschinelles Lernen (ML) entscheidende Komponenten der einzig erfolgversprechenden Cyber-Sicherheitsstrategie: „Sie bieten die dringend benötigte groß angelegte Analyse und Identifizierung von Bedrohungen, die von Sicherheitsexperten zur Minimierung des Angriffsrisikos genutzt werden können.“ Sie seien auch wesentlich schneller und effektiver als die mühsame manuelle Analyse und könnten sich schnell an neue Bedrohungen und Trends anpassen, welche sich ständig weiterentwickelten.

Abschließend sei darauf hingewiesen, dass KI-Tools zwar auf ruchlose Weise eingesetzt werden könnten, Cyber-Kriminelle aber weiterhin bewährte Phishing-Techniken verwenden würden – „denn warum das Rad neu erfinden, wenn sie bereits etwas in Händen halten, das funktioniert?“

Weitere Informationen zum Thema:

bitkom, 31.10.2023
KI gilt als neue Herausforderung für die Cybersicherheit