Aktuelles, Branche - geschrieben von dp am Dienstag, Oktober 8, 2024 18:39 - noch keine Kommentare
Zunehmende Bedrohung in der digitalen Welt durch Deepfake-Angriffe
BlackBerry erörtert das Gefahrenpotenzial KI-gestützter Deepfake-Angriffe auf Unternehmen und stellt Abwehrmaßnahmen vor
[datensicherheit.de, 08.10.2024] Technologien auf Basis sogenannter Künstlicher Intelligenz (KI) machen in jüngerer Zeit offenkundig rasante Fortschritte. Im Zuge dessen gewinnt laut einer aktuellen Stellungnahme von BlackBerry eine besondere Form digitaler Täuschung zunehmend an Bedeutung: „Deepfakes“ – diese mithilfe von KI erstellten hochrealistischen, synthetischen Nachahmungen bereiteten Unternehmen und öffentlichen Organisationen in Fragen der Cyber-Sicherheit große Schwierigkeiten. Ulf Baltin, „Managing Director“ bei BlackBerry (DACH | Central Europe), erläutert Risiken und mögliche Maßnahmen gegen diese zunehmende Bedrohung.
Deepfakes – KI-generierte Video-, Bild- oder Audiodateien
Sogenannte Deepfakes sind demnach KI-generierte Videos, Bilder oder Audiodateien, die so überzeugend manipuliert sind, dass sie von echten Aufnahmen kaum zu unterscheiden sind.
Zwar finde diese KI-Technologie durchaus kreative und künstlerische Anwendungen, doch berge sie auch ein erhebliches Potenzial für Missbrauch.
Die Anwendungsmöglichkeiten von Deepfakes seien vielfältig. In der Unterhaltungsindustrie würden sie beispielsweise genutzt, um historische Figuren wiederzubeleben oder Schauspieler digital zu verjüngen. Auch im privaten Bereich fänden Deepfakes Anwendung, etwa um alte Familienfotos zu animieren.
Betrug: Die dunkle Deepfake-Seite
Baltin gibt zu bedenken: „Die Bedrohung durch Deepfakes nimmt stetig zu. Cyber-Kriminelle nutzen die Technologie zunehmend für ausgeklügelte Betrugsmaschen, die erheblichen finanziellen Schaden anrichten und das Image eines Unternehmens oder einzelner Personen massiv schädigen können.“
Ein besonders alarmierendes Beispiel habe sich im Februar 2024 ereignet, als ein Finanzangestellter eines multinationalen Unternehmens durch ein Deepfake-Video getäuscht worden sei: „In einer manipulierten Videokonferenz, in der vermeintliche Kollegen und der ,Chief Financial Officer’ (CFO) zu sehen waren, wurde er dazu verleitet, 25 Millionen Dollar an die cyber-kriminellen Urheber des Videos zu überweisen.“
Auch Sprachimitationen mittels KI würden für Betrügereien eingesetzt. „So erhielt kürzlich ein Ferrari-Manager betrügerische ,WhatsApp’-Nachrichten, die angeblich vom ,Chief Executive Officer’ (CEO) stammten und zu einer geheimen Währungstransaktion aufforderten.“ Nur durch kritisches Hinterfragen habe dieser versuchte Betrug aufgedeckt werden können – „bevor ein Schaden entstehen konnte“.
Erkennung von Deepfakes zunehmend schwierig
Die Erkennung von Deepfakes gestalte sich zunehmend schwierig, denn es gebe keine Universallösung dafür. Stattdessen sei ein mehrschichtiger Ansatz erforderlich, „der verschiedene Techniken und Methoden kombiniert“.
Zu den vielversprechenden Ansätzen gehörten Digitale Wasserzeichen, kryptographische Signaturen und „Blockchain“-basierte Verifizierungsmethoden. Die US-Regierung erwäge sogar, Tech-Unternehmen zur Kennzeichnung KI-generierter Inhalte zu verpflichten.
Baltin unterstreicht: „Entscheidend ist jedoch vor allem die Sensibilisierung und Schulung von Mitarbeitern. Unternehmen sollten robuste Trainingsprogramme implementieren, um Mitarbeiter über die Gefahren von Deepfakes aufzuklären und sie in der Erkennung zu schulen.“
Meldung von Deepfake-Angriffen
Bei bösartigen Deepfake-Angriffen sei es wichtig, diese den zuständigen Behörden zu melden. „In den USA sind dies beispielsweise das ,NSA Cybersecurity Collaboration Center’, das FBI und die Cybersecurity and Infrastructure Security Agency (CISA).“
Derweil gebe es in Deutschland für Deepfakes keine speziellen rechtlichen Regelungen. „Umso wichtiger ist es für Unternehmen hierzulande, sich um wirksame Prävention zu kümmern!“
In Deutschland könnten sich angegriffene Parteien über ihren Sicherheitsanbieter beim Bundesamt für Sicherheit in der Informationstechnik (BSI) oder einem der Dienstleister im Cyber-Sicherheitsnetzwerk (CSN) des BSI melden.
Weiterentwicklung der KI-Technologie wird Deepfake-Raffinesse befördern
Mit der rasanten Weiterentwicklung der KI-Technologie werde auch die Raffinesse von Deepfakes zunehmen. Allerdings hinke die Technologie zur Erkennung von Deepfakes der Produktionsgeschwindigkeit neuer KI-Software und -Systeme zurzeit noch weit hinterher.
Es sei unerlässlich, dass Produktdesigner, Ingenieure und Führungskräfte eng zusammenarbeiten, um kryptographisch sichere Standards für die Authentizitätsvalidierung digitaler Inhalte zu definieren.
„Bis dahin bleibt Unternehmen nur, die verfügbaren Strategien zur Risikominimierung konsequent umzusetzen und wachsam zu bleiben“, so Baltin abschließend – denn in der digitalen Welt von heute könnte der nächste Angriff bereits ein täuschend echtes Gesicht tragen.
Weitere Informationen zum Thema:
Bundesamt für Sicherheit in der Informationstechnik
IT-Sicherheitsdienstleister im CSN / Unterstützungsangebot durch ein Team von Vorfall-Experten
CONGRESS.GOV, 27.07.2023
S.2691 – AI Labeling Act of 2023 118th Congress (2023-2024)
datensicherheit.de, 29.08.2024
Drei präventive Schutzmaßnahmen gegen CEO-Fraud und Deepfake-Angriffe / Detlev Riecke gibt Unternehmen Empfehlungen, um Chance eines erfolgreichen KI-gestützten Deepfake-Angriffs erheblich zu mindern
datensicherheit.de, 21.05.2024
Deepfakes: Paragraf zum Persönlichkeitsschutz soll im Strafgesetzbuch Aufnahme finden / Noch können Deepfakes erkannt werden – aber Optimierung schreitet voran
datensicherheit.de, 20.02.2024
Deepfakes: Vielfältige Betrugsversuche / Es gibt aber auch konstruktive Anwendungen für Deepfake-Prinzipien
Aktuelles, Branche, Gastbeiträge - Feb. 11, 2025 10:09 - noch keine Kommentare
OT-Sicherheit: Klassischer AirGap-Ansatz ist Illusion
weitere Beiträge in Experten
- Cyber-Nation: TeleTrusT veröffentlicht Forderungskatalog zur Umsetzung des Konzeptes
- Vorankündigung des IT-Sicherheitscluster e.V.: 4. Regenburger Cybersecurity-Kongress am 28. April 2025
- BfDI und DPC: Engerer Austausch zu Plattformen und Künstlicher Intelligenz vereinbart
- Öffentliche Sicherheit contra Privatsphäre: Biometrische KI-Gesichtserkennung in der Diskussion im Vorfeld der Bundestagswahl 2025
- Mahnung der Freien Ärzteschaft im ePA-Kontext: Krankheitsdaten sind keine Ware
Aktuelles, Branche, Gastbeiträge - Feb. 11, 2025 10:09 - noch keine Kommentare
OT-Sicherheit: Klassischer AirGap-Ansatz ist Illusion
weitere Beiträge in Branche
- KRITIS immer öfter im Visier Cyber-Krimineller
- Fake-Romance: Scams mit KI-gestützten Deepfake-Promis fordern Opfer
- Unermesslicher Datenhunger nicht zu ignorieren: Forderungen der Wirtschaft, Staaten und KI zunehmend intensiver
- NIS-2-Umsetzung: Gesetzgebungsverfahren offenbar vorerst gescheitert
- Industrie sollte Cyber-Sicherheit ihrer Geräte, Maschinen und Anlagen dringend auf ihre Agenda 2025 setzen!
Branche, Umfragen - Dez. 21, 2020 21:46 - noch keine Kommentare
Threat Hunting: Bedeutung und Wertschätzung steigt
weitere Beiträge in Service
- Umfrage: 71 Prozent der IT-Entscheidungsträger besorgt über Mehrfachnutzung von Passwörtern
- Fast die Hälfte der Unternehmen ohne geeignete Sicherheitsrichtlinien für Remote-Arbeit
- Umfrage: Bedeutung der Konsolidierung von IT-Sicherheitslösungen
- TeleTrusT-Umfrage: „IT-Sicherheit im Home Office“
- Cybersicherheit: SANS-Studie zu Frauen in Führungspositionen
Kommentieren