Aktuelles, Branche - geschrieben von dp am Montag, Januar 27, 2025 18:13 - noch keine Kommentare
Deepfakes: Wie Internet-Nutzer täuschend echte Fälschungen erkennen können
Immer häufiger tauchen aktuell sogenannte Deepfakes auf, d.h. mit Künstlicher Intelligenz manipulierte Fotos und Videos
[datensicherheit.de, 27.01.2025] „Fake News“, betrügerische E-Mails, gefährliche Computer-Viren – das Internet ist offenkundig voller Gefahren und Falschinformationen. Immer häufiger tauchten aktuell sogenannte Deepfakes auf, d.h. mit Künstlicher Intelligenz (KI) manipulierte Fotos und Videos. Alina Gedde, Digitalexpertin bei ERGO, geht in ihrer aktuellen Stellungnahme auf diese gefährliche Entwicklung ein und erläutert, wie Internet-Nutzer solche Deepfakes erkennen können:
Die neue KI-Technologie birgt neben Nutzen auch Gefahren wie Deepfakes
„Immer mehr Menschen nutzen Anwendungen, die auf Künstliche Intelligenz setzen, um schnell und einfach Texte zu schreiben, Fotos aufzuhübschen oder einfach nur mit einem virtuellen Gesprächspartner zu chatten. Die neue Technologie birgt jedoch auch Gefahren wie sogenannte Deepfakes!“ Gedde führt hierzu aus: „Das sind mithilfe von KI manipulierte oder erstellte Bilder, Videos oder Tondateien, die täuschend echt wirken und kaum als Fälschungen erkennbar sind.“ Daher würden diese häufig eine hohe Glaubwürdigkeit genießen und verbreiteten sich im Netz rasend schnell.
Eine bekannte Masche ist es demnach, beispielsweise Prominenten Worte in den Mund zu legen, die sie nie gesagt haben. „Das kann zum Zweck von Produktwerbung geschehen. Oft sollen Personen aber auch diffamiert oder gemobbt werden, etwa durch KI-erzeugte Fotomontagen, die sie scheinbar in verfänglichen Situationen zeigen“, kommentiert Gedde.
Betrugsmaschen wie der Enkeltrick werden durch Deepfakes noch raffinierter
Das Besorgniserregende sei, dass mit entsprechenden Apps heute jeder schnell und einfach Deepfakes erstellen könne. „Es ist aber bereits strafbar, andere ohne deren Einwilligung zu fotografieren. Wer also Fotos oder Videos fälscht oder verbreitet, begibt sich juristisch auf sehr dünnes Eis“, warnt Gedde und empfiehlt Eltern, daher auch ihre Kinder für das Thema zu sensibilisieren.
Cyber-Kriminelle setzten Deepfakes hauptsächlich ein, um die Meinung von Menschen zu beeinflussen, politische Propaganda zu verbreiten oder Personen des öffentlichen Lebens in ein schlechtes Licht zu rücken. Auch Trickbetrüger nutzten diese Technologie, etwa um ihre Stimme am Telefon so zu manipulieren, „dass sie wie ein Verwandter oder Bekannter ihres Opfers klingen“. Auf diese Weise versuchten sie dann, an sensible Daten wie Kontoinformationen oder Passwörter zu gelangen. „Auch Betrugsmaschen wie der sogenannte Enkeltrick werden durch Deepfakes noch raffinierter“, betont Gedde.
Falsche und unnatürliche Betonungen sowie abgehackter Sprechfluss können z.B. Hinweise auf Deepfakes sein
„Computer, Smartphones und Co. werden immer leistungsfähiger – und damit auch KI-Anwendungen. Fälschungen lassen sich deshalb immer schwieriger als solche entlarven.“ Gedde empfiehlt Internet-Nutzern daher, bei Fotos und Videos auf ungewöhnliche Krümmungen von Armen und Beinen, falsche Proportionen, seltsam fallende Schatten, unnatürliche Bewegungen und ähnliche Details zu achten. Auch menschliche Mimik und Gestik seien für moderne KI-Anwendungen noch eine Herausforderung – hinzu kämen oft Ungereimtheiten wie Bildverzerrungen, Unterschiede in der Bildschärfe und Farbgebung oder fehlende Lippensynchronität in Videos. „Bei gefälschten Tonaufnahmen klingt die Stimme oft monoton und blechern. Auch falsche und unnatürliche Betonungen sowie ein abgehackter Sprechfluss können Hinweise auf einen Deepfake sein.“
Gedde empfiehlt zudem, beispielsweise verdächtige Fotos auf einem großen Bildschirm anzusehen. So ließen sich Manipulationen besser erkennen als auf einem kleinen Smartphone-Display. Oft helfe auch schon eine einfache Internetsuche, um Deepfakes zu enttarnen: „Taucht ein scheinbar sensationelles Video auf keiner seriösen Nachrichtenseite auf, sondern nur auf zwielichtigen Social-Media-Kanälen, handelt es sich mit großer Wahrscheinlichkeit um einen Deepfake“, so Gedde. Im Web gebe es zudem zahlreiche Faktencheck-Portale, auf denen sich Nutzer über aktuelle Deepfakes informieren könnten. Darüber hinaus gelte wie so oft: „Nicht alles glauben und Informationen stets mit einem gesunden Maß an Skepsis betrachten – vor allem im ,World Wide Web’!“
Weitere Informationen zum Thema:
datensicherheit.de, 11.12.2024
Deepnude AI Image Generator: Cyber-Kriminelle lockten Opfer mit speziellem Köder / Cyber-Sicherheitsexperten von Silent Push haben in einem Blogbeitrag eine neue Angriffstaktik der Bedrohungsgruppe „FIN7“ vorgestellt
datensicherheit.de, 05.12.2024
KI-basierte Deepfakes zur effektiven Täuschung als Angriffsvektor etabliert / Deepfakes werden in Audio- und Video-Formaten vermehrt für Betrugsmanöver eingesetzt
datensicherheit.de, 20.11.2024
Laut 2025 Identity Fraud Report alle fünf Minuten ein Deepfake-Angriff / Aktueller Bericht thematisiert globale Trends und Techniken des Identitätsbetrugs, welche Unternehmen im Jahr 2025 bedrohen werden
datensicherheit.de, 08.10.2024
Zunehmende Bedrohung in der digitalen Welt durch Deepfake-Angriffe / BlackBerry erörtert das Gefahrenpotenzial KI-gestützter Deepfake-Angriffe auf Unternehmen und stellt Abwehrmaßnahmen vor
datensicherheit.de, 29.08.2024
Drei präventive Schutzmaßnahmen gegen CEO-Fraud und Deepfake-Angriffe / Detlev Riecke gibt Unternehmen Empfehlungen, um Chance eines erfolgreichen KI-gestützten Deepfake-Angriffs erheblich zu mindern
Aktuelles, Experten, Veranstaltungen - Feb. 9, 2025 1:08 - noch keine Kommentare
Öffentliche Sicherheit contra Privatsphäre: Biometrische KI-Gesichtserkennung in der Diskussion im Vorfeld der Bundestagswahl 2025
weitere Beiträge in Experten
- Mahnung der Freien Ärzteschaft im ePA-Kontext: Krankheitsdaten sind keine Ware!
- „AI Act“: Seit dem 2. Februar 2025 weitere Regelungen der europäischen KI-Verordnung in Kraft
- AI Act: eco-Kommentar zum Inkrafttreten – nationale Gesetzgebung muss Vision und Praxis vereinen!
- Datenschutzkonferenz: Hilfestellungen für effektive Anonymisierung und Pseudonymisierung personenbezogener Daten geplant
- Zwei der weltweit größten Cybercrime-Foren mit über zehn Millionen registrierten Nutzern abgeschaltet
Aktuelles, Branche - Feb. 9, 2025 0:58 - noch keine Kommentare
Unermesslicher Datenhunger nicht zu ignorieren: Forderungen der Wirtschaft, Staaten und KI zunehmend intensiver
weitere Beiträge in Branche
- NIS-2-Umsetzung: Gesetzgebungsverfahren offenbar vorerst gescheitert
- Industrie sollte Cyber-Sicherheit ihrer Geräte, Maschinen und Anlagen dringend auf ihre Agenda 2025 setzen!
- Dennis Weyel erinnert im NIS-2-Kontext daran: Firmenleitung haftet bei Cyber-Attacken!
- IT-Sicherheit: Gedanken zum Generationenkonflikt
- Finanzsektor: Herausforderungen und zugleich Chancen durch DORA
Branche, Umfragen - Dez. 21, 2020 21:46 - noch keine Kommentare
Threat Hunting: Bedeutung und Wertschätzung steigt
weitere Beiträge in Service
- Umfrage: 71 Prozent der IT-Entscheidungsträger besorgt über Mehrfachnutzung von Passwörtern
- Fast die Hälfte der Unternehmen ohne geeignete Sicherheitsrichtlinien für Remote-Arbeit
- Umfrage: Bedeutung der Konsolidierung von IT-Sicherheitslösungen
- TeleTrusT-Umfrage: „IT-Sicherheit im Home Office“
- Cybersicherheit: SANS-Studie zu Frauen in Führungspositionen
Kommentieren