Generative KI: Jüngste Erkenntnisse von Check Point Research zur Gefahr für die Wahlen 2024

CPR hat Wahlen welweit beobachtet, um den Einsatz generativer Künstlicher Intelligenz (KI) zu analysieren

[datensicherheit.de, 25.04.2024] Laut einer aktuellen Meldung von Check Point soll es in den letzten sechs Monaten weltweit 36 Wahlen gegeben haben. „Check Point Research“ (CPR) hat diese nach eigenen Angaben beobachtet, um den Einsatz generativer Künstlicher Intelligenz (KI) zu analysieren. In seinem Kommentar fasst Marco Eggerling, „Global CISO“ bei Check Point Software Technologies, die Erkenntnisse kurz zusammen und geht auf die Frage ein, was dies für die deutschen Wahlen im Jahr 2024 bedeutet.

Foto: Check Point

Marco Eggerling warnt: Auch Hacker-Banden könnten mittels KI versuchen, eine Wahl technisch zu attackieren!

Einsatz generativer KI zur Verbesserung der eigenen Kampagne oder Diskreditierung der gegenerischen

„Unsere Sicherheitsforscher haben weltweit viele Wahlen der letzten Monate beobachtet und den Einsatz von KI im Zusammenhang mit selbigen ausgewertet. Dabei kam heraus, dass generative KI von Kandidaten zur Verbesserung der eigenen Kampagne angewendet wurde, oder von gegnerischen Kandidaten (oder Gruppierungen), um bestimmte Kandidaten oder Parteien zu diskreditieren“, berichtet Eggerling.

Das Spektrum habe dabei Bilder, Videos und Tonaufnahmen umfasste – „sogar ganze Bücher, die in Gänze mit KI erstellt wurden, um eine strategisch kalkulierte Wirkung bei Wählern zu erzielen“. Gemeinsam sei fast allen solchen Aktionen gewesen, dass diese „auf den letzten Drücker“, kurz vor dem Wahltag, lanciert worden seien, um einen Skandal auszulösen – „kaum zu verhindern, zeitlich schwer für Wahlberechtigte zu prüfen und für die Betroffenen so gut wie nicht zu berichtigen“.

In Deutschland auf Schmutzkampagnen mittels KI-Inhalten vorbereiten!

Eggerling rät: „Entsprechend sollten auch wir Deutschen, mit drei Landtagswahlen und der Europawahl vor den Augen, uns auf dergleichen Schmutzkampagnen mittels KI-Inhalten vorbereiten!“ Aufklärung werde hierzu am meisten helfen, „damit die Bürger besser in der Lage sein werden, solche Inhalte zu erkennen und dadurch Fakt von Fiktion trennen zu können“. Daneben sollten Sicherheitslösungen installiert werden, „welche KI-Inhalte erkennen und blockieren, um die Verbreitung gefälschter Informationen jeder Art zu vermindern“.

Außerdem helfe es sicherlich, davon auszugehen, dass manche Hacker-Banden mit KI versuchen könnten, eine Wahl technisch zu attackieren und die Systeme dann entsprechend geschützt sein müssten. Andernfalls drohe missbrauchte generative KI direkten Einfluss auf die hiesige Demokratie zu nehmen.