Kaspersky-Publikation: Richtlinie für sichere KI-Entwicklung

Richtlinie soll wertvolle Ressource für Entwickler, Administratoren und KI-DevOps-Teams sein

[datensicherheit.de, 20.12.2024] Kaspersky hat nach eigenen Angaben seine Richtlinie für eine sichere KI-Entwicklung präsentiert, um Unternehmen dabei zu unterstützen, die Cyber-Sicherheitsrisiken der bereits allgegenwärtigen Technologie zu adressieren: Die „Guidelines for Secure Development and Deployment of AI Systems“ seien vor wenigen Tagen auf dem „United Nations Internet Governance Forum“ (IGF) 2024 in Riad, Saudi-Arabien, vorgestellt worden – die Entwicklung sei in Zusammenarbeit mit führenden akademischen Experten erfolgt, um die wachsende Komplexität der Cyber-Sicherheitsherausforderungen im Zusammenhang mit KI-gesteuerten Systemen zu adressieren.

Abbildung: kaspersky

Kaspersky hat „Guidelines for Secure Development and Deployment of AI Systems“ herausgegeben

Richtlinie besonders für Organisationen relevant, welche auf KI-Modelle von Drittanbietern und Cloud-basierte Systeme angewiesen sind

Diese Richtlinie sei eine „wertvolle Ressource für Entwickler, Administratoren und KI-DevOps-Teams“ und enthalte detaillierte, praxisorientierte Empfehlungen, um technische Sicherheitslücken zu schließen und Betriebsrisiken zu minimieren.

Die „Guidelines for Secure Development and Deployment of AI Systems“ seien besonders für Organisationen relevant, „die auf KI-Modelle von Drittanbietern und Cloud-basierte Systeme angewiesen sind“, da Schwachstellen in diesen Bereichen zu erheblichen Datenlecks und Reputationsschäden führen könnten.

Richtlinie soll Organisationen helfen, die KI-Bereitstellung an Standards und internationale Compliance-Anforderungen anzupassen

Durch die Integration von Security-by-Design-Prinzipien unterstütze diese Richtlinie Organisationen dabei, die KI-Bereitstellung an Standards wie ESG und internationale Compliance-Anforderungen anzupassen. Die Richtlinie behandele zentrale Aspekte der Entwicklung, Bereitstellung und des Betriebs von KI-Systemen, einschließlich Design, bewährter Sicherheitspraktiken und Integration, ohne sich auf die Entwicklung grundlegender Modelle zu fokussieren.

Die Richtlinie adressiere die folgenden Prinzipien zur Verbesserung der Sicherheit von KI-Systemen:

• Sensibilisierung und Schulungen im Bereich Cyber-Sicherheit
• „Threat Modelling“ und Risikobewertung
• Infrastruktursicherheit („Cloud“)
• Lieferketten- und Datensicherheit
• Tests und Validierung
• Schutz vor ML-spezifischen Angriffen
• Regelmäßige Sicherheitsupdates und Wartung
• Einhaltung internationaler Standards

Zunehmende KI-Verbreitung macht Gewährleistung ihrer Sicherheit unerlässlich

„Angesichts der zunehmenden Verbreitung von KI ist die Gewährleistung ihrer Sicherheit nicht optional, sondern unerlässlich“, betont Yuliya Shlychkova, „Vice President of Public Affairs“ bei Kaspersky, in ihrem Kommentar.

Beim IGF 2024 sei zu einem Dialog mehrerer Interessengruppen beigetragen worden, „um Standards zu definieren, die Innovationen schützen und zur Bekämpfung neuer Cyber-Bedrohungen beitragen“.

Weitere Informationen zum Thema:

kaspersky, 2024
AI TECHNOLOGY RESEARCH / Guidelines for Secure Development and Deployment of AI Systems

IGF Internet Governance Forum RIYADH 2024
19th Annual Meeting of the Internet Governance Forum / 15–19 Dec 2024 / King Abdulaziz International Conference Center (KAICC)

IGF Internet Governance Forum
IGF 2024 WS #31 Cybersecurity in AI: balancing innovation and risks