Fundierte Analysen
State of AI Security Report 2024
Zahlen und Einblicke zur Verbreitung von KI-Risiken in der Cloud
Milliarden gescannter Cloud-Assets, Dutzende Erkenntnisse zur KI-Sicherheit
Der State of AI Security Report 2024 deckt KI-Sicherheitsrisiken in realen Produktionsumgebungen über AWS, Azure, Google Cloud, Oracle Cloud und Alibaba Cloud hinweg auf.
Der State of AI Security Report 2024 von Orca liefert wertvolle Einblicke darüber, wie verbreitet die OWASP Machine Learning Security Top 10-Risiken in realen Produktionsumgebungen sind. Wenn Entwickler und Security-Teams das Auftreten dieser Risiken besser verstehen, können sie ihre KI-Modelle wirksamer vor Angreifern schützen. Jeder, der sich mit KI- oder ML-Sicherheit befasst, zieht enormen Mehrwert aus dieser Studie.“
Shain Singh, Co-Projektleiter der OWASP ML Security Top 10
Erkenntnis Nr. 1: KI-Entwicklung beschleunigt sich rasant
Die KI-Adoptionsraten sind hoch; die meisten Unternehmen nutzen die Technologie zur Entwicklung eigener Lösungen. Das erfordert erhebliche Investitionen und ein strategisches Bekenntnis zur Technologie.
56%
der Unternehmen nutzen KI, um eigene, maßgeschneiderte Anwendungen zu entwickeln
Erkenntnis Nr. 2: Standardeinstellungen von Cloud-Providern bergen Sicherheitsrisiken
Viele Standardeinstellungen priorisieren das Tempo der KI-Entwicklung gegenüber wichtigen Sicherheitsaspekten – was zu vermeidbaren Risiken führt. Hier sind nur drei von vielen Beispielen:
27%
der Unternehmen, die Azure OpenAI nutzen, haben ihre Accounts nicht mit privaten Endpunkten konfiguriert
45%
der Amazon SageMaker-Buckets nutzen die Standard-Namenskonvention für Buckets
98%
der Unternehmen, die Google Vertex AI nutzen, haben keine Encryption at Rest für ihre selbstverwalteten Verschlüsselungsschlüssel aktiviert
Erkenntnis Nr. 3: Auch KI ist von Schwachstellen betroffen
Die meisten Unternehmen haben KI-Pakete implementiert, die mindestens eine CVE enthalten. Während die meisten ein geringes bis moderates Risiko darstellen, kann selbst eine einzige CVE einen hochkritischen Angriffspfad eröffnen.
62%
der Unternehmen haben ein KI-Paket mit mindestens einer CVE implementiert
In vielerlei Hinsicht befindet sich KI heute in einer Phase, die an Cloud Computing vor über einem Jahrzehnt erinnert. Glücklicherweise sind wir heute besser darauf vorbereitet, neue KI-Technologien und -Modelle abzusichern. Bewusstsein und Aufklärung spielen dabei eine zentrale Rolle – genau deshalb veröffentlichen wir diesen ersten Bericht.“
Gil Geron
CEO und Mitgründer von Orca Security
Vollständigen Report herunterladen
Basierend auf Daten von Januar bis August 2024 analysiert der State of AI Security Report 2024 die Sicherheit bereitgestellter KI-Modelle und deckt die größten KI-Risiken in Cloud-Services auf.
Gewinnen Sie wichtige Einblicke in den aktuellen und künftigen Stand der KI-Sicherheit, darunter:
- Adoption von KI-Services, Paketen und Modellen
- Schwachstellen in KI-Anwendungen
- Exponierte KI-Modelle
- Unsicherer Zugriff
- Fehlkonfigurationen
- Verschlüsselung
- Herausforderungen in der KI-Sicherheit
- Wichtige Handlungsempfehlungen