Resource
Absicherung von KI-Systemen im Automobilbereich durch proaktives Red Teaming
Ein Rahmenkonzept für überprüfbares Vertrauen in sicherheitskritisches maschinelles Lernen
Maschinelles Lernen wird zum festen Bestandteil von Fahrzeugsicherheitssystemen. Herkömmliche Validierungsmethoden reichen dafür nicht mehr aus. ADAS- und AD-Funktionen brauchen neue Sicherheitsstrategien. Diese müssen zwei Dinge abdecken: Schwachstellen in ML-Modellen und neue Bedrohungen durch gezielte Angriffe (Adversarial Attacks).
Das Risiko: verborgene ML-Fehler. Herkömmliche Tests decken sie nicht auf. Sichtbar werden sie erst im Serieneinsatz.
Die Lösung: proaktives Red Teaming, fest verankert in Ihrem Entwicklungslebenszyklus.
Über die herkömmliche Validierung hinaus.
Dieses Whitepaper stellt unser Framework für permanentes Adversarial Testing in der Automotive-KI vor. Führende OEMs lösen sich von der reaktiven Validierung. Sie setzen stattdessen auf kontinuierliche Security Assurance. Wie das gelingt, zeigen wir hier.
Was diesen Ansatz auszeichnet
Inhalt dieses Whitepapers
Das proaktive Red-Teaming-Framework
Praktische Umsetzung
Für wen dieses Whitepaper gedacht ist
Das Risiko: verborgene ML-Fehler. Herkömmliche Tests decken sie nicht auf. Sichtbar werden sie erst im Serieneinsatz.
Die Lösung: proaktives Red Teaming, fest verankert in Ihrem Entwicklungslebenszyklus.
Über die herkömmliche Validierung hinaus.
Dieses Whitepaper stellt unser Framework für permanentes Adversarial Testing in der Automotive-KI vor. Führende OEMs lösen sich von der reaktiven Validierung. Sie setzen stattdessen auf kontinuierliche Security Assurance. Wie das gelingt, zeigen wir hier.
Was diesen Ansatz auszeichnet
- Deckt Grenzfälle auf, bevor sie im Feld auftreten
- Adressiert SOTIF-Anforderungen (ISO 21448) durch systematische Adversarial-Analyse
- Entspricht der UNECE NATM (New Assessment/Test Method)
- Macht Sicherheit zum laufenden Prozess statt zum letzten Prüfschritt
Inhalt dieses Whitepapers
- Warum ML-Systeme im Fahrzeug anders versagen als klassische Software
- Häufige blinde Flecken in Wahrnehmungs-, Vorhersage- und Entscheidungsmodellen
- Wie Adversarial Attacks ML-Schwachstellen in sicherheitskritischen Kontexten ausnutzen
Das proaktive Red-Teaming-Framework
- Systematische Methoden für disziplinierte Adversarial Tests über den gesamten Entwicklungsprozess
- SOTIF-Analyse (Safety of the Intended Functionality) in der ML-Absicherung verankern
- UNECE NATM für die fortlaufende Validierung umsetzen
- Aufbau einer Kultur der kontinuierlichen Security Assurance in Automobilunternehmen
Praktische Umsetzung
- Unser bewährtes Framework für überprüfbares Vertrauen in KI
- Dauerhafte Red Teams in Entwicklungsabläufe der Automobilindustrie integrieren
- Metriken und KPIs für die Resilienz von ML-Systemen
- Roadmap: von der compliance-getriebenen zur risikobasierten KI-Absicherung
Für wen dieses Whitepaper gedacht ist
- Functional Safety Manager mit Verantwortung für ADAS und AD
- ML-Ingenieure und Data Scientists im Bereich Wahrnehmungssysteme
- Cybersecurity-Verantwortliche für KI- und ML-Systeme
- Systemarchitekten für softwaredefinierte Fahrzeugplattformen
- Compliance-Beauftragte für UN R155/R156 und ISO/SAE 21434