Resource

Absicherung von KI-Systemen im Automobilbereich durch proaktives Red Teaming

Ein Rahmenkonzept für überprüfbares Vertrauen in sicherheitskritisches maschinelles Lernen

Maschinelles Lernen wird zum festen Bestandteil von Fahrzeugsicherheitssystemen. Herkömmliche Validierungsmethoden reichen dafür nicht mehr aus. ADAS- und AD-Funktionen brauchen neue Sicherheitsstrategien. Diese müssen zwei Dinge abdecken: Schwachstellen in ML-Modellen und neue Bedrohungen durch gezielte Angriffe (Adversarial Attacks).

Das Risiko: verborgene ML-Fehler. Herkömmliche Tests decken sie nicht auf. Sichtbar werden sie erst im Serieneinsatz.

Die Lösung: proaktives Red Teaming, fest verankert in Ihrem Entwicklungslebenszyklus.

Über die herkömmliche Validierung hinaus.

Dieses Whitepaper stellt unser Framework für permanentes Adversarial Testing in der Automotive-KI vor. Führende OEMs lösen sich von der reaktiven Validierung. Sie setzen stattdessen auf kontinuierliche Security Assurance. Wie das gelingt, zeigen wir hier.

Was diesen Ansatz auszeichnet
  • Deckt Grenzfälle auf, bevor sie im Feld auftreten
  • Adressiert SOTIF-Anforderungen (ISO 21448) durch systematische Adversarial-Analyse
  • Entspricht der UNECE NATM (New Assessment/Test Method)
  • Macht Sicherheit zum laufenden Prozess statt zum letzten Prüfschritt

Inhalt dieses Whitepapers
  • Warum ML-Systeme im Fahrzeug anders versagen als klassische Software
  • Häufige blinde Flecken in Wahrnehmungs-, Vorhersage- und Entscheidungsmodellen
  • Wie Adversarial Attacks ML-Schwachstellen in sicherheitskritischen Kontexten ausnutzen

Das proaktive Red-Teaming-Framework
  • Systematische Methoden für disziplinierte Adversarial Tests über den gesamten Entwicklungsprozess
  • SOTIF-Analyse (Safety of the Intended Functionality) in der ML-Absicherung verankern
  • UNECE NATM für die fortlaufende Validierung umsetzen
  • Aufbau einer Kultur der kontinuierlichen Security Assurance in Automobilunternehmen

Praktische Umsetzung
  • Unser bewährtes Framework für überprüfbares Vertrauen in KI
  • Dauerhafte Red Teams in Entwicklungsabläufe der Automobilindustrie integrieren
  • Metriken und KPIs für die Resilienz von ML-Systemen
  • Roadmap: von der compliance-getriebenen zur risikobasierten KI-Absicherung

Für wen dieses Whitepaper gedacht ist
  • Functional Safety Manager mit Verantwortung für ADAS und AD
  • ML-Ingenieure und Data Scientists im Bereich Wahrnehmungssysteme
  • Cybersecurity-Verantwortliche für KI- und ML-Systeme
  • Systemarchitekten für softwaredefinierte Fahrzeugplattformen
  • Compliance-Beauftragte für UN R155/R156 und ISO/SAE 21434