Resource

Sicherung von KI-Systemen im Automobilbereich durch proaktives Red-Teaming

Ein Rahmenkonzept für überprüfbares Vertrauen in sicherheitskritisches maschinelles Lernen

Da maschinelles Lernen zu einem festen Bestandteil von Fahrzeugsicherheitssystemen wird, reichen herkömmliche Validierungsmethoden nicht mehr aus. ADAS- und autonome Fahrfunktionen erfordern neue Sicherheitsstrategien, die sowohl Schwachstellen in ML-Modellen als auch neu auftretende angreiferische Bedrohungen berücksichtigen.

Das Risiko? Verborgene ML-Fehler, die mit herkömmlichen Tests nicht erkannt werden können und erst nach der Bereitstellung entdeckt werden.

Die Lösung: Proaktives Red-Teaming, integriert in Ihren Entwicklungslebenszyklus.

Über die herkömmliche Validierung hinaus.

Dieses Whitepaper stellt das Framework von Critical Software für permanente adversarische Tests in der Automobil-KI vor. Sie erfahren, wie führende Hersteller von reaktiver Validierung zu kontinuierlicher Sicherheitssicherung übergehen.

Was diesen Ansatz auszeichnet

  • Deckt Randfälle auf, bevor sie in der Praxis auftreten

  • Erfüllt SOTIF-Anforderungen durch systematische adversarische Analyse

  • Entspricht den UNECE-NATM-Standards (New Assessment/Test Method)

  • Verankert Sicherheit als kontinuierlichen Prozess und nicht als abschließende Kontrollinstanz

Inhalt dieses Whitepapers

  • Warum maschinelle Lernsysteme im Automobilbereich auf eine Weise versagen, wie es bei herkömmlicher Software nicht der Fall ist

  • Häufige blinde Flecken in Wahrnehmungs-, Vorhersage- und Entscheidungsmodellen

  • Wie adversarische Angriffe ML-Schwachstellen in sicherheitskritischen Kontexten ausnutzen

Das proaktive Red-Teaming-Framework

  • Systematische Methoden für disziplinierte adversarische Tests während der gesamten Entwicklung

  • Wie man die SOTIF-Analyse (Safety of the Intended Functionality) in die ML-Sicherheitssicherung integriert

  • Implementierung der neuen Bewertungs-/Testmethode der UNECE für die fortlaufende Validierung

  • Aufbau einer Kultur der kontinuierlichen Sicherheitssicherung in Automobilunternehmen

Praktische Umsetzung

  • Das bewährte Framework von Critical Software für überprüfbares Vertrauen in KI

  • Wie man permanente Red Teams in Entwicklungsabläufe der Automobilindustrie integriert

  • Metriken und KPIs zur Messung der Resilienz von ML-Systemen

  • Roadmap für den Übergang von einer compliance-orientierten zu einer risikobasierten KI-Sicherung

Für wen dieser Artikel gedacht ist

  • Manager für funktionale Sicherheit, die die ADAS-/AD-Entwicklung beaufsichtigen

  • ML-Ingenieure und Datenwissenschaftler, die an Wahrnehmungssystemen für die Automobilindustrie arbeiten

  • Leiter der Cybersicherheit, die für die Absicherung von KI-/ML-Systemen verantwortlich sind

  • Systemarchitekten, die softwaredefinierte Fahrzeugplattformen entwerfen

  • Compliance-Beauftragte, die sich mit den Anforderungen der UNECE R155/R156 und ISO 21434 befassen