Der Markt für autonome maritime Systeme wächst stetig. Hochautomatisierte Wasserfahrzeuge übernehmen Aufgaben wie Gütertransport, Küstenüberwachung, Meeresforschung, Umweltmonitoring und Hafenlogistik. Diese Systeme nutzen künstliche Intelligenz zur Objekterkennung und Navigation. Allerdings können KI-Komponenten unvorhersehbare Entscheidungen treffen oder kritische Objekte fehlklassifizieren. Diese Herausforderungen werden von bestehenden Sicherheitsstandards nur unzureichend adressiert. Praxistaugliche Methoden zur Risikoanalyse von KI in maritimen Hochautomatisierungssystemen fehlen weitgehend.
Wir entwickeln in SIMAS eine Methodik, die eine praxisfähige Risikoanalyse von KI-Systemen ermöglicht und dabei die spezifischen Anforderungen sowohl der maritimen Industrie als auch die Anforderungen an KI berücksichtigt.
Bayessche Netze und FMEA zur Analyse von KI-Fehlklassifikationen
Im Projekt zur »Entwicklung einer Methodik zur Analyse und Bewertung der Sicherheit maritimer autonomer Systeme (SIMAS)« entwickeln wir eine neue Methodik, die klassische Sicherheitsanalysen mit probabilistischer Modellierung verbindet. Der Ansatz basiert auf der direkten Integration von KI-Leistungsdaten, konkret Confusion Matrices aus der Objektklassifikation, in die Wahrscheinlichkeitstabellen Bayesscher Netze. Diese werden systematisch mit einer Fehlermöglichkeits- und Einflussanalyse (FMEA) verknüpft. Dadurch lässt sich nachvollziehen, wie Fehlklassifikationen eines KI-Systems durch die Systemarchitektur propagieren und welche Auswirkungen sie auf die Gesamtsicherheit haben.
Die Methodik berücksichtigt auch externe Faktoren wie Wetterbedingungen, Seegang oder optische Störungen und ordnet Fehlklassifikationen Schwerekategorien nach MIL-STD-882E zu.
Transparente Risikoquantifizierung für die Digitalisierung
Der Ansatz ermöglicht What-if-Analysen und Designoptimierungen bereits in frühen Entwicklungsphasen. Entwickler können verschiedene Szenarien simulieren, Schwachstellen identifizieren und den Einfluss von Verbesserungen wie einer gesteigerten Erkennungsrate unmittelbar quantifizieren. Die Ergebnisse leisten einen Beitrag zur Sicherheitsargumentation und helfen dabei, die Akzeptanz autonomer Systeme bei Zulassungsbehörden und Klassifikationsgesellschaften zu erhöhen.
Nachvollziehbare, quantitative Sicherheitsbewertung
Die Methodik bietet Entwicklern und Betreibern maritimer autonomer Systeme einen entscheidenden Vorteil: Sie ermöglicht eine nachvollziehbare, quantitative Sicherheitsbewertung, die auch bei steigender Systemkomplexität mit vertretbarem Aufwand durchführbar ist. Industriekunden profitieren von kürzeren Zulassungszyklen, reduzierten Entwicklungsrisiken und einer belastbaren Argumentationsgrundlage gegenüber Regulierungsbehörden. Der Ansatz ist auf weitere KI-Komponenten wie Navigations- und Routenplanung übertragbar und adressiert damit einen wachsenden Markt in der maritimen Industrie, der Offshore-Energiewirtschaft und darüber hinaus.
Mithilfe von Simulationen und experimentellen Tests wird die Praxistauglichkeit validiert und der Grundstein für eine robuste Sicherheitsbewertung KI-gestützter maritimer Systeme gelegt.
Fraunhofer-Institut für Betriebsfestigkeit und Systemzuverlässigkeit LBF