Sicherheitsmonitore fuer neuronale Netze: Laufzeit-Erkennung von Out-of-Distribution (OOD)
Tiefe neuronale Netze in der Wahrnehmung sind Blackboxes, die oft mit fataler Scheinsicherheit falsche Entscheidungen treffen. OOD-Sicherheitsmonitore pruefen Zwischenschichten auf Mahalanobis-Distanzen, erkennen unbekannte Szenen sofort und loesen Schutzmechanismen aus.
Berechnung des Free-Energy-Scores gegen Halluzinationen
Klassisches Softmax taeuscht: Ein Kaenguru auf der Autobahn wird stur mit 98 % Konfidenz als 'Fussgaenger' eingestuft. Energie-Monitore berechnen die Helmholtz-Freie-Energie ueber die Roh-Logits: Bekannte Bilder erzeugen stark negative Energiewerte; unbekannte Anomalien hohe Energie – der Ausfall wird abgefangen.
- Mahalanobis-Distanz im Feature-Raum: Misst die Abweichung zu den Schwerpunkten bekannter Trainingsdaten.
- Energiebasierte OOD-Scores: Identifiziert unbekannte Objekte zuverlaessig ohne Nachtraining des Backbones.
- Ensemble-Unschaerfebestimmung: Diskrepanzen zwischen unabhaengigen Modellen entlarven truegerische Konfidenz.
- Deterministisches Fallback: Umschalten von tiefer KI auf fehlerfreie Radar- und Ultraschall-Belegungsgitter.
Domain-Portfolio entdecken