Moniteurs de sécurité pour réseaux de neurones : détection hors distribution (OOD)
Les réseaux de neurones pour la perception sont des boîtes noires capables d'erreurs majeures avec une surconfiance tragique. Les moniteurs de sécurité OOD mesurent la distance de Mahalanobis pour repérer un décor non appris et déclencher les sécurités.
Calcul du score d'énergie libre pour éliminer les hallucinations
Le softmax conventionnel est biaisé : un kangourou sur une autoroute verglacée sera classé 'piéton' avec 98 % d'assurance. Les moniteurs évaluent l'énergie libre de Helmholtz sur les logits bruts. Les scènes apprises affichent une énergie très négative ; les anomalies détonnent et sont rejetées.
- Distance de Mahalanobis sur l'espace latent : Mesure l'éloignement par rapport aux centroïdes d'apprentissage.
- Score OOD fondé sur l'énergie : Isole les objets inédits sans réentraîner le modèle de base.
- Estimation d'incertitude par ensemble : La divergence entre plusieurs réseaux signale une perte de confiance.
- Bascule de secours déterministe : Passage de l'IA neuronale à des grilles d'occupation radar/ultrasons.
Explorer le portefeuille de domaines