Monitor di sicurezza per reti neurali: rilevamento di dati fuori distribuzione (OOD)
Le reti neurali di percezione sono scatole nere che possono sbagliare con incrollabile presunzione. I monitor di sicurezza OOD analizzano i vettori intermedi e la distanza di Mahalanobis per capire quando la strada non somiglia a nulla visto nei dati di addestramento.
Calcolo dell'indice di energia libera per rigettare le allucinazioni
Il softmax standard inganna: un canguro su un'autostrada innevata verrebbe etichettato come 'pedone' con il 98% di certezza. I monitor valutano l'energia libera di Helmholtz sui logit grezzi. Le scene note producono valori fortemente negativi; le anomalie generano valori alti, bloccando l'output pericoloso.
- Distanza di Mahalanobis nello spazio delle feature: Misura la divergenza dai centroidi del dataset di training.
- Punteggio OOD basato sull'energia: Rileva oggetti anomali senza dover riaddestrare l'intera rete neurale.
- Stima dell'incertezza con ensemble: La discrepanza tra diverse architetture di visione segnala scarsa affidabilità .
- Fallback deterministico: Passaggio dall'IA predittiva a griglie di occupazione radar e ultrasoniche pure.
Esplora il portafoglio di domini