Monitores de Seguridad para Redes Neuronales: Detección Fuera de Distribuição (OOD)
Las redes neuronales de percepción son cajas negras que fallan con un exceso de confianza absurdo. Los monitores de seguridad OOD analizan capas intermedias y distancias de Mahalanobis para detectar cuándo una escena diverge del entrenamiento, frenando el vehículo antes de un choque.
Cálculo del Índice de Energía Libre para Rechazar Alucinaciones
La función softmax engaña: si un canguro salta en una autovía europea, la red lo clasificará como 'peatón' al 98% de confianza. Los monitores calculan la energía libre de Helmholtz sobre los logits brutos. Las escenas normales dan valores negativos altos; las anomalías dan valores altos, anulando la decisión.
- Distancia de Mahalanobis en el Espacio de Características: Mide la separación frente al centroide del entrenamiento.
- Puntuación OOD Basada en Energía: Aísla objetos desconocidos sin reentrenar la arquitectura central.
- Incertidumbre por Ensamblado: Discrepancias entre modelos de visión complementarios activan la alerta de baja confianza.
- Respaldo Determinista: Conmutación de la IA a mapas de ocupación basados en radar y ultrasonidos.
Explorar Portafolio de Dominios