Monitores de Segurança para Redes Neurais: Detecção de Desvios Fora da Distribuição (OOD)
Redes neurais para visão são caixas pretas que erram com certeza absoluta. Monitores de segurança OOD analisam camadas intermediárias e distância Mahalanobis para detectar quando a imagem da câmera foge do treinamento, acionando o freio de segurança a tempo.
Calculando o Escore de Energia Livre para Rejeitar Alucinações
O softmax comum mente: se um canguru aparecer na rodovia sueca, a IA força o rótulo de 'pedestre' com 98% de certeza. Monitores de energia usam a fórmula de Helmholtz sobre os logits. Imagens conhecidas geram energia negativa alta; anomalias inéditas geram energia alta, permitindo vetar o comando a tempo.
- Distância Mahalanobis no Espaço de Features: Mede a distância para o centroide das imagens de treino.
- Pontuação OOD por Energia: Detecta objetos bizarros e inéditos sem precisar retreinar a rede inteira.
- Estimativa por Ensemble: Divergência entre redes neurais diferentes alerta queda imediata de confiança.
- Fallback Gracioso: Troca a visão de IA por grades de ocupação determinísticas de radar e ultrassom.
Explorar Portfólio de Domínios