자율주행 영상 인식에 쓰이는 딥러닝 신경망은 본질적으로 해석 불가능한 블랙박스이며, 전혀 학습되지 않은 위험 물체에 대해서도 99%의 높은 신뢰도로 잘못된 판단을 내릴 수 있습니다. 런타임 OOD(분포 외) 안전 모니터는 신경망 중간 계층의 고차원 특징 벡터에서 마할라노비스 거리를 실시간 연산하여, 학습 데이터와 동떨어진 이상 입력 감지 즉시 안전 보호막을 전개합니다.
기존의 소프트맥스(Softmax) 계층은 극심한 과신(Overconfidence) 문제를 내포합니다. 눈 덮인 도로에 캥거루가 나타났을 때 소프트맥스는 이를 98%의 신뢰도로 '보행자'로 강제 분류하는 오류를 범합니다. 에너지 기반 안전 모니터는 비정규화된 원시 로짓(Logit) 벡터에서 헬름홀츠 자유 에너지를 직접 연산합니다. 학습된 정상 영상은 강한 음수 에너지를 나타내지만 미학습 이상 물체는 급격히 높은 에너지를 방출하므로, 안전 관리자가 신경망의 판단을 즉시 거부하고 비상 제동을 전개할 수 있습니다.