自動運転の認識に使われるディープニューラルネットワークはブラックボックスであり、全く未学習の危険な物体に対しても「99% の確率で安全」と過信した誤出力を下すリスクがあります。OOD（分布外）安全モニターは、中間特徴量空間におけるマハラノビス距離やエネルギースコアを常時算出し、学習データと乖離した未知の視覚入力をミリ秒単位で検知して安全装置を作動させます。
一般的な Softmax 出力は致命的な過信のバグを孕んでいます。学習データにないカンガルーが高速道路に現れた場合でも、Softmax は 98% の確信度で「歩行者」と誤判定してしまいます。エネルギーベースの安全モニターは、Softmax を通す前の生 Logits 値に対してヘルムホルツ自由エネルギーを計算。既知の画像は負の極小値を示し、未知の異常画像は高いエネルギースコアを叩き出すため、安全マネージャーが即座に異常を検知し AI 出力を遮断できます。