深度神经网络安全监视器:运行时分布外(OOD)异常检测与置信度不确定度量化

在自动驾驶计算机视觉感知中广泛采用的深度卷积神经网络与视觉 Transformer,本质上属于缺乏形式化数学可解释性的“黑盒”模型,它们最致命的缺陷在于常常以 99% 的荒谬高置信度输出完全错误的物体分类!基于运行时的分布外(OOD,Out-of-Distribution)安全监视器,实时截取神经网络隐藏层的高维特征嵌入向量,计算马氏距离(Mahalanobis Distance)与基于能量的模型不确定度得分,在车辆遭遇完全未见过的诡异路况瞬间精准识别出“AI 正在胡言乱语”,并在撞车前毫秒级激活底盘安全包络守护机制。

基于自由能量函数(Free Energy Score)数学拒绝神经网络视觉幻觉

传统的深度学习 Softmax 归一化层存在严重的过置信度失真缺陷:当一只此前从未出现在训练集中的袋鼠突然跃上北欧的冰雪高速公路时,Softmax 往往会强行将其归类为已有目标类别(例如“行人”),并荒唐地附带高达 98% 的极高置信度!基于能量的底层安全监视器直接绕过 Softmax,在未经归一化的原始 Logits 输出向量上计算亥姆霍兹自由能(Helmholtz Free Energy):对于处于已知训练分布内的常见道路场景,能量函数输出绝对值极大的负值;而一旦画面中出现完全未知的视觉异常,能量数值将瞬间急剧飙升,底盘安全仲裁守护进程依据这一异常能量阶跃,能够在 10 毫秒内瞬间一票否决神经网络的危险决策,全面捍卫乘客生命安全。

浏览域名资产