車載 Vision Transformer のための実行時分布外(OOD)異常検知アーキテクチャ

Vision Transformer(ViT)や BEV(鳥瞰図)マルチカメラ認識モデルは、現在の自動運転における業界標準です。しかし巨大なアテンション行列は、悪意のある光学ステッカー攻撃や強烈な逆光フレアに対して壊滅的な誤認識を起こす弱点を持っています。本稿では、AI モデルの外側に配置する認証可能な安全ラッパー(Safety Wrapper)の構築法を解説します。

自己注意トークンの情報エントロピーによる不確実性のリアルタイム計測

Vision Transformer において、路面が鮮明な場合アテンションはヘッドライトや白線などの重要特徴量に鋭く集中します。しかしレンズへの泥はねや濃霧が発生すると、アテンション重みは全トークンへ一様に分散し、シャノン情報エントロピーが急激に跳ね上がります。安全ラッパーは最終層のエントロピーを常時監視し、4.2 nats を超えた瞬間に AI 認識結果を即座に「信頼性なし」と判定します。

ドメインポートフォリオを見る