Мониторы безопасности нейросетей: обнаружение данных Out-of-Distribution (OOD) в реальном времени
Глубокие нейросети в машинном зрении автопилота — черные ящики, которые могут с абсолютной уверенностью выдавать опасные ошибки. Мониторы безопасности OOD оценивают расстояние Махаланобиса на скрытых слоях, выявляя незнакомые дорожные картины и включая защиту до столкновения.
Расчет показателя свободной энергии для подавления галлюцинаций ИИ
Обычный Softmax дает опасную погрешность: кенгуру на заснеженной трассе будет классифицирован как «пешеход» с уверенностью 98%. Мониторы безопасности вычисляют свободную энергию Гельмгольца по сырым логитам. Знакомые картины дают отрицательную энергию, а незнакомые аномалии — высокую энергию, позволяя заблокировать команду до аварии.
- Расстояние Махаланобиса в пространстве признаков: Измерение отклонения от центроидов обучающей выборки.
- Энергетическая оценка OOD: Выявление незнакомых предметов без необходимости переобучения всей нейросети.
- Оценка неопределенности ансамблем: Расхождение между разными моделями зрения сигнализирует о низком доверии.
- Детерминированный аварийный fallback: Переключение с нейросетей на надежные карты занятости от радаров и ультразвука.
Исследовать портфель доменов