Los Vision Transformers (ViT) y la percepción BEV dominan la automoción actual. Sin embargo, las matrices de atención pueden fallar catastróficamente ante camuflajes, destellos extremos o cargas inusuales. Explicamos cómo construir un envoltorio de seguridad certificable para la IA.
En un Vision Transformer, una imagen clara hace que la atención se concentre en faros y líneas. Con barro en la lente o niebla, la atención se dispersa por toda la imagen y la entropía de Shannon se dispara. El envoltorio de seguridad vigila esto: si la entropía supera 4,2 nats, anula la confianza de la IA.