Los investigadores investigan por qué los modelos visión-lenguaje (VLM) tienen dificultades con el conteo de objetos a pesar de codificar correctamente los conteos internamente.
- Entrenar sondas en activaciones de cuatro VLM en cinco conjuntos de datos muestra que los modelos a menudo codifican el conteo correcto incluso al dar una respuesta incorrecta.
- El análisis SVCCA revela que las sondas entrenadas con conteos de referencia y salidas del modelo ocupan un subespacio de activaciones parcialmente compartido pero se leen a lo largo de direcciones desalineadas.
- La intervención de dirección causal demuestra que fortalecer la dirección identificada por las sondas de conteo mejora el rendimiento de conteo.
- Un método de autocorrección guiado por detector vuelve a solicitar al modelo solo cuando un detector interno de errores predice un fallo.
Esta intervención durante la inferencia mejora la precisión del conteo hasta en 15,6 puntos porcentuales absolutos sin ninguna actualización de parámetros, estableciendo la sonda de errores basada en activaciones como una herramienta práctica para mejorar los VLM.