Un nuevo estudio revela brechas significativas de seguridad y equidad en modelos de voz multilingües, encontrando que solo el 8% de los lanzamientos de última generación documentan algún análisis multilingüe. Para abordar esto, los autores presentan RedVox, un benchmark construido con voces reales que cubren solicitudes inseguras en cinco idiomas.
- RedVox evalúa ocho modelos de última generación utilizando voces reales y solicitudes estereotípicas en inglés, francés, italiano, español y alemán.
- Las vulnerabilidades persisten bajo condiciones no adversariales y empeoran en idiomas distintos al inglés en comparación con el inglés.
- Los riesgos se amplifican cuando la solicitud insegura se entrega mediante entrada hablada en lugar de texto.
- El estudio documenta los desafíos de privacidad asociados con la recopilación de datos de voz de participantes humanos.
Esta investigación destaca la urgente necesidad de evaluaciones rigurosas de seguridad multilingüe y aborda las dificultades sociotécnicas de realizar investigaciones de seguridad de voz naturalista.