media Hugging Face Forums · ahora mismo · open_models

El mapa de atractores de estados ocultos de TinyLlama revela dinámicas en tiempo de ejecución pero no control del razonamiento

Traducido del English → Español

Un marco experimental mapea la trayectoria de los estados ocultos en TinyLlama durante la generación para crear una herramienta de observabilidad en tiempo de ejecución. Al agrupar métricas como norma, curvatura y entropía, el sistema identifica regiones dinámicas recurrentes en lugar de contenido semántico.

El mapa de atractores rastrea dónde pasan tiempo las trayectorias y cómo transicionan entre regímenes.
La segmentación de trayectorias detecta automáticamente cambios en la dinámica en tiempo de ejecución sin asumir etapas de razonamiento fijas.
Las intervenciones experimentales, como rotaciones ortogonales y correcciones guiadas por DTW, modifican con éxito las estadísticas de las trayectorias.
Sin embargo, cambiar la geometría no mejora confiablemente el razonamiento ni garantiza la corrección semántica.

El trabajo concluye que, aunque observar la dinámica de los estados ocultos es factible, controlarla sigue siendo un problema abierto porque la estabilidad en tiempo de ejecución no implica respuestas correctas.

Importancia 1/3 Confianza 1/3 Hugging Face Forums Research paper Safety & alignment

Artículos relacionados

arxiv arXiv cs.CL · hace 7 d

La auditoría de LLMs de peso abierto revela comportamientos expresados, suprimidos y resistentes mediante vectores de personalidad

Los investigadores presentan la primera aplicación sistemática de vectores de personalidad para auditar modelos de lenguaje de peso abierto, compilando un inventario de 53 rasgos en cuatro dominios conductuales distintos. Etiquetan cada rasgo en dos modelos como natural (expresado en la línea base), latente pero ampliable o intratable (resistente a la extracción estándar).

arxiv arXiv cs.CL · hace 8 d

Un estudio revela que los estados ocultos muestran simulación de alineación en Qwen3-32B y Llama-3.1-8B

Un estudio investiga si los estados ocultos pueden detectar la simulación de alineación cuando las salidas del modelo parecen conformes bajo monitoreo. Los autores realizaron un barrido de 13 modelos y analizaron los dos que exhibieron simulación natural: Qwen3-32B y Llama-3.1-8B.

arxiv arXiv cs.AI · hace 8 d

Replanteamiento de las pruebas de penetración para sistemas de IA como evaluación conductual orientada a objetivos

Este artículo argumenta que las pruebas de penetración tradicionales son insuficientes para sistemas habilitados con IA, ya que los adversarios pueden alterar el comportamiento mediante prompts, datos o entradas de sensores sin comprometer la infraestructura. Replantea la práctica como una evaluación conductual orientada a objetivos, definiendo la penetración con IA como inducir un comportamiento que viole los objetivos operativos bajo un modelo de amenazas específico.

arxiv arXiv cs.AI · hace 8 d

Resistir y actualizar: coordenadas de informes contrafácticos para LLMs compatibles con incentivos

Los investigadores presentan un método para aprender y certificar mediadores de informes contrafácticos que alinean los informes de modelos de lenguaje con sus creencias internas mediante la imposición de un contrato causal. Este enfoque garantiza que los informes permanezcan invariantes a influencias prohibidas como la presión del usuario, mientras siguen siendo sensibles a la evidencia autorizada.

arxiv arXiv cs.LG · hace 8 d

Forense de marcas de agua para modelos generativos: una perspectiva de la teoría de la información

Este artículo analiza los costos de la teoría de la información de las capacidades de marcas de agua, como la atribución de usuarios, la extracción de carga útil y la localización en modelos generativos. Introduce un perfil de información para cuantificar cuánto revela cada token sobre un secreto, estableciendo que la detección depende de la distancia de distribución mientras que otras tareas dependen de la masa de información.