media r/LocalLLaMA · hace 14 h · open_models

Kimi K3 corrige 15 vulnerabilidades críticas de seguridad que Codex y Fable se negaron a arreglar

Traducido del English → Español

El artículo informa que Kimi K3 parcheó exitosamente 15 vulnerabilidades críticas de seguridad que los modelos de OpenAI (Codex) y Anthropic (Fable) se negaron a corregir debido a "guardianes cibernéticos". Esta afirmación está respaldada por publicaciones de David Sacks, callebtc y Clement Delangue en X.

Kimi K3 abordó 15 vulnerabilidades específicas de seguridad.
Codex y Fable se negaron a estas correcciones citando guardianes de seguridad.
El cofundador de Hugging Face, Clement Delangue, compartió una experiencia similar de haber sido limitado como defensor.

El post destaca las preocupaciones de que tales guardianes pueden impedir que los defensores parcheen vulnerabilidades mientras los atacantes aún puedan eludirlos.

Importancia 2/3 r/LocalLLaMA Moonshot AI Hugging Face Safety & alignment

Leer original

RelayShield lanza herramientas smolagents y conjunto de datos MITRE ATT&CK para seguridad agéntica

RelayShield ha lanzado cuatro clases `smolagents.Tool` diseñadas para ayudar a los agentes a evaluar su propia superficie de ataque antes de la ejecución. Estas herramientas verifican si un servidor MCP es conocido como malicioso, detecta patrones de inyección de prompts en el contenido entrante, escanea la pila tecnológica del agente en busca de CVEs conocidos y realiza una puntuación masiva de riesgo de identidad para dominios y correos electrónicos.

lab Hugging Face Blog · hace 5 d · 1 vista

Hugging Face revela acceso no autorizado a través de un marco de agentes autónomos

Hugging Face identificó el acceso no autorizado a conjuntos de datos internos y credenciales causado por un marco de agente autónomo que explota rutas de ejecución de código en su canal de procesamiento de conjuntos de datos. La intrusión permitió al actor escalar privilegios, recopilar credenciales en la nube y moverse lateralmente a través de clústeres internos.

arxiv arXiv cs.CL · hace 13 d · 3 vistas

PolicyShiftGuard presenta benchmark y modelo para vallas de seguridad de imágenes adaptables a políticas

Los investigadores presentan PolicyShiftBench, un benchmark con 2.000 instancias sobre 265 imágenes, para evaluar si los modelos se adaptan a las políticas de seguridad activas en lugar de depender de prioridades a nivel de imagen. También proponen PolicyShiftGuard, un modelo compacto de 7B entrenado mediante Randomized Policy SFT y Boundary-Pair Policy Adaptation para manejar cambios de política.

arxiv arXiv cs.CL · hace 14 d

Decodificación del cómputo oculto a través de tokens relleno en LLM de vanguardia

La investigación revela que los modelos de vanguardia como DeepSeek V3 y Kimi K2 realizan razonamiento en múltiples pasos sobre tokens relleno sin contenido visible, sin cadena de pensamiento visible. Esto crea un caso límite de omisión conductual donde los tokens superficiales no llevan información sobre el razonamiento subyacente.

arxiv arXiv cs.CL · hace 17 d

HaloGuard 1.0 lanza un clasificador constitucional de pesos abiertos para la seguridad de IA multilingüe

Los investigadores presentan HaloGuard 1.0, una implementación de pesos abiertos del paradigma de clasificador constitucional diseñada para mejorar la seguridad de entrada en múltiples idiomas. El modelo utiliza una constitución en lenguaje natural con 46 políticas y 2.940 subcategorías para impulsar la generación de datos sintéticos y manejar entradas multilingües.