arxiv arXiv cs.LG · hace 90 d · research

La telemetría de cero sobrecarga detecta el entrenamiento oculto de ML

Traducido del English → Español

Un estudio evalúa la clasificación de cargas de trabajo de GPU utilizando únicamente telemetría NVML de cero sobrecarga. El clasificador logra una precisión del 98,2% en la identificación de cargas de trabajo de entrenamiento y una precisión del 43-87% frente a cargas de trabajo adversarialmente disfrazadas e inesperadas en 9 modelos de GPU.

Importancia 3/3 Nuevo entorno de evaluación con diferenciadores arXiv cs.LG NVIDIA Evaluation & benchmarks Hardware & chips Safety & alignment

Leer original

NVIDIA introduce Computación Confidencial para inferencia de IA segura

NVIDIA ha diseñado NVIDIA Confidential Computing (CC) como una solución para abordar las preocupaciones de privacidad, soberanía y seguridad de datos durante la inferencia de modelos de IA. La tecnología está diseñada para proporcionar un entorno seguro para procesar datos mientras están en uso, dirigiéndose específicamente a las necesidades de aplicaciones de IA agéntica. Este enfoque tiene como objetivo permitir que las organizaciones adopten la IA sin comprometer la seguridad o el rendimiento.

arxiv arXiv cs.AI · hace 89 d · 6 vistas

CRAX: Benchmarking rápido y seguro de aprendizaje por refuerzo

CRAX introduce un benchmark de seguridad acelerado y de alta fidelidad para el aprendizaje por refuerzo utilizando MuJoCo XLA. Logra aceleraciones de hasta 100x sobre benchmarks basados en CPU mediante vectorización y aceleración por hardware, presentando seis conjuntos de entornos y tres tareas específicas del agente en tres niveles de dificultad. La evaluación de seis métodos de RL seguro muestra que ningún enfoque domina, destacando los compromisos entre rendimiento y seguridad, con el aprendizaje por currículo y la transferencia de seguridad mejorando los resultados.

arxiv arXiv cs.LG · hace 89 d · 5 vistas

CRAX: Benchmarking rápido y seguro de aprendizaje por refuerzo

CRAX introduce un benchmark de seguridad de alta fidelidad y rápido para el aprendizaje por refuerzo utilizando MuJoCo XLA. Logra aceleraciones de hasta 100x sobre benchmarks basados en CPU mediante vectorización y aceleración de hardware, presentando seis conjuntos de entornos y tres tareas específicas del agente en tres niveles de dificultad. La evaluación de seis métodos de RL seguro muestra que ningún enfoque domina, destacando los compromisos entre rendimiento y seguridad, con el aprendizaje por currículo y la transferencia de seguridad mejorando los resultados.

lab NVIDIA Research · hace 11 h · 3 vistas

ShareMMU permite el intercambio seguro de traducción de direcciones entre aceleradores no confiables con baja sobrecarga

Los investigadores presentan ShareMMU, un diseño de IOMMU que permite a múltiples aceleradores no confiables reutilizar de forma segura direcciones previamente traducidas dentro de un espacio de direcciones virtuales compartido. Este enfoque mitiga los riesgos de canales laterales asociados con grandes búferes de traducción compartidos (TLB) mientras mantiene un alto rendimiento.

media Hugging Face Forums · hace 1 d · 4 vistas

Qwen-Scope y Gemma Scope 2 muestran que la conciencia de evaluación tiene ocho direcciones, no una

Un estudio que utiliza EvalAwareBench prueba si los modelos de lenguaje usan una única dirección compartida o múltiples detectores específicos de señal para identificar contextos de evaluación. La investigación activó independientemente ocho factores desencadenantes en 1.298 prompts mientras mantenía fijas las tareas y entidades subyacentes.