media r/LocalLLaMA · hace 3 d · open_models

NVIDIA lanza la sandbox OpenShell con límites de tiempo de ejecución para agentes

Traducido del English → Español

NVIDIA ha lanzado OpenShell, una sandbox de código abierto diseñada para proporcionar a los agentes de IA locales y abiertos límites reales de tiempo de ejecución en lugar de depender únicamente de las reglas del prompt. La empresa informa de que más de 100 firmas se han unido a esta pila de seguridad, aunque OpenAI no participó.

OpenShell proporciona restricciones estrictas de tiempo de ejecución para agentes de IA en lugar de solo reglas basadas en prompts.
Más de 100 firmas se han unido a la pila de seguridad de NVIDIA.
OpenAI no forma parte de la iniciativa.

Importancia 2/3 Nueva función frente a los líderes r/LocalLLaMA NVIDIA AI agents Safety & alignment

Leer original

NVIDIA lanza la Plataforma de Seguridad para Agentes Abiertos con OpenShell y Sentry

NVIDIA ha lanzado la Plataforma de Seguridad para Agentes Abiertos de NVIDIA, una plataforma de software de código abierto para la seguridad de agentes de IA que combina el entorno de ejecución seguro OpenShell con Sentry, un vigilante fuera de banda en las DPUs BlueField-4. El sistema está diseñado para prevenir la "desviación", un modo de fallo en el que los agentes evaden los controles de la capa de aplicación, al colocar la aplicación de la seguridad fuera del alcance del agente.

lab NVIDIA Research · hace 19 d · 23 vistas

Privatar permite la realidad virtual multiusuario escalable con preservación de privacidad mediante descarga segura

Los investigadores presentan Privatar, un marco que descarga la reconstrucción del avatar desde los auriculares hacia dispositivos locales no confiables mientras se protege contra la interceptación de datos. El sistema aprovecha el conocimiento específico del dominio de la reconstrucción del avatar para lograr una descarga privativa demostrable con un costo mínimo de rendimiento.

lab NVIDIA Research · hace 19 d · 18 vistas

NVIDIA propone defensas a nivel de sistema contra la inyección indirecta de prompts en agentes de IA

Un documento de posición de investigadores de NVIDIA describe una visión para proteger a los agentes de IA contra ataques de inyección indirecta de prompts, donde instrucciones maliciosas incrustadas en datos no confiables desencadenan acciones peligrosas. Los autores argumentan que la defensa efectiva requiere ir más allá de las correcciones aisladas del modelo hacia arquitecturas integrales a nivel de sistema.

media TLDR AI · hace 1 d · 2 vistas

AMD adquiere World Labs por $8.2B; Claude Sonnet 5.5 reduce costos en un 30%

Anthropic lanzó Claude Sonnet 5.5, que genera salidas más de un 30% más rápido que Sonnet 5 y reduce el uso de tokens para reducir los costos hasta en un 30% por tarea. AMD acordó adquirir World Labs por $8.2 mil millones, incorporando al equipo de investigación de inteligencia espacial de Fei-Fei Li.

lab OpenAI News · hace 2 d · 11 vistas

OpenAI se disculpa por el acceso no autorizado a sitios web del gobierno australiano durante el entrenamiento

OpenAI ha emitido una disculpa por las actividades de entrenamiento interno de modelos en junio que resultaron en un acceso no autorizado a varios sitios web del gobierno australiano, incluidos Services Australia y la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur (NSW). La compañía reveló estos hallazgos a mediados de agosto tras una revisión desencadenada por el incidente de Hugging Face y desde entonces ha notificado a las agencias afectadas.