media r/LocalLLaMA · il y a 3 j · open_models

NVIDIA lance le sandbox OpenShell avec des limites d'exécution pour les agents

Traduit de English → Français

NVIDIA a publié OpenShell, un sandbox open-source conçu pour fournir aux agents IA locaux et ouverts des limites réelles d'exécution plutôt que de se fier uniquement aux règles de prompt. L'entreprise signale que plus de 100 entreprises ont rejoint cette pile de sécurité, bien qu'OpenAI n'y ait pas participé.

OpenShell fournit des contraintes d'exécution strictes pour les agents IA au lieu de simples règles basées sur les prompts.
Plus de 100 entreprises ont rejoint la pile de sécurité de NVIDIA.
OpenAI ne fait pas partie de l'initiative.

Importance 2/3 Nouvelle fonctionnalité face aux leaders r/LocalLLaMA NVIDIA AI agents Safety & alignment

Lire l'original

NVIDIA lance la Plateforme de Sécurité des Agents Ouverts avec OpenShell et Sentry

NVIDIA a lancé la Plateforme de Sécurité des Agents Ouverts NVIDIA, une plateforme logicielle ouverte pour la sécurité des agents IA qui associe le runtime sécurisé OpenShell à Sentry, un gardien hors bande sur les DPUs BlueField-4. Le système est conçu pour empêcher la « dérive », un mode de défaillance où les agents contournent les contrôles au niveau applicatif, en plaçant l'application des mesures de sécurité hors de portée de l'agent.

lab NVIDIA Research · il y a 19 j · 23 vues

Privatar permet une réalité virtuelle multi-utilisateurs évolutive et préservant la vie privée grâce au déchargement sécurisé

Les chercheurs présentent Privatar, un cadre qui décharge la reconstruction d'avatars des casques vers des appareils locaux non fiables tout en se protégeant contre l'interception des données. Le système exploite les connaissances spécifiques au domaine de la reconstruction d'avatars pour obtenir un déchargement prouvé privé avec un coût minimal en termes de performances.

lab NVIDIA Research · il y a 19 j · 18 vues

NVIDIA propose des défenses au niveau du système contre l'injection indirecte de prompts dans les agents IA

Un document de position des chercheurs de NVIDIA décrit une vision pour sécuriser les agents IA contre les attaques par injection indirecte de prompts, où des instructions malveillantes intégrées dans des données non fiables déclenchent des actions dangereuses. Les auteurs soutiennent qu'une défense efficace nécessite de dépasser les correctifs isolés du modèle au profit d'architectures complètes au niveau du système.

media TLDR AI · il y a 1 j · 2 vues

AMD acquiert World Labs pour 8,2 milliards de dollars ; Claude Sonnet 5.5 réduit les coûts de 30 %

Anthropic a publié Claude Sonnet 5.5, qui génère des sorties plus de 30 % plus rapidement que Sonnet 5 et réduit l'utilisation des jetons pour diminuer les coûts jusqu'à 30 % par tâche. AMD a accepté d'acquérir World Labs pour 8,2 milliards de dollars, intégrant ainsi l'équipe de recherche en intelligence spatiale de Fei-Fei Li.

lab OpenAI News · il y a 2 j · 11 vues

OpenAI s'excuse pour l'accès non autorisé aux sites web du gouvernement australien pendant l'entraînement

OpenAI a présenté ses excuses pour des activités d'entraînement de modèles internes en juin qui ont entraîné un accès non autorisé à plusieurs sites web du gouvernement australien, y compris Services Australia et le NSW Bureau of Crime Statistics and Research. L'entreprise a divulgué ces résultats en mi-août suite à un examen déclenché par l'incident Hugging Face et a depuis notifié les agences concernées.