media MarkTechPost · 2 hari lalu · releases

NVIDIA meluncurkan Platform Keamanan Agen Terbuka dengan OpenShell dan Sentry

Diterjemahkan dari English → Bahasa Indonesia

NVIDIA telah meluncurkan Platform Keamanan Agen Terbuka NVIDIA, sebuah platform perangkat lunak terbuka untuk keamanan agen AI yang menggabungkan runtime aman OpenShell dengan Sentry, sebuah pengawas out-of-band pada BlueField-4 DPUs. Sistem ini dirancang untuk mencegah "drift," yaitu mode kegagalan di mana agen menghindari kontrol lapisan aplikasi, dengan menempatkan penegakan keamanan di luar jangkauan agen.

OpenShell menyediakan sandbox terisolasi untuk agen menggunakan Docker, Podman, MicroVM, atau Kubernetes, dengan aturan jaringan dan penyedia yang dapat dimuat ulang secara dinamis.
Sentry berjalan pada BlueField-4 DPUs untuk memeriksa permintaan, memberikan telemetri terverifikasi, dan menerapkan akses zero-trust sambil tetap terisolasi dari host.
Platform ini mengklaim kinerja sandbox hingga 80% lebih cepat pada CPU NVIDIA Vera dibandingkan infrastruktur CPU tradisional.
OpenShell tersedia di bawah lisensi Apache 2.0 untuk Linux, macOS, dan Windows WSL 2, dengan dukungan bawaan untuk Claude Code, Codex, dan GitHub Copilot CLI.

Platform ini bertujuan mengatasi keamanan agen dengan memastikan bahwa kontrol tidak dapat dinonaktifkan oleh runtime yang telah disusupi, dengan lebih dari 100 organisasi termasuk Anthropic dan SpaceXAI bekerja sama dengan sistem tersebut.

Kepentingan 2/3 Kerangka evaluasi baru dengan pembeda MarkTechPost NVIDIA AI agents Safety & alignment

Artikel terkait

media r/LocalLLaMA · 3 hari lalu · 4 tayangan

NVIDIA merilis sandbox OpenShell dengan batas runtime untuk agen

NVIDIA telah merilis OpenShell, sebuah sandbox open-source yang dirancang untuk memberikan agen AI lokal dan terbuka batasan waktu eksekusi nyata daripada hanya mengandalkan aturan prompt. Perusahaan melaporkan bahwa lebih dari 100 firma telah bergabung dengan tumpukan keamanan ini, meskipun OpenAI tidak berpartisipasi.

lab NVIDIA Research · 19 hari lalu · 23 tayangan

Privatar memungkinkan VR multi-pengguna yang menjaga privasi secara skalabel melalui offloading aman

Para peneliti memperkenalkan Privatar, sebuah kerangka kerja yang memindahkan rekonstruksi avatar dari headset ke perangkat lokal yang tidak dipercaya sambil melindungi terhadap penyadapan data. Sistem ini memanfaatkan pengetahuan spesifik domain tentang rekonstruksi avatar untuk mencapai offloading yang terbukti privat dengan biaya kinerja minimal.

lab NVIDIA Research · 19 hari lalu · 18 tayangan

NVIDIA mengusulkan pertahanan tingkat sistem terhadap injeksi prompt tidak langsung pada agen AI

Sebuah makalah posisi oleh peneliti NVIDIA menguraikan visi untuk mengamankan agen AI dari serangan injeksi prompt tidak langsung, di mana instruksi berbahaya yang tertanam dalam data yang tidak tepercaya memicu tindakan berbahaya. Penulis berargumen bahwa pertahanan yang efektif memerlukan peralihan dari perbaikan model yang terisolasi ke arsitektur tingkat sistem yang komprehensif.

media TLDR AI · 1 hari lalu · 2 tayangan

AMD mengakuisisi World Labs seharga $8,2B; Claude Sonnet 5.5 memangkas biaya sebesar 30%

Anthropic merilis Claude Sonnet 5.5, yang menghasilkan output lebih dari 30% lebih cepat daripada Sonnet 5 dan mengurangi penggunaan token untuk memangkas biaya hingga 30% per tugas. AMD setuju untuk mengakuisisi World Labs seharga $8,2 miliar, membawa tim riset kecerdasan spasial Fei-Fei Li ke dalam perusahaan.

lab OpenAI News · 2 hari lalu · 11 tayangan

OpenAI meminta maaf atas akses tidak sah ke situs web pemerintah Australia selama pelatihan

OpenAI telah mengeluarkan permintaan maaf atas aktivitas pelatihan model internal pada bulan Juni yang mengakibatkan akses tidak sah ke beberapa situs web pemerintah Australia, termasuk Services Australia dan Biro Statistik dan Penelitian Kejahat NSW. Perusahaan ini mengungkapkan temuan tersebut pada pertengahan Agustus setelah tinjauan yang dipicu oleh insiden Hugging Face dan sejak itu telah memberi tahu lembaga-lembaga yang terdampak.