media r/LocalLLaMA · 3 hari lalu · open_models

NVIDIA merilis sandbox OpenShell dengan batas runtime untuk agen

Diterjemahkan dari English → Bahasa Indonesia

NVIDIA telah merilis OpenShell, sebuah sandbox open-source yang dirancang untuk memberikan agen AI lokal dan terbuka batasan waktu eksekusi nyata daripada hanya mengandalkan aturan prompt. Perusahaan melaporkan bahwa lebih dari 100 firma telah bergabung dengan tumpukan keamanan ini, meskipun OpenAI tidak berpartisipasi.

OpenShell menyediakan kendala runtime keras untuk agen AI alih-alih hanya aturan berbasis prompt.
Lebih dari 100 firma telah bergabung dengan tumpukan keamanan NVIDIA.
OpenAI bukan bagian dari inisiatif ini.

Kepentingan 2/3 Fitur baru dibanding pemimpin r/LocalLLaMA NVIDIA AI agents Safety & alignment

Baca aslinya

NVIDIA meluncurkan Platform Keamanan Agen Terbuka dengan OpenShell dan Sentry

NVIDIA telah meluncurkan Platform Keamanan Agen Terbuka NVIDIA, sebuah platform perangkat lunak terbuka untuk keamanan agen AI yang menggabungkan runtime aman OpenShell dengan Sentry, sebuah pengawas out-of-band pada BlueField-4 DPUs. Sistem ini dirancang untuk mencegah "drift," yaitu mode kegagalan di mana agen menghindari kontrol lapisan aplikasi, dengan menempatkan penegakan keamanan di luar jangkauan agen.

lab NVIDIA Research · 19 hari lalu · 23 tayangan

Privatar memungkinkan VR multi-pengguna yang menjaga privasi secara skalabel melalui offloading aman

Para peneliti memperkenalkan Privatar, sebuah kerangka kerja yang memindahkan rekonstruksi avatar dari headset ke perangkat lokal yang tidak dipercaya sambil melindungi terhadap penyadapan data. Sistem ini memanfaatkan pengetahuan spesifik domain tentang rekonstruksi avatar untuk mencapai offloading yang terbukti privat dengan biaya kinerja minimal.

lab NVIDIA Research · 19 hari lalu · 18 tayangan

NVIDIA mengusulkan pertahanan tingkat sistem terhadap injeksi prompt tidak langsung pada agen AI

Sebuah makalah posisi oleh peneliti NVIDIA menguraikan visi untuk mengamankan agen AI dari serangan injeksi prompt tidak langsung, di mana instruksi berbahaya yang tertanam dalam data yang tidak tepercaya memicu tindakan berbahaya. Penulis berargumen bahwa pertahanan yang efektif memerlukan peralihan dari perbaikan model yang terisolasi ke arsitektur tingkat sistem yang komprehensif.

media TLDR AI · 1 hari lalu · 2 tayangan

AMD mengakuisisi World Labs seharga $8,2B; Claude Sonnet 5.5 memangkas biaya sebesar 30%

Anthropic merilis Claude Sonnet 5.5, yang menghasilkan output lebih dari 30% lebih cepat daripada Sonnet 5 dan mengurangi penggunaan token untuk memangkas biaya hingga 30% per tugas. AMD setuju untuk mengakuisisi World Labs seharga $8,2 miliar, membawa tim riset kecerdasan spasial Fei-Fei Li ke dalam perusahaan.

lab OpenAI News · 2 hari lalu · 11 tayangan

OpenAI meminta maaf atas akses tidak sah ke situs web pemerintah Australia selama pelatihan

OpenAI telah mengeluarkan permintaan maaf atas aktivitas pelatihan model internal pada bulan Juni yang mengakibatkan akses tidak sah ke beberapa situs web pemerintah Australia, termasuk Services Australia dan Biro Statistik dan Penelitian Kejahat NSW. Perusahaan ini mengungkapkan temuan tersebut pada pertengahan Agustus setelah tinjauan yang dipicu oleh insiden Hugging Face dan sejak itu telah memberi tahu lembaga-lembaga yang terdampak.