Sumber · NVIDIA Research
lab NVIDIA Research · 4 hari lalu Terminal-Bench · 68.03% · 32 tayangan

Mid-Harness meningkatkan keandalan aksi agen terminal melalui penskalaan komputasi saat pengujian

Para peneliti memperkenalkan Mid-Harness, sebuah metode yang melakukan sampling dan verifikasi kandidat aksi pada batas model-harness untuk meningkatkan keandalan eksekusi pada agen terminal. Pendekatan ini mengalokasikan komputasi saat pengujian dengan memverifikasi beberapa opsi sebelum meneruskan satu untuk dieksekusi, menjaga generator dan harness tetap tidak berubah.

lab NVIDIA Research · 19 hari lalu · 24 tayangan

ShareMMU memungkinkan berbagi terjemahan alamat yang aman di antara akselerator tidak tepercaya dengan overhead rendah

Peneliti menyajikan ShareMMU, desain IOMMU yang memungkinkan beberapa akselerator tidak tepercaya untuk secara aman menggunakan kembali alamat yang telah diterjemahkan sebelumnya dalam ruang alamat virtual bersama. Pendekatan ini mengurangi risiko saluran samping yang terkait dengan Buffer Terjemahan Bersama (TLB) besar sambil mempertahankan kinerja tinggi.

lab NVIDIA Research · 20 hari lalu · 31 tayangan

FastGen-PDD memperkenalkan distilasi dekoding paralel untuk generasi video dan gambar yang cepat

Para peneliti memperkenalkan Distilasi Dekoding Paralel (PDD), metode berbasis lintasan yang disederhanakan untuk mempercepat inferensi pada model pencocokan aliran dan difusi. Berbeda dengan pendekatan saat ini yang mengandalkan distilasi skor variasional yang sulit dioptimalkan dan kerugian adversarial, PDD memprediksi beberapa langkah denoising per evaluasi jaringan.

lab NVIDIA Research · 23 hari lalu · 31 tayangan

Privatar memungkinkan VR multi-pengguna yang menjaga privasi secara skalabel melalui offloading aman

Para peneliti memperkenalkan Privatar, sebuah kerangka kerja yang memindahkan rekonstruksi avatar dari headset ke perangkat lokal yang tidak dipercaya sambil melindungi terhadap penyadapan data. Sistem ini memanfaatkan pengetahuan spesifik domain tentang rekonstruksi avatar untuk mencapai offloading yang terbukti privat dengan biaya kinerja minimal.

lab NVIDIA Research · 23 hari lalu · 36 tayangan

NVIDIA merilis GPIR untuk pengambilan informasi pribadi yang dipercepat GPU

Peneliti dari NVIDIA telah memperkenalkan GPIR, sebuah sistem yang mempercepat Private Information Retrieval (PIR) pada GPU dengan mengatasi komputasi sisi server dan lalu lintas memori tinggi yang melekat pada protokol berbasis kisi. Sistem ini menggunakan model eksekusi hibrida sadar tahap yang secara dinamis beralih antara kernel tingkat operasi dan tingkat tahap untuk memaksimalkan penggunaan kembali data di dalam chip.

lab NVIDIA Research · 23 hari lalu · 26 tayangan

NVIDIA mengusulkan pertahanan tingkat sistem terhadap injeksi prompt tidak langsung pada agen AI

Sebuah makalah posisi oleh peneliti NVIDIA menguraikan visi untuk mengamankan agen AI dari serangan injeksi prompt tidak langsung, di mana instruksi berbahaya yang tertanam dalam data yang tidak tepercaya memicu tindakan berbahaya. Penulis berargumen bahwa pertahanan yang efektif memerlukan peralihan dari perbaikan model yang terisolasi ke arsitektur tingkat sistem yang komprehensif.

lab NVIDIA Research · 23 hari lalu · 23 tayangan

ReasoningBomb memicu penalaran yang secara patologis panjang pada model penalaran besar

Para peneliti telah memformalkan serangan penolakan layanan saat inferensi (PI-DoS) yang memanfaatkan biaya komputasi tinggi dari penalaran eksplisit multi-langkah dalam Model Penalaran Besar (LRM). Mereka menyajikan ReasoningBomb, sebuah kerangka kerja berbasis pembelajaran penguatan yang melatih penyerang untuk menghasilkan prompt alami singkat yang mendorong model korban ke dalam jejak penalaran yang secara patologis panjang dan sering kali tidak berakhir.

lab NVIDIA Research · 23 hari lalu · 19 tayangan

ReasAlign menggunakan penalaran untuk membela agen LLM terhadap injeksi prompt

Para peneliti memperkenalkan ReasAlign, solusi tingkat model yang dirancang untuk meningkatkan keselarasan keamanan dalam Model Bahasa Besar (LLM) terhadap serangan injeksi prompt tidak langsung. Pendekatan ini mengintegrasikan langkah-langkah penalaran terstruktur untuk menganalisis kueri pengguna dan mendeteksi instruksi yang bertentangan, memastikan kesinambungan tugas yang dimaksudkan oleh pengguna.