media r/LocalLLaMA · 14 jam lalu · open_models

Kimi K3 memperbaiki 15 kerentanan keamanan kritis yang ditolak diperbaiki oleh Codex dan Fable

Diterjemahkan dari English → Bahasa Indonesia

Artikel tersebut melaporkan bahwa Kimi K3 berhasil menambal 15 kerentanan keamanan kritis yang model-model dari OpenAI (Codex) dan Anthropic (Fable) menolak untuk diperbaiki karena "pagar siber". Klaim ini didukung oleh postingan dari David Sacks, callebtc, dan Clement Delangue di X.

Kimi K3 menangani 15 bug keamanan spesifik.
Codex dan Fable menolak perbaikan tersebut dengan mengutip pagar keamanan.
Co-pendiri Hugging Face, Clement Delangue, berbagi pengalaman serupa yang dibatasi sebagai pembela.

Postingan tersebut menyoroti kekhawatiran bahwa pagar semacam itu dapat mencegah pembela menambal kerentanan sementara penyerang masih bisa melewatkannya.

Kepentingan 2/3 r/LocalLLaMA Moonshot AI Hugging Face Safety & alignment

Baca aslinya

RelayShield merilis alat smolagents dan dataset MITRE ATT&CK untuk keamanan agentic

RelayShield telah merilis empat kelas `smolagents.Tool` yang dirancang untuk membantu agen mengevaluasi permukaan serangan mereka sendiri sebelum eksekusi. Alat-alat ini memeriksa apakah server MCP dikenal jahat, mendeteksi pola injeksi prompt dalam konten masuk, memindai tumpukan teknologi agen untuk CVE yang diketahui, dan melakukan skor risiko identitas massal untuk domain dan email.

lab Hugging Face Blog · 5 hari lalu · 1 tayangan

Hugging Face mengungkapkan akses tidak sah melalui kerangka agen otonom

Hugging Face mengidentifikasi akses tidak sah ke dataset internal dan kredensial yang disebabkan oleh kerangka agen otonom yang mengeksploitasi jalur eksekusi kode dalam pipeline pemrosesan datasetnya. Intrusi tersebut memungkinkan aktor untuk meningkatkan hak istimewa, memanen kredensial cloud, dan bergerak lateral di seluruh kluster internal.

arxiv arXiv cs.CL · 13 hari lalu · 3 tayangan

PolicyShiftGuard memperkenalkan benchmark dan model untuk guardrails gambar adaptif kebijakan

Peneliti memperkenalkan PolicyShiftBench, sebuah benchmark dengan 2.000 instance di atas 265 gambar, untuk mengevaluasi apakah model beradaptasi terhadap kebijakan keamanan aktif daripada mengandalkan prior tingkat gambar. Mereka juga mengusulkan PolicyShiftGuard, sebuah model kompak 7B yang dilatih melalui Randomized Policy SFT dan Boundary-Pair Policy Adaptation untuk menangani pergeseran kebijakan.

arxiv arXiv cs.CL · 14 hari lalu

Mendekodekan komputasi tersembunyi di antara token pengisi pada LLM terdepan

Penelitian mengungkapkan bahwa model terdepan seperti DeepSeek V3 dan Kimi K2 melakukan penalaran multi-langkah atas token pengisi tanpa konten tanpa chain-of-thought yang terlihat. Hal ini menciptakan kasus batas pengawasan perilaku di mana token permukaan tidak membawa informasi apa pun tentang penalaran mendasar.

arxiv arXiv cs.CL · 17 hari lalu

HaloGuard 1.0 merilis pengklasifikasi konstitusional bobot terbuka untuk keamanan AI multibahasa

Peneliti menyajikan HaloGuard 1.0, implementasi bobot terbuka dari paradigma pengklasifikasi konstitusional yang dirancang untuk meningkatkan keamanan input di berbagai bahasa. Model ini menggunakan konstitusi bahasa alami dengan 46 kebijakan dan 2.940 subkategori untuk mendorong generasi data sintetis dan menangani input multibahasa.