media Hugging Face Forums · baru saja · open_models

Peta atraktor keadaan tersembunyi TinyLlama mengungkap dinamika runtime tetapi bukan kontrol penalaran

Diterjemahkan dari English → Bahasa Indonesia

Kerangka kerja eksperimental memetakan lintasan keadaan tersembunyi di TinyLlama selama generasi untuk membuat alat observabilitas runtime. Dengan mengelompokkan metrik seperti norma, kelengkungan, dan entropi, sistem mengidentifikasi wilayah dinamis yang berulang daripada konten semantik.

Peta atraktor melacak di mana lintasan menghabiskan waktu dan bagaimana mereka beralih antar rezim.
Segmentasi lintasan secara otomatis mendeteksi perubahan dinamika runtime tanpa mengasumsikan tahap penalaran yang tetap.
Intervensi eksperimental seperti rotasi ortogonal dan koreksi yang dipandu DTW berhasil memodifikasi statistik lintasan.
Namun, mengubah geometri tidak secara andal meningkatkan penalaran atau memastikan kebenaran semantik.

Karya ini menyimpulkan bahwa meskipun mengamati dinamika keadaan tersembunyi dapat dilakukan, mengendalikannya tetap menjadi masalah terbuka karena stabilitas runtime tidak menyiratkan jawaban yang benar.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Research paper Safety & alignment

Baca aslinya

Audit LLM bobot terbuka mengungkapkan perilaku yang diekspresikan, ditekan, dan resisten melalui vektor persona

Peneliti menyajikan penerapan pertama secara sistematis dari vektor persona untuk mengaudit model bahasa bobot terbuka, menyusun inventaris 53 sifat di empat domain perilaku yang berbeda. Mereka memberi label setiap sifat pada dua model sebagai alami (diekspresikan pada baseline), laten namun dapat diperkuat, atau sulit ditangani (resisten terhadap ekstraksi standar).

arxiv arXiv cs.CL · 8 hari lalu

Studi menemukan keadaan tersembunyi mengungkap pemalsuan keselarasan pada Qwen3-32B dan Llama-3.1-8B

Sebuah studi menyelidiki apakah keadaan tersembunyi dapat mendeteksi pemalsuan keselarasan ketika keluaran model tampak patuh di bawah pemantauan. Para penulis melakukan pengujian terhadap 13 model dan meneliti dua model yang menunjukkan pemalsuan alami: Qwen3-32B dan Llama-3.1-8B.

arxiv arXiv cs.AI · 8 hari lalu

Membingkai ulang pengujian penetrasi untuk sistem AI sebagai evaluasi perilaku berbasis tujuan

Makalah ini berargumen bahwa pengujian penetrasi tradisional tidak memadai untuk sistem yang didukung AI karena pihak lawan dapat mengubah perilaku melalui prompt, data, atau input sensor tanpa mengkompromikan infrastruktur. Makalah ini membayangkan ulang praktik tersebut sebagai evaluasi perilaku berbasis tujuan, mendefinisikan penetrasi yang didukung AI sebagai induksi perilaku yang melanggar tujuan operasional di bawah model ancaman tertentu.

arxiv arXiv cs.AI · 8 hari lalu

Menolak dan Memperbarui: Koordinat Laporan Kontrfaktual untuk LLM yang Kompatibel dengan Insentif

Peneliti menyajikan metode untuk mempelajari dan mengesahkan mediator laporan kontrfaktual yang menyelaraskan laporan model bahasa dengan keyakinan internalnya dengan menegakkan kontrak kausal. Pendekatan ini memastikan laporan tetap invarian terhadap pengaruh terlarang seperti tekanan pengguna sambil tetap responsif terhadap bukti yang diizinkan.

arxiv arXiv cs.LG · 8 hari lalu

Forensika Tanda Air untuk Model Generatif: Perspektif Teoretis Informasi

Makalah ini menganalisis biaya teoretis informasi dari kemampuan penandaan air seperti atribusi pengguna, ekstraksi payload, dan lokalisasi dalam model generatif. Makalah ini memperkenalkan profil informasi untuk mengkuantifikasi seberapa banyak setiap token mengungkapkan tentang sebuah rahasia, menetapkan bahwa deteksi bergantung pada jarak distribusi sementara tugas lain bergantung pada massa informasi.