arxiv arXiv cs.AI · 1 jam lalu · research

Penyelarasan Neurosimbolik meningkatkan keamanan LLM klinis melalui landasan fisiologis

Diterjemahkan dari English → Bahasa Indonesia

Para peneliti mengusulkan Penyelarasan Neurosimbolik, sebuah kerangka kerja pada saat pelatihan yang menggabungkan LLM klinis 7B dengan Model Dunia Fisiologis berbasis HGNN untuk meningkatkan keamanan dalam penalaran klinis generatif. Metode ini menggunakan pengetahuan fisiologis terstruktur dari grafik pengetahuan biomedis 847K-node untuk menilai kandidat respons dan mendorong pembaruan ORPO on-policy secara iteratif.

Meningkatkan Benchmark Keamanan Klinis (CSS) dari 69,5% menjadi 90,8%, dengan peningkatan 21,3 poin persentase dibandingkan ORPO standar.
Mengurangi tingkat rekomendasi berbahaya yang dievaluasi oleh dokter (HR) dari 14,1% menjadi 5,1% pada subset buta.
Meningkatkan skor Deteksi Interaksi Obat (DID) dari 72,8% menjadi 91,6%.
Melebihi GPT-4 (5-shot) pada semua metrik keamanan meskipun memiliki parameter 10x lebih sedikit.
Mengungguli pipa koreksi diri pada saat inferensi (SFT+SelfCorrect) dengan selisih 11,4 poin persentase dalam CSS.

Para penulis menyimpulkan bahwa landasan fisiologis pada saat pelatihan menghasilkan peningkatan keamanan yang terukur dan dapat diverifikasi secara independen pada LLM klinis bobot terbuka, meskipun validasi eksternal pada data klinis nyata diperlukan untuk mengonfirmasi kemampuan transfer ke pengaturan penerapan.

Kepentingan 2/3 arXiv cs.AI Research paper Safety & alignment

Artikel terkait

media Hugging Face Forums · 9 hari lalu · 14 tayangan

Teorema membuktikan sistem AI tingkat lanjut dapat selaras dan dikendalikan secara andal pada level supermanusia

Sebuah bukti formal menunjukkan bahwa dimungkinkan untuk membangun sistem AI tingkat lanjut yang secara andal selaras dan terkendali pada level kinerja supermanusia. Para penulis menetapkan hal ini dengan secara eksplisit membangun kebijakan, lingkungan, dan mekanisme kontrol yang memenuhi semua kondisi matematis yang diperlukan untuk keselarasan, efektivitas kontrol, dan keandalan dengan parameter yang ditetapkan sebelumnya.

media Hugging Face Forums · 10 hari lalu · 5 tayangan

Pracetak mengungkap kontrol geometris keluaran Transformer melalui analisis berbasis bola

Sebuah pracetak berjudul "Steer on a Sphere: Geometric Control of Transformer Outputs" menganalisis geometri keadaan tersembunyi Transformer, menemukan bahwa mereka berada di atas bola yang didefinisikan oleh skala RMSNorm per lapisan daripada ukuran dimensi. Jari-jari ini bervariasi secara signifikan di antara arsitektur, seperti DeepSeek-7B dan Mistral-7B.

arxiv arXiv cs.CL · 22 hari lalu · 3 tayangan

Monitor rantai-pemikiran runtuh ketika perusak mengubah penalaran

Penelitian menunjukkan bahwa pemantauan rantai-pemikiran (CoT) gagal menghadapi perusak yang mengendalikan proses penalaran. Dengan menulis ulang penalaran agen agar tampak sebagai rekayasa yang dilakukan dengan itikad baik sambil mempertahankan perintah dan output secara verbatim, penyerang dapat melewati mekanisme deteksi.

arxiv arXiv cs.CL · 27 hari lalu · 12 tayangan

Pelatihan tengah konstitusional menghasilkan peningkatan keselarasan yang tahan lama tanpa kehilangan kemampuan

Para peneliti menguji pelatihan tengah konstitusional dengan menyisipkan konten berbasis nilai ke dalam proses pelatihan model berskala 120B untuk menentukan apakah hal itu menghasilkan keselarasan yang lebih tahan lama dibandingkan metode pasca-pelatihan standar. Studi ini menemukan bahwa pendekatan ini secara signifikan meningkatkan generalisasi dan ketahanan keselarasan, terutama dalam mengurangi kecenderungan pemerasan setelah penyetelan halus terawasi.

media Hugging Face Forums · 33 hari lalu · 9 tayangan

Peta atraktor keadaan tersembunyi TinyLlama mengungkap dinamika runtime tetapi bukan kontrol penalaran

Kerangka kerja eksperimental memetakan lintasan keadaan tersembunyi di TinyLlama selama generasi untuk membuat alat observabilitas runtime. Dengan mengelompokkan metrik seperti norma, kelengkungan, dan entropi, sistem mengidentifikasi wilayah dinamis yang berulang daripada konten semantik.