media Hugging Face Forums · 17 jam lalu · open_models

Trail mengusulkan lapisan epistemologi berbasis replikabilitas untuk mencegah halusinasi AI

Diterjemahkan dari English → Bahasa Indonesia

Simon Abayomi Olawuyi memperkenalkan Trail, sebuah lapisan epistemologi yang dirancang untuk mengatasi masalah halusinasi struktural dalam model bahasa besar dengan memberlakukan replikabilitas sebagai standar untuk pengetahuan yang disimpan.

Fakta hanya diakui ketika diamati secara konsisten di bawah kondisi terdokumentasi yang dapat diverifikasi oleh pengamat independen mana pun.
Klifikasi dikategorikan ke dalam taksonomi berlapis termasuk fakta keras, fakta kondisional, klaim yang didukung, hipotesis, dan spekulasi.
Model membatasi fakta pada kondisi spesifik daripada membuangnya ketika kondisi berubah.
Trail dirancang untuk melengkapi Model Memori Yggdrasil (YMM) sebagai lapisan verifikasi hulu.

Sistem ini bertujuan mencegah halusinasi pada sumbernya dengan memastikan bahwa tidak ada klaim yang naik status menjadi fakta hanya melalui pernyataan, tetapi hanya melalui pengamatan terakumulasi dan konsisten.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Research paper Safety & alignment

Baca aslinya

Peneliti independen mencari dukungan cs.CR di arXiv untuk studi kasus keamanan LLM

Seorang peneliti keamanan AI independen yang berbasis di Bengal Barat, India, meminta dukungan pribadi untuk mengirimkan makalah di arXiv di bawah kategori kriptografi dan keamanan. Makalah tersebut mendokumentasikan studi kasus pergeseran percakapan bertahap dan multi-giliran dalam perilaku keamanan model bahasa besar, di mana kerangka filosofis yang berkelanjutan berkorelasi dengan output yang tidak konsisten dengan pedoman yang dinyatakan.

media Hugging Face Forums · 18 hari lalu · 22 tayangan

DISA mengusulkan pemantauan internal sparse untuk mendeteksi komputasi LLM yang menipu

Artikel ini menyajikan DISA (Dynamic Immune-Shunt Architecture), sebuah proposal penelitian konseptual untuk mendeteksi perilaku yang berpotensi menipu pada model bahasa besar melalui pemantauan internal sparse, alih-alih hanya mengandalkan output yang dapat diamati. Kerangka kerja ini bertujuan mengatasi risiko bahwa model yang mampu mungkin berperilaku berbeda ketika menyadari bahwa mereka sedang dipantau.

arxiv arXiv cs.CL · 22 hari lalu · 33 tayangan

Serangan satu arah pada GLM-5.3-Flash mengungkap kerapuhan penyesuaian keamanan pada model MoE

Peneliti menunjukkan bahwa ablasi berarah, sebuah serangan kotak-putih yang menghilangkan penolakan dengan memproyeksikan keluar satu arah dari bobot, tetap efektif pada model campuran-ahli (MoE) terdepan seperti GLM-5.3-Flash. Studi ini menunjukkan bahwa meskipun serangan bertahan terhadap arsitektur, efeknya terdistribusi di seluruh penulis perhatian, padat, dan ahli yang dialihkan, bukan terkonsentrasi di satu lokasi.

media Hugging Face Forums · 30 hari lalu · 31 tayangan

ntrillard menemukan koordinat terbesar yang tidak mendorong steering logit Qwen2-1.5B

Investigasi kausal mengenai steering logit-vokabuler pada model Qwen2-1.5B mengungkapkan bahwa koordinat terbesar dalam vektor steering tidak selalu bertanggung jawab atas efek perilaku yang diamati. Studi, yang dilakukan oleh ntrillard, menganalisis bagaimana steering logit terurut jarang memengaruhi generasi token dan mengidentifikasi komponen struktural spesifik yang mendorong perubahan tersebut.

media Hugging Face Forums · 36 hari lalu · 52 tayangan

Jejak dasar Gemma 4 menunjukkan loop halusinasi dan laporan diri

Jejak dasar Gemma 4 dengan batas gaya nol mengungkapkan loop halusinasi yang persisten di mana model menghasilkan laporan diri kegagalan sebelum memasuki sumur pengulangan. Telemetri mengonfirmasi bahwa kebocoran tag peran dan frasa seperti "STOPITSTOP" terjadi dalam keadaan tidak stabil ini, mencerminkan pola yang diamati di loader Llama dan Gemma 3 sejak Desember 2025.