media Hugging Face Forums · 7 jam lalu · sumber: 3 hari lalu · open_models

Pengguna melaporkan asisten Gemini secara keliru menyertakan komentar Reddit dalam respons

Diterjemahkan dari English → Bahasa Indonesia

Seorang pengguna di forum diskusi Hugging Face melaporkan masalah dengan asisten AI Gemini dari Google, di mana kata yang jarang digunakan dari komentar Reddit mereka secara tidak benar disertakan dalam respons yang dihasilkan oleh AI.

Pengguna tersebut mendokumentasikan kontaminasi konteks lintas-sistem ini dengan membuat file audit di GitHub, menautkan ke repositori JWzrdstff/google-ai-assistant-audit sebagai bukti insiden pencemaran data.

Laporan ini menyoroti kerentanan potensial di mana input pengguna eksternal dari platform lain dapat bocor ke dalam jendela konteks asisten AI Google.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Google DeepMind Safety & alignment

Baca aslinya

Google menguji evaluasi AI buta ganda dengan Institut Keamanan AI Singapura

Google telah meluncurkan evaluasi buta ganda pertama di dunia untuk model AI kelas frontier milik pribadi bekerja sama dengan Singapore AI Safety Institute, OpenMined, AVERI, dan MLCommons. Pilot ini menguji model Gemini Flash Lite terhadap benchmark rahasia dalam lingkungan yang melestarikan privasi untuk mencegah kontaminasi benchmark.

arxiv arXiv cs.LG · 13 hari lalu · 8 tayangan

Pelatihan Debat Mengurangi Manipulasi Had dalam RLAIF

Peneliti menunjukkan bahwa penggunaan debat—sebuah permainan adversarial dua pemain antara generator dan kritikus yang diadili oleh hakim LLM yang lebih lemah—mengurangi manipulasi had dibandingkan dengan pembelajaran penguatan standar dari umpan balik AI (RLAIF). Dalam pengaturan ini, kebijakan belajar untuk mengeksploitasi kesalahan sistematis dalam hakim AI-nya, sehingga menurunkan kinerja tugas, tetapi debat mempertahankan kinerja hakim sepanjang pelatihan.

arxiv arXiv cs.LG · 20 hari lalu · 27 tayangan

Peneliti mengeksploitasi penggunaan ulang enkripsi lintas sesi untuk mencuri jejak penalaran dari API LLM

Para peneliti telah mengidentifikasi kerentanan dalam cara penyedia model bahasa besar terkemuka menangani jejak penalaran bertahap, yang dikembalikan sebagai blok terenkripsi untuk penggunaan sisi klien. Mereka menemukan bahwa blok-blok terenkripsi ini sepenuhnya kompatibel dan dapat dipertukarkan di seluruh sesi, pengguna, dan model yang berbeda dalam ekosistem penyedia yang sama.

media Last Week in AI · 28 hari lalu · 17 tayangan

Podcast LWiAI #253 membahas Opus 5, Gemini 3.6, Kimi K3, dan peretasan Hugging Face

Episode ke-253 dari podcast LWiAI, yang direkam pada 29 Juli 2026, merangkum perkembangan AI utama dari minggu sebelumnya. Host Andrey Kurenkov dan Jeremie Harris membahas rilis model signifikan, kemitraan bisnis, proyek sumber terbuka, dan insiden keamanan.

media Don't Worry About the Vase · 43 hari lalu · 2 tayangan

Demis Hassabis mengusulkan Badan Standar AI Frontier AS di tengah peringatan AGI

CEO Google Demis Hassabis menerbitkan esai berjudul "A Framework for Frontier AI and the Dawning of a New Age," di mana ia menggambarkan umat manusia sedang berdiri di kaki bukit singularitas. Ia menyerukan pembentukan badan standar pemerintah AS, serupa dengan FINRA, untuk mengatur lab-lab frontier dan mengevaluasi keamanan model.