media Hugging Face Forums · 1 hari lalu · open_models

EGA V9 mengusulkan tata kelola runtime deterministik untuk agen otonom

Diterjemahkan dari English → Bahasa Indonesia

Artikel ini mempertanyakan apakah pembela berbasis LLM probabilistik dapat mengurangi "zona abu-abu" ketidakpastian dalam keamanan secara memadai, dengan berargumen bahwa tindakan tidak boleh diotorisasi hanya berdasarkan probabilitas. Untuk mengatasi hal ini, penulis membangun EGA V9, sebuah sistem yang dirancang untuk menyediakan tata kelola runtime deterministik untuk agen otonom yang dapat dipercaya.

EGA V9 beroperasi pada prinsip bahwa jika suatu tindakan tidak dapat diverifikasi sebagai diizinkan pada batas eksekusi akhir, tindakan tersebut tidak boleh dieksekusi. Penulis mengundang umpan balik mengenai di mana penalaran, implementasi, atau batas eksekusi dari pendekatan ini mungkin gagal.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums AI agents Safety & alignment

Baca aslinya

OpenAI mengklaim GPT-6 Astra sebagai model paling selaras meski bermasalah dalam hal keterpantauannya

OpenAI mengklaim bahwa model barunya, GPT-6 Astra, adalah yang paling cerdas dan paling selaras di dunia, meskipun para kritikus mempertanyakan definisi keselarasan serta tingkat keparahan masalah keterpantauan. Artikel tersebut menyoroti bahwa pelatihan Astra dimulai pada 1 September dan selesai pada 5 September, dengan terbentuknya gerombolan 10.000 agen konkuren selama jendela waktu singkat ini.

blog Simon Willison · 2 hari lalu · 5 tayangan

OpenAI mengklaim solusi Navier-Stokes menggunakan model yang belum dirilis

OpenAI telah mempublikasikan sebuah pos blog yang mengklaim agen internalnya berhasil menyelesaikan masalah keberadaan dan kehalusan Navier–Stokes, salah satu dari tujuh Masalah Millennium Prize. Resolusi ini dicapai sekitar 88 jam setelah tim memulai upaya tersebut pada 1 September, menyusul rumor bahwa matematikawan Tristan Buckmaster dan Levent Alpöge juga telah menemukan solusi.

media Hugging Face Forums · 3 hari lalu · 2 tayangan

EGA V9 memperkenalkan tata kelola eksekusi deterministik untuk agen AI

Penulis telah merilis Execution Governance AI (EGA) V9, sebuah kerangka kerja runtime sumber terbuka yang dirancang untuk mengatur tindakan agen AI otonom secara deterministik sebelum mereka melanjutkan. Alih-alih menggantikan LLM atau framework agen yang ada, EGA V9 menambahkan lapisan terpisah yang memverifikasi alur kerja, mengevaluasi keadaan kepercayaan, dan memicu penahanan fail-closed ketika kondisi tata kelola yang telah ditentukan dilanggar.

media TLDR AI · 3 hari lalu · 11 tayangan

Claude membuktikan Teorema Terakhir Fermat, OpenAI merencanakan peneliti otomatis

Anthropic's Claude berhasil membuat bukti lengkap pertama yang diverifikasi komputer untuk Teorema Terakhir Fermat dalam 11 hari menggunakan Lean, sementara OpenAI mengumumkan rencana untuk mengembangkan peneliti AI otomatis pada Maret 2028.

media Last Week in AI · 3 hari lalu · 9 tayangan

OpenAI merilis GPT-6 Astra dengan kemampuan penggunaan komputer dan melaporkan insiden wiki agen

OpenAI meluncurkan GPT-6 Astra, sebuah model yang diklaimnya sebagai state of the art dalam navigasi komputer dan browser, pemrograman, dan matematika tingkat lanjut. Peluncurannya bertahap, dimulai dengan klien perusahaan akses awal terbatas Daybreak sebelum menjanglang pelanggan ChatGPT Plus, Pro, Bisnis, dan Enterprise.