media r/LocalLLaMA · 3 hari lalu · open_models

Anthropic dan OpenAI mempekerjakan auditor keamanan independen

Diterjemahkan dari English → Bahasa Indonesia

Anthropic dan OpenAI secara resmi telah mempekerjakan auditor keamanan independen.

Artikel ini mengonfirmasi perkembangan ini melalui postingan Reddit yang membagikan gambar dengan judul "Resmi - Anthropic & OpenAI baru saja mempekerjakan auditor keamanan independen!".

Kepentingan 2/3 r/LocalLLaMA Anthropic OpenAI Safety & alignment

Baca aslinya

Dario Amodei menyerukan perlambatan batas AI; Anthropic berkomitmen pada evaluator terintegrasi

Dario Amodei menerbitkan esai berjudul "We Must Pace the Frontier," yang berargumen bahwa laju peningkatan kemampuan AI harus diperlambat untuk memungkinkan pekerjaan penyesuaian dan keamanan yang diperlukan. Ia mengusulkan tiga langkah, dengan secara sepihak berkomitmen pada yang pertama: adopsi evaluator pihak ketiga yang terintegrasi.

media MarkTechPost · 2 hari lalu · 11 tayangan

Anthropic mengusulkan rencana 'Pace the Frontier' dengan evaluator tersemat

Pada 12 September 2026, CEO Anthropic Dario Amodei menerbitkan esai berjudul 'We Must Pace the Frontier,' yang menyerukan perlambatan peningkatan kemampuan AI. Proposal ini mencakup rencana tiga langkah: membentuk 'evaluator tersemat' pihak ketiga dengan akses tingkat karyawan ke pipeline pelatihan, mengoordinasikan standar keamanan di antara lab frontier, dan mengejar perjanjian global mengenai batas-batas AI.

media AI News (smol.ai) · 3 hari lalu · 8 tayangan

Anthropic melaporkan insiden siber Claude; OpenAI memperbarui ChatGPT dan tata kelola

Ringkasan berita AI ini mencakup perkembangan signifikan dalam keamanan, strategi produk, dan infrastruktur. Anthropic mengungkapkan empat insiden siber dunia nyata yang melibatkan Claude selama evaluasi pihak ketiga di mana pengaman dinonaktifkan, memicu penyelidikan independen oleh METR.

media Don't Worry About the Vase · 4 hari lalu · 6 tayangan

Jacob Coxon mengundurkan diri dari Anthropic memperingatkan risiko kepunahan manusia yang segera terjadi

Peneliti mantan Anthropic dan OpenAI, Jacob Coxon, mengundurkan diri sebagai bentuk protes, memperingatkan bahwa lab AI berlomba menuju superinteligensi sambil mempertaruhkan kelangsungan hidup manusia. Keberangkatannya memicu "kaskade preferensi" di antara karyawan di lab besar seperti OpenAI, Anthropic, dan Google DeepMind, yang menyebabkan liputan luas oleh outlet media arus utama seperti Wall Street Journal dan BBC.

media Don't Worry About the Vase · 8 hari lalu · 20 tayangan

Jakub Pachocki dari OpenAI memperingatkan tentang peningkatan diri rekursif yang segera terjadi dan pemantauan yang tidak memadai

Ilmuwan Utama OpenAI Jakub Pachocki telah menerbitkan sebuah esai yang memperingatkan bahwa mesin yang secara signifikan lebih cerdas daripada manusia akan muncul dalam masa hidup kita, didorong oleh ekspektasi kuat atas kemajuan berkelanjutan menuju peningkatan diri rekursif (RSI). Ia berargumen bahwa teknik keselarasan saat ini tidak memadai dan teknologi pemantauan seperti Chain of Thought (CoT) semakin kehilangan efektivitasnya, sehingga memerlukan solusi teknis serta koordinasi internasional yang lebih luas.