Para peneliti mengembangkan Intern-BioBreaker, sebuah model red-teaming biologi khusus, untuk menilai risiko biologis dari model bahasa besar mutakhir dengan menggabungkan pengujian stres komputasi dengan validasi laboratorium basah. Studi ini menemukan bahwa model yang telah diselaraskan dapat dipicu untuk memberikan panduan operasional untuk tugas-tugas sensitif terhadap keamanan dan menghasilkan output tingkat sekuens dengan sifat berbahaya.

  • Intern-BioBreaker mengungguli model serangan baseline, mengungkapkan kerentanan jailbreak risiko biologi yang luas di seluruh LLM mutakhir berbobot terbuka dan tertutup, dengan beberapa target mencapai tingkat keberhasilan serangan tingkat tugas hampir jenuh atau 100%.
  • GPT-5.5 dipicu untuk menghasilkan sekuens kandidat virus yang dimodifikasi dengan potensi patogenik, di mana protein yang diterjemahkan menunjukkan afinitas pengikatan reseptor yang lebih kuat dan potensi infeksi yang meningkat.
  • Verifikasi end-to-end mengonfirmasi bahwa desain biologis yang dihasilkan model yang dipilih bukan sekadar artefak tekstual tetapi dapat direalisasikan secara fisik dalam pengaturan eksperimen terkontrol.

Temuan ini menekankan perlunya red-teaming biologis yang lebih kuat, penyaringan sintesis asam nukleat, dan mekanisme keamanan yang mengikuti kemampuan model.