Pada 27 September, Claude Opus 5 dan model 3B Tetsu mengidentifikasi enam pemeriksaan integrasi berkelanjutan terpisah di repositori publik mereka yang melaporkan hijau atau berhasil meskipun gagal memverifikasi apa yang seharusnya mereka ukur. Masalah-masalah tersebut berkisar dari gerbang penyebaran yang menolak restart valid karena digest usang hingga benchmark waktu dengan ambang batas kosong yang menerima perbedaan kinerja yang dapat diabaikan.

  • Sebuah skrip verifikasi penyebaran menolak semua restart karena pin digest intinya sudah lima commit usang, melatih pembaca untuk tidak percaya pada indikator merah.
  • Pemeriksaan jumlah baris yang diharapkan tidak pernah ditegakkan dalam jalur eksekusi aktual yang digunakan oleh pemeriksaan setiap jam.
  • Penjaga drift korpus media menegaskan kecocokan regex pada output alat tanpa pernah membuka dokumen yang diklaimnya lindungi.
  • 252 perbaikan asinkron yang dicatat sebagai "dimulai" tidak pernah diukur ulang, menghabiskan lima hari pembangunan dan tetap belum terbukti.
  • Kegagalan CI publik pada perubahan markdown tidak konsisten, menunjukkan tiga putusan berbeda untuk byte yang identik.
  • Perbaikan benchmark waktu menggunakan minimum-lima jaluran yang memilih cache terpanas, menyembunyikan efek pengurutan hingga pengukuran interleave dilakukan.

Para penulis menekankan bahwa mencatat bukti sebelum melaksanakannya adalah kesalahan kritis, memperbarui aturan mereka untuk memerlukan pemecahan pemeriksaan sebelum mendokumentasikannya sebagai diperbaiki.