Seorang pengguna Reddit merefleksikan kemajuan signifikan dalam model bahasa besar lokal dengan mengingat pengalamannya dengan Bloom dari BigScience. Ia ingat membeli drive Optane 768GB untuk menjalankan model penuh dengan swap, yang memakan waktu sekitar 20 menit untuk menghasilkan satu token.
Postingan tersebut menautkan ke checkpoint BLOOMZ-P3 di Hugging Face sebagai titik referensi untuk model-model awal ini.
Penulis menyatakan keinginan untuk kembali meninjau model-model lama ini guna menghargai kemajuan yang telah dicapai dalam kemampuan inferensi lokal.