Artikel ini menghitung model bahasa besar terbuka mana yang muat di Mac seri Apple M5 baru (Mac mini, Mac Studio) dengan menganalisis batasan memori alih-alih menjalankan benchmark. Kapasitas ditentukan berdasarkan ukuran file GGUF Q4_K_M, kebutuhan cache KV, dan overhead runtime terhadap GPU memory yang dapat digunakan.
Apple telah merilis LensVLM-9B, sebuah Model Bahasa Visual dengan 9 miliar parameter yang dirancang untuk memproses gambar teks terkompresi lebih efisien. Model ini memindai input terkompresi tersebut dan menggunakan alat-alat yang dipelajari untuk secara selektif memperluas hanya halaman-halaman relevan ke bentuk tidak terkompresinya.
Jun Kim, pencipta dan pemelihara oMLX, telah bergabung dengan Hugging Face untuk mendukung komunitas MLX. Langkah ini bertujuan untuk memberikan stabilitas dan pengembangan yang lebih cepat bagi proyek sumber terbuka dengan mengubahnya dari pekerjaan sampingan menjadi inisiatif yang sepenuhnya dipelihara dan didanai.