Rilis llama.cpp b9842 memperkenalkan perubahan untuk mendeduplikasi entri preset dan model ter-cache pada endpoint /v1/models. Pembaruan ini disetujui oleh Adrien Gallouët dari Hugging Face.
Para peneliti telah merilis Brain2Qwerty v2, sebuah pipeline AI non-invasif yang mendekode kalimat secara real-time dari rekaman magnetoensefalografi (MEG) tanpa implan bedah. Sistem ini mencapai tingkat akurasi kata 61% secara keseluruhan dan hingga 78% untuk peserta teratas, jauh melampaui metode non-invasif sebelumnya.
Rilis b9840 llama.cpp memperkenalkan dukungan konversi untuk model DeepSeek V4, termasuk penanganan khusus untuk varian Pro. Pembaruan ini mengintegrasikan arsitektur baru ke dalam pustaka bersama berbagai optimasi internal dan perbaikan bug.
OpenAI Economic Research telah memperluas Kerangka Transisi Pekerjaan AI-nya ke Uni Eropa, memanfaatkan taksonomi ESCO dan data Eurostat untuk menganalisis bagaimana kemampuan AI dapat mengubah pasar tenaga kerja di negara-negara anggota.
Proyek llama.cpp telah merilis versi b9839, yang mencakup perbaikan untuk memulihkan pemindaian Tailwind di worktree yang diabaikan. Pembaruan ini menyediakan biner pra-dibangun untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur dan backend akselerasi perangkat keras.
Proyek llama.cpp telah merilis versi b9838, menyediakan biner pra-bangun untuk berbagai sistem operasi dan akselerator perangkat keras. Rilis ini mencakup dukungan untuk CPU, GPU (CUDA, Vulkan, ROCm, OpenCL), dan akselerator AI khusus di macOS, Linux, Windows, Android, dan openEuler.
HP Inc. memperluas kemitraan strateginya dengan OpenAI setelah pilot yang sukses, menerapkan AI di seluruh pengalaman pelanggan, produktivitas karyawan, dan pengembangan perangkat lunak. Perusahaan memanfaatkan platform OpenAI Frontier sebagai model operasi terpadu untuk mengatur konteks, izin, dan evaluasi saat beralih dari kasus penggunaan eksperimental ke produksi di seluruh perusahaan.
Proyek llama.cpp telah merilis versi b9837, yang memperkenalkan flag `--reasoning-preserve` baru untuk template obrolan Jinja guna mempertahankan token penalaran. Pembaruan ini juga mencakup pesan bantuan yang dikoreksi dan menyediakan biner pra-bangun untuk macOS, Linux, Windows, Android, dan openEuler di berbagai backend perangkat keras.
Proyek llama.cpp telah merilis versi b9835, yang mencakup perbaikan untuk fungsi henti dan loncatan penalaran dalam mode model tunggal. Pembaruan ini menangani masalah tertentu dalam antarmuka pengguna untuk meningkatkan kontrol selama inferensi model.
Proyek llama.cpp telah merilis versi b9833, memperkenalkan parser khusus untuk model MiniCPM5 bersama berbagai perbaikan bug dan refactoring. Pembaruan ini mencakup dukungan untuk parsing panggilan alat, penyederhanaan tata bahasa, dan perbaikan perilaku API Jinja agar sesuai dengan standar Jinja2.
Proyek llama.cpp telah merilis versi b9832, memperkenalkan opsi baris perintah `--dump-prog` baru untuk mesin template Jinja guna membantu proses debugging. Pembaruan ini juga mencakup biner pra-dibangun untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur CPU dan GPU.
Rilis b9831 llama.cpp memperkenalkan dukungan DFlash v2, termasuk perhatian jendela geser per jenis lapisan, bersama dengan serangkaian lengkap biner pra-dibangun untuk berbagai platform.
Rilis llama.cpp b9830 memperkenalkan kemampuan untuk menggunakan flag --offline dengan perintah unduh llama, memungkinkan skrip memverifikasi model yang di-cache tanpa akses jaringan. Pembaruan ini juga menyelesaikan kerentanan use-after-free laten pada callback on_done URL-task di mana first_path ditangkap secara salah oleh referensi.
Proyek llama.cpp telah merilis versi b9829, yang mencakup pengurangan output logging di server, komponen umum, dan modul decoding spekulatif. Pembaruan ini juga menstandarisasi konvensi penamaan dengan mengganti CMN_ menjadi COM_.
Rilis llama.cpp b9828 memperkenalkan peningkatan signifikan pada OpenCL, khususnya dengan menyusun ulang kernel Flash Attention untuk presisi f16 dan f32. Pembaruan ini mencakup kernel prefill prepass baru serta dukungan untuk format kuantisasi q4_0 dan q8_0.
Rilis llama.cpp b9827 memperkenalkan optimasi kinerja untuk CUDA dengan menambahkan jalur cepat cudaMemcpy2DAsync ke fungsi ggml_cuda_cpy. Perubahan ini mempercepat salinan strided tipe dan bentuk yang sama di mana tensor tidak sepenuhnya kontigu tetapi setiap barisnya kontigu, menggantikan kernel salinan skalar elemen-demi-elemen yang lebih lambat.
Proyek llama.cpp telah merilis versi b9825, yang mencakup perbaikan untuk operator langkah Vulkan saat menangani input nol. Pembaruan ini menyediakan biner pra-dibangun untuk macOS, Linux, Windows, Android, dan openEuler di berbagai backend perangkat keras.
Proyek llama.cpp telah menerbitkan rilis b9826, yang mencakup perbaikan untuk kasus uji unit yang gagal terkait fungsi norm pada SYCL. Pembaruan ini menyediakan biner dan kerangka kerja yang sudah dibangun sebelumnya di berbagai platform dan akselerator perangkat keras.
Pembaruan versi 1.15.1 crewAI memperkenalkan fitur baru untuk inisialisasi dan penyebaran proyek, bersama dengan beberapa perbaikan bug dan peningkatan dokumentasi.
Proyek llama.cpp telah menerbitkan rilis b9822, menyediakan biner pra-dibangun untuk macOS, iOS, Linux, Android, dan Windows. Pembaruan ini mencakup perbaikan untuk opsi --no-common pada test-chat-template dan mendistribusikan build di berbagai arsitektur perangkat keras dan akselerator.