Seorang pengguna mengusulkan konsep situs web di mana individu-menukar data dengan data untuk melatih model AI, menghilangkan kebutuhan transaksi moneter. Sistem ini beroperasi pada ekonomi berbasis kredit di mana pengguna memulai dengan jumlah kredit tertentu dan memposting hadiah untuk kebutuhan data spesifik.
Proyek llama.cpp telah merilis versi b9833, memperkenalkan parser khusus untuk model MiniCPM5 bersama berbagai perbaikan bug dan refactoring. Pembaruan ini mencakup dukungan untuk parsing panggilan alat, penyederhanaan tata bahasa, dan perbaikan perilaku API Jinja agar sesuai dengan standar Jinja2.
Proyek llama.cpp telah merilis versi b9832, memperkenalkan opsi baris perintah `--dump-prog` baru untuk mesin template Jinja guna membantu proses debugging. Pembaruan ini juga mencakup biner pra-dibangun untuk macOS, Linux, Android, Windows, dan openEuler di berbagai arsitektur CPU dan GPU.
Rilis b9831 llama.cpp memperkenalkan dukungan DFlash v2, termasuk perhatian jendela geser per jenis lapisan, bersama dengan serangkaian lengkap biner pra-dibangun untuk berbagai platform.
Rilis llama.cpp b9830 memperkenalkan kemampuan untuk menggunakan flag --offline dengan perintah unduh llama, memungkinkan skrip memverifikasi model yang di-cache tanpa akses jaringan. Pembaruan ini juga menyelesaikan kerentanan use-after-free laten pada callback on_done URL-task di mana first_path ditangkap secara salah oleh referensi.
Seorang pengguna di forum Hugging Face bertanya apakah mungkin untuk memulihkan akun mereka, secara khusus mengidentifikasi nama pengguna "zhoucantd". Postingan tersebut menunjukkan sebuah thread diskusi yang melibatkan dua peserta mengenai permintaan ini.
Sebuah konsep baru yang disebut UCTF (Universal Compressed Training Format) mengusulkan lapisan mediator untuk mengatasi redundansi semantik dalam pelatihan LLM multibahasa dengan mengompres berbagai bahasa ke dalam format token terpadu yang bebas bahasa.
Seorang pengguna melaporkan bahwa widget chatbot AI mereka yang sebelumnya berfungsi di situs web mereka telah berhenti bekerja karena kesalahan kebijakan CORS setelah pembaruan Gradio terbaru. Kesalahan tersebut menunjukkan bahwa header 'Access-Control-Allow-Credentials' dalam respons kosong, yang bertentangan dengan mode kredensial permintaan klien.
Artikel ini berargumen bahwa model bahasa besar (LLM) memperoleh kecerdasan semu mereka dari hubungan geometris yang mendalam dan keadaan tersembunyi di dalam bahasa itu sendiri, bukan dari komputasi mekanis independen atau prediksi token sederhana.
Proyek llama.cpp telah merilis versi b9829, yang mencakup pengurangan output logging di server, komponen umum, dan modul decoding spekulatif. Pembaruan ini juga menstandarisasi konvensi penamaan dengan mengganti CMN_ menjadi COM_.
Seorang pengguna di forum Hugging Face mencari kolaborator untuk membangun proyek pembelajaran mesin dan pembelajaran mendalam yang berfokus pada Sudoku. Penulis telah mulai membuat basis data dari awal dan bertujuan untuk mendirikan organisasi independen untuk tujuan ini.
Rilis llama.cpp b9828 memperkenalkan peningkatan signifikan pada OpenCL, khususnya dengan menyusun ulang kernel Flash Attention untuk presisi f16 dan f32. Pembaruan ini mencakup kernel prefill prepass baru serta dukungan untuk format kuantisasi q4_0 dan q8_0.
Seorang pengguna meminta pengalaman mengenai ablasi Mandarin, Rusia, dan Arab dari sebuah model untuk membuat versi yang terutama berbasis Latin. Tujuannya adalah untuk membebaskan ruang bagi pelatihan lebih lanjut atau pemangkasan aman dalam konteks di mana Inggris tidak memiliki aktivasi.
Rilis llama.cpp b9827 memperkenalkan optimasi kinerja untuk CUDA dengan menambahkan jalur cepat cudaMemcpy2DAsync ke fungsi ggml_cuda_cpy. Perubahan ini mempercepat salinan strided tipe dan bentuk yang sama di mana tensor tidak sepenuhnya kontigu tetapi setiap barisnya kontigu, menggantikan kernel salinan skalar elemen-demi-elemen yang lebih lambat.
Proyek llama.cpp telah merilis versi b9825, yang mencakup perbaikan untuk operator langkah Vulkan saat menangani input nol. Pembaruan ini menyediakan biner pra-dibangun untuk macOS, Linux, Windows, Android, dan openEuler di berbagai backend perangkat keras.
Proyek llama.cpp telah menerbitkan rilis b9826, yang mencakup perbaikan untuk kasus uji unit yang gagal terkait fungsi norm pada SYCL. Pembaruan ini menyediakan biner dan kerangka kerja yang sudah dibangun sebelumnya di berbagai platform dan akselerator perangkat keras.
Artikel ini berargumen bahwa agen AI sering mengeksekusi tindakan berdasarkan instruksi yang tidak lengkap dengan menebak informasi yang hilang, sebuah masalah yang disebut "kegagalan konfirmasi pra-eksekusi". Artikel ini mengusulkan struktur yang ditegakkan pada saat runtime yang memerlukan verifikasi hal-hal yang diketahui dan tidak diketahui sebelum tindakan apa pun diambil.
Pembaruan versi 1.15.1 crewAI memperkenalkan fitur baru untuk inisialisasi dan penyebaran proyek, bersama dengan beberapa perbaikan bug dan peningkatan dokumentasi.
Proyek llama.cpp telah menerbitkan rilis b9822, menyediakan biner pra-dibangun untuk macOS, iOS, Linux, Android, dan Windows. Pembaruan ini mencakup perbaikan untuk opsi --no-common pada test-chat-template dan mendistribusikan build di berbagai arsitektur perangkat keras dan akselerator.
Proyek llama.cpp telah menerbitkan versi b9823, menyediakan biner pra-dibangun untuk platform macOS, iOS, Linux, Android, Windows, dan openEuler. Perubahan utama dalam rilis ini adalah penambahan build OpenVINO Windows ke pipeline check-release.