media Hugging Face Forums · 1 jam lalu · open_models

OncoLLM mengadaptasi MedGemma 4B dan 27B ke tugas onkologi dengan Unsloth

Diterjemahkan dari English → Bahasa Indonesia

Peneliti telah melakukan fine-tuning pada model MedGemma 4B dan 27B untuk tugas onkologi menggunakan Unsloth, menyelesaikan proses pada satu DGX Spark. Model OncoLLM yang dihasilkan, bersama dengan dataset pelatihan dan laporan terperinci, tersedia secara publik.

Model 4B di-fine-tune menggunakan LoRA, sedangkan model 27B menggunakan QLoRA.
Catatan teknis menyoroti bahwa versi Unsloth 2026.9.12 menskalakan adapter 4B sekitar 0.5 alih-alih rasio alpha/nominal sebesar 0.25.
Model sumber dan kode dikreditkan kepada Grujowmi (ANTOINE Pierre) di Hugging Face, dengan laporan lengkap yang dihosting di Zenodo.

Kepentingan 1/3 Kepercayaan 1/3 Hugging Face Forums Inference efficiency Open weights

Baca aslinya

Aleph Alpha merilis Kolibri, model MoE bahasa Inggris-Jerman 78.1B dengan 3.46B parameter aktif

Aleph Alpha telah merilis Kolibri-1, sebuah model bahasa Mixture-of-Experts bobot terbuka yang dirancang untuk tugas bilingual bahasa Inggris dan Jerman. Model ini memiliki 78.1 miliar parameter total tetapi hanya mengaktifkan 3.46 miliar per token, memungkinkannya berjalan pada satu GPU B200, B300, atau H200.

media r/LocalLLaMA · 6 hari lalu · 108 tayangan

ISTA merilis GGUF GSQ-RCO untuk Qwen3.8-Flash-Next dan build Coder yang memangkas 50% ahli

Lab Algoritma dan Sistem Deep ISTA telah merilis versi GGUF terkuantisasi dari model sparse mixture-of-experts Qwen3.8-Flash-Next, bersama dengan build eksperimental yang ditargetkan pada kemampuan tertentu dengan separuh ahlinya dihilangkan.

media Hugging Face Forums · 10 hari lalu · 51 tayangan

VeriLoop E2: Model pasca-pelatihan 27B dengan tangga GGUF dari BF16 ke IQ1_M

Lab Robot SIGS Tsinghua telah merilis VeriLoop E2, sebuah model pasca-pelatihan 27B yang dibangun di atas Qwen3.8-27B untuk kode yang dapat diverifikasi, matematika, dan penalaran ilmiah. Rilis ini memperkenalkan VeriLoop-Governed Recurrence (VGR), yang memisahkan generasi dari verifikasi eksternal untuk memastikan transisi keadaan secara ketat meningkatkan dimensi bukti.

lab Hugging Face Blog · 14 hari lalu · 37 tayangan

tokenizers v1 release candidate menghadirkan pengodean 3-30x lebih cepat melalui pemisahan bitstream dan caching

Pustaka tokenizers telah merilis kandidat rilis versi 1 yang secara signifikan meningkatkan kinerja untuk pengodean teks, mengatasi hambatan dalam alur kerja pelatihan dan penyajian. Pembaruan ini mempertahankan kompatibilitas API dengan v0.23 sambil memberikan percepatan substansial di seluruh sepuluh keluarga model.

lab Hugging Face Blog · 14 hari lalu · 38 tayangan

Multiverse merumuskan ulang penghapusan blok LLM sebagai optimasi Ising untuk kompresi mendalam

Multiverse telah merilis makalah yang mendetailkan metode yang membingkai ulang pemangkasan model bahasa besar sebagai masalah optimasi biner terkendali yang dipetakan ke kaca Ising. Dengan memperlakukan blok transformer sebagai spin dengan kopling berpasangan yang diturunkan dari Hessian kerugian, pendekatan ini mengidentifikasi konfigurasi penghapusan blok optimal tanpa memerlukan benchmarking iteratif.