media r/LocalLLaMA · 1 jam lalu · open_models

Perusahaan menggunakan GLM-5.3 Flash untuk produksi jutaan baris kode

Diterjemahkan dari English → Bahasa Indonesia

Seorang pengembang melaporkan menggunakan GLM-5.3 Flash secara internal untuk tugas teknik perangkat lunak dalam lingkungan produksi besar dengan jutaan baris kode, menggantikan model terdepan.

Model tersebut menangani repositori besar dengan baik, memahami arsitektur yang ada, dan melacak kode di seluruh beberapa modul untuk menghasilkan implementasi yang solid dengan panduan minimal. Model ini berkinerja kuat dalam eksplorasi repositori, implementasi fitur, dan refactoring, menawarkan rasio kecepatan-terhadap-kualitas yang mengesankan untuk beban kerja teknik perangkat lunak dunia nyata.

Penulis tertarik pada detail pipeline pelatihan spesifik, seperti data pra-pelatihan, penggunaan data koding sintetis, distilasi dari model GLM yang lebih besar, dan metode pembelajaran penguatan.

Kepentingan 2/3 r/LocalLLaMA Code generation Inference efficiency

Baca aslinya

Fireworks AI merilis Ember-1, model pasca-pelatihan Kimi K3 yang menggunakan 40% lebih sedikit token

Fireworks AI telah merilis Ember-1, sebuah model khusus yang dibuat dengan melakukan pelatihan ulang pada Kimi K3 berbobot terbuka dari Moonshot AI untuk menghasilkan jejak penalaran yang lebih pendek sambil mempertahankan akurasi tugas. Berbeda dengan sekadar menurunkan pengaturan upaya penalaran saat inferensi, Ember-1 dilatih untuk menghilangkan penalaran redundan dan loop yang tidak produktif.

lab OpenAI News · 25 hari lalu · 54 tayangan

OpenAI meningkatkan layanan penyimpanan Habitat hingga 70 juta permintaan per detik

OpenAI telah meningkatkan platform penyimpanan online internalnya, Habitat, untuk menangani lebih dari 70 juta permintaan per detik bagi lebih dari satu miliar pengguna ChatGPT mingguan di hampir 40 wilayah geografis. Sistem ini kini melayani lebih dari 500 petabyte data, berevolusi dari pustaka sisi klien Python sederhana menjadi layanan terdistribusi yang kompleks.

media r/LocalLLaMA · 26 hari lalu · 86 tayangan

CyberTiel 35B-A3B tanpa sensor kuantisasi 4-bit mengalahkan Opus 4.6 medium pada masalah basis kode

Seorang peneliti anonim telah merilis CyberTiel 35B-A3B, model terkuantisasi 4-bit tanpa sensor yang dirancang untuk penelitian keamanan ofensif dan rekayasa perangkat lunak agentic. Model ini dibangun melalui abliteration pada basis TielCoder dan dikuantisasi dengan imatrix yang ditingkatkan yang berasal dari korpus sibersekuriti yang dikurasi.

github llama.cpp · 35 hari lalu · 65 tayangan

qwen4exp menambahkan dukungan rollback keadaan rekuren untuk decoding spekulatif MTP

Proyek qwen4exp telah mengimplementasikan dukungan rollback keadaan rekuren untuk memungkinkan decoding spekulatif Multi-Token Prediction (MTP) yang efektif. Perubahan ini memungkinkan keadaan target mundur sebanyak jumlah token draf yang ditolak, mencegah serialisasi tidak perlu dari seluruh keadaan rekuren ke memori host.

media Hugging Face Forums · 64 hari lalu · 45 tayangan

Qxern-v6 menggunakan token laten dan sidecar AST untuk transfer kode yang lebih cepat dan akurat

Sistem Qxern-v6 memungkinkan dua LLM berkomunikasi melalui 32 token laten terkompresi sambil mempertahankan akurasi simbol yang tepat melalui sidecar Abstract Syntax Tree (AST) deterministik adaptif. Dibangun oleh pengembang berusia 15 tahun, arsitektur ini menggunakan Qwen2.5-Coder-1.5B untuk mengompresi kode dan decoder Qwen3.5-0.8B yang beku untuk menafsirkannya tanpa melihat teks mentah.