lab DeepSeek (Hugging Face) · 581 hari lalu

Keluarga Falcon3 merilis lima model terbuka dengan kemampuan sains, matematika, dan kode yang lebih baik

Diterjemahkan dari English → Bahasa Indonesia

Tim Falcon telah merilis keluarga model terbuka Falcon3, sebuah iterasi baru yang menekankan perluasan kemampuan sains, matematika, dan kode. Rilis ini mencakup lima model dasar: Falcon3-1B, 3B, 7B, dan 10B (berbasis transformer), serta Falcon3-Mamba-7B (SSM).

Inovasi utama meliputi pra-pelatihan skala besar tunggal untuk model 7B menggunakan 14 triliun token, peningkatan kedalaman untuk membuat model 10B terbaik saat ini, dan distilasi pengetahuan untuk model kecil yang efisien. Keluarga ini mendukung panjang konteks hingga 32k token dan tersedia dalam berbagai format termasuk Instruct, GGUF, dan varian terkuantisasi.

Hasil benchmark menunjukkan Falcon3-10B-Base mencapai kinerja terbaik saat ini di bawah 13 miliar parameter, dengan skor kuat pada MATH-Lvl5 (22.9) dan GSM8K (83.0). Model-model ini dirilis di bawah lisensi Falcon LLM, dengan varian multimodal yang direncanakan untuk Januari 2025.

Kepentingan 2/3 DeepSeek (Hugging Face) Stability AI Benchmark results Open weights

Benchmark

Benchmark	Model	Skor
Berkeley Function-Calling Leaderboard	Falcon3-10B-Instruct	86.3%
IFEval	Falcon3-10B-Instruct	78%
IFEval	Falcon3-1B-Instruct	54.4%
MMLU-Pro	Falcon3-10B-Base	42.5%
MMLU-Pro	Falcon3-7B-Base	39.2%
MMLU-Pro	Falcon3-3B-Instruct	29.7%
GSM8K	Falcon3-10B-Instruct	83.1%
GSM8K	Falcon3-10B-Base	83%
GSM8K	Falcon3-7B-Base	79.1%
MBPP	Falcon3-10B-Base	73.8%
MMLU	Falcon3-10B-Base	73.1%
MMLU	Falcon3-7B-Base	67.4%
BIG-Bench Hard	Falcon3-10B-Base	59.7%
BIG-Bench Hard	Falcon3-7B-Base	51%

Baca aslinya

Moonshot AI merilis Kimi K3, model MoE dengan 2,8 triliun parameter

Pada 16 Juli, Moonshot AI merilis model andalan terbarunya, Kimi K3, sebuah arsitektur Mixture of Experts (MoE) dengan 2,8 triliun parameter. Perusahaan telah berjanji untuk merilis bobot model pada 27 Juli.

media MarkTechPost · 15 jam lalu

Feyn AI merilis keluarga model text-to-SQL SQRL yang memeriksa basis data sebelum melakukan kueri

Feyn AI telah merilis SQRL, sebuah keluarga model text-to-SQL yang memeriksa isi basis data melalui probe baca-saja untuk menyelesaikan ambiguitas sebelum menghasilkan kueri akhir. SQRL-35B-A3B sebagai andalan mencapai akurasi eksekusi 70,6% pada benchmark BIRD Dev, mengungguli Claude Opus 4.6.

media MarkTechPost · 1 hari lalu · 4 tayangan

Kimi K3, DeepSeek V4 Pro, dan GLM-5.2 dibandingkan pada benchmark, lisensi, dan biaya penyajian

Sebuah perbandingan tiga model Sparse Mixture-of-Experts berbobot terbuka—Kimi K3 dari Moonshot AI, DeepSeek V4 Pro, dan GLM-5.2 dari Zhipu AI—mengevaluasi kemampuan, ketentuan lisensi, dan biaya penyajian mereka untuk beban kerja pemrograman jangka panjang dan agen.

media Latent Space · 3 hari lalu

Moonshot AI meluncurkan Kimi K3, model frontier terbuka dengan 2,8T parameter

Moonshot AI telah memperkenalkan Kimi K3, model open-weights kelas frontier baru yang memiliki total 2,8 triliun parameter dan kemampuan input multimodal asli. Secara resmi diposisikan sebagai "Open Frontier Intelligence", model ini mendukung jendela konteks 1 juta token dan memanfaatkan komponen arsitektur inovatif seperti Kimi Delta Attention (KDA) dan Attention Residuals untuk meningkatkan efisiensi.

media AI News (smol.ai) · 3 hari lalu

Moonshot meluncurkan Kimi K3, model open-weights dengan 2.8T parameter

Moonshot AI telah meluncurkan Kimi K3, sebuah model open-weights kelas frontier dengan 2,8 triliun parameter dan input multimodal asli. Model ini dilengkapi dengan Kimi Delta Attention (KDA) untuk decoding yang lebih cepat pada konteks panjang dan diposisikan untuk alur kerja agentic coding jangka panjang.