تُقدّم إصدار llama.cpp b10306 تحسينات في الأداء للخلفية SYCL، مستهدفةً على وجه التحديد عمليات وحدة الخطية المقننة (GLU). يضيف التحديث مسارًا سريعًا متواصلًا لعمليات GLU المدمجة ويوحّد النوى المختلفة سابقًا لمشاركة مُطلق مشترك.
يُمدّ إصدار llama.cpp b10255 مسار oneDNN SDPA لدعم مخازن المفاتيح والقيم (KV) غير FP16، بما في ذلك صيغ الكمّ Q4_0–Q8_0 وFP32. يسمح هذا التحديث بتشغيل نواة systolic المدمجة بنفس طريقة المسار الأصلي FP16 من خلال فك الكمّ أو تحويل موترات K/V إلى FP16 كثيف على الجهاز قبل المعالجة.
أعلنت Lucebox عن شراكة مع AMD لعرض إعداد عتاد مستهلك غير متجانس يتفوق على Nvidia DGX Spark في سرعة الاستدلال. يجمع النظام بين وحدة معالجة الرسومات AMD Radeon AI PRO R9700 ومعالج Strix Halo لتشغيل نموذج DeepSeek V4 Flash الكامل بحجم 284B.
تجادل المقالة بأن استغلال وحدات معالجة الرسومات، بدلاً من ذكاء النموذج، أصبح القيد الرئيسي في الذكاء الاصطناعي المؤسسي، مستخلصةً أوجه تشابه مع استغلال طائرات شركات الطيران حيث تتراكم التكاليف بالساعة بغض النظر عن الاستخدام.
تجادل باتiens سترونق بأن الشبكات العصبية الحالية تستهلك طاقة حوسبة مفرطة عن طريق محاكاة الدوائر في البرمجيات بدلاً من تنفيذها كعتاد فيزيائي. تقترح الورقة استبدال هذه المحاكاة بجهاز أشباه موصلات حيث يتم تخزين الأوزان والانحيازات في ذاكرة غير متطايرة.
أطلقت Ai2 منصة OlmoEarth، وهي بنية تحتية مصممة لنقل نماذج أساسية لمراقبة الأرض من مرحلة الضبط الدقيق إلى الاستدلال واسع النطاق. تتعامل المنصة مع التحديات الهندسية لمعالجة تيرابايتات من البيانات الفضائية متعددة الوسائط عبر مزودين ودقة مختلفة.
أطلقت Moonshot أوزان نموذج Kimi K3 الخاص بها على Hugging Face، بـ 2.8 تريليون معلمة وهندسة mixture-of-experts مع 16 خبير نشط لكل توكن. تخطط الفريق لنشر النموذج عبر وحدات GPU من نوع A100 و H200 و B300، مع توقع نتائج الاختبارات المرجعية هذا الأسبوع.
أصدر مشروع llama.cpp الإصدار b10099، والذي يتضمن تحديثًا كبيرًا لخلفية CUDA لتحسين كمي التنشيط NVFP4 W4A4.
وقعت آي بي إم اتفاقاً نهائياً لاقتناء مختبرات إتش آر إل، وهي مؤسسة بحثية تاريخية قدمت مساهمات علمية تمتد لنحو 80 عاماً. تهدف عملية الاستحواذ إلى تسريع رؤية آي بي إم في الحوسبة الكمومية من خلال دمج الخبرة المتقدمة لمختبرات إتش آر إل في هندسة كيوبتات الدوران السيليكوني.
وقعت كل من AMD وAnthropic اتفاقية كبرى تتضمن عشرات المليارات من الدولارات في خوادم الذكاء الاصطناعي، حيث ستقوم Anthropic بشراء ما يصل إلى 2 جيجاواط من شرائح Instinct MI450 من AMD بدءاً من النصف الأول من العام المقبل. بالتزامن مع ذلك، ستستثمر AMD ما يصل إلى 5 مليارات دولار في Anthropic مع استيفاء مراحل نشر محددة، بينما تتعاون الشركتان على تحديد مراكز البيانات المناسبة لهذا العتاد.
تُقدّم SLAI إطار عمل T-Rex، وهو إطار تحسين متكامل للتدريب اللاحق الكامل المعلمات لنماذج MoE ذات الحجم التريليوني من المعلمات على Ascend NPU SuperPOD. باستخدام عائلة نماذج DeepSeek-V4 كحملة عمل مستهدفة، يتعامل النظام مع ضغط الذاكرة وأعباء الاتصال من خلال التسامح المتوازي الهرمي وتحسينات تنفيذ النواة.
تُقدّم SLAI إطار عمل T-Rex، وهو إطار تحسين متكامل من البداية للنهاية للتدريب اللاحق الكامل المعاملات لنماذج MoE ذات التريليون معامل على Ascend NPU SuperPOD. باستخدام عائلة نماذج DeepSeek-V4 كحملة عمل مستهدفة، يتعامل النظام مع ضغط الذاكرة وفوق استهلاك الاتصالات من خلال التوازي الهرمي وتحسينات تنفيذ النواة.
تم اختيار شركة آي بي إم من قبل وزارة الطاقة الأمريكية (DoE) لقيادة مشروع ضمن طلب التطبيقات الخاص بمهمة جينيسيس، ملتزمةً بتقديم ما يصل إلى 50 مليون دولار من الوصول إلى الحوسبة الكمية لدعم المبادرة.
أعلنت OpenAI عن تفاصيل مشروع كاميليا، وهو مشروع طويل الأمد لمركز بيانات في مقاطعة إيفينغهام بولاية جورجيا، موضحةً التزاماتها المجتمعية الأولية بشأن الطاقة والمياه والفوائد المحلية. تتعاقد الشركة مع شركة جورجيا باور للحصول على 3.2 غيغاواط من الطاقة سيتم تسليمها بين عامي 2028 و2032.
يغطي هذا النشرة الإخبارية TLDR AI عدة تطورات في صناعة الذكاء الاصطناعي، بما في ذلك الأجهزة الجديدة، ووكلاء البرامج، وتحسينات التوجيه.
أعلنت توغير AI واي كومبينتور عن شراكة لتقديم أول مجموعة حواسيب GPU مخصصة حصرياً لمحفظة شركات واي كومبينتور الناشئة في مجال الذكاء الاصطناعي. تهدف هذه المبادرة إلى حل الاختناق الحرج في الوصول إلى القدرة الحسابية من خلال توفير بنية تحتية مرنة وفعّالة من حيث التكلفة للتدريب والاستنتاج دون الحاجة إلى التزامات طويلة الأجل.
أصبحت شركة الذكاء الاصطناعي الصينية Moonshot AI الأولى في الصين التي نفدت منها قدرة وحدات معالجة الرسومات. ونتيجة لذلك، قررت الشركة تعليق الاشتراكات الجديدة وإلغاء الوصول المجاني للمستخدمين.
تفصل Together AI المتطلبات المعمارية المحددة اللازمة لتحقيق مستويات موثوقية مختلفة للاستدلال باستخدام وحدات معالجة الرسومات، وتجادل بأن أرقام اتفاقيات مستوى الخدمة (SLA) القياسية غالباً ما تحجب مجالات الفشل الفعلية المغطاة.
توضح إنفيديا كيف يمكن للتصميم المشترك المتطرف مع معالجات BlueField الخاصة بها معالجة تحديات البنية التحتية التي تفرضها أعباء عمل الذكاء الاصطناعي الوكيل. تجادل الشركة بأنه مع قيام الأنظمة الوكيلية بتشغيل سلاسل معقدة من استدعاءات النماذج، وتفاعلات الأدوات، واستعلامات البيانات، فإن أنماط البنية التحتية التقليدية غير كافية للحفاظ على الأداء.
أضافت NVIDIA تعليمات PTX جديدة للضرب الخالي من الحمل في CUDA 13.3، مما يعالج فجوة طويلة الأمد حيث كانت وحدات معالجة الرسومات تفتقر إلى الدعم الأصلي لهذه العملية على الرغم من وجودها على معالجات x86 لأكثر من خمسة عشر عاماً.