تتحدى أبحاث مايكروسوفت الافتراض القائل بأن استنتاج الذكاء الاصطناعي المادي يجب أن يعمل حصريًا على وحدات معالجة الرسومات (GPUs) المثبتة داخل الروبوت، وتُظهر أن نقله إلى البنية التحتية الطرفية أو السحابية يعزز بشكل كبير أعباء العمل الخاصة بالتلاعب المتنقل. تكشف دراستهم المنهجية لأعباء عمل الروبوتات أن الاعتماد على الحوسبة المدمجة يحد من الأداء وعمر البطارية والقابلية للتوسع.
قامت Parallel بدمج GPT-6 Astra من OpenAI في بنية وكلاء الذكاء الاصطناعي الخاصة بها، محققةً انخفاضاً بنسبة 50% في كل من وقت البحث وتكاليف البرمجيات مقارنة بالنماذج السابقة. تبلغ الشركة أن النموذج الجديد يسمح للوكلاء بإكمال أعمال المعرفة المعقدة بشكل أسرع بكثير مع الحفاظ على جودة عالية للإخراج.
يقدم الباحثون التفريغ بالتفريغ المتوازي (PDD)، وهي طريقة مبسطة تعتمد على المسارات لتسريع الاستدلال في نماذج الانتشار ومطابقة التدفق. وعلى عكس الأساليب الحالية التي تعتمد على تفريغ الدرجات التبايني الصعب التحسين والخسائر التنافسية، يتنبأ PDD بعدة خطوات إزالة الضوضاء لكل تقييم للشبكة.
يقترح الباحثون Onyx، وهو نهج فعال من حيث التكلفة لبحث الجيران الأقربين التقريبي (ANN) غير المدرك للقرص، يوازن بين عرض النطاق وعدد الوصولات عن طريق عكس تصميم أنظمة ORAM-ANN الأكثر تقدمًا.
قدم باحثون من إنفيديا نظام GPIR، الذي يسرّع الاسترجاع الخاص للمعلومات (PIR) على وحدات معالجة الرسومات من خلال معالجة الحساب العالي على جانب الخادم وحركة مرور الذاكرة الكامنة في البروتوكولات القائمة على الشبكات. يستخدم النظام نموذج تنفيذ هجينًا يدرك المراحل، حيث يبدل ديناميكيًا بين kernels على مستوى العملية وعلى مستوى المرحلة لتعظيم إعادة استخدام البيانات داخل الشريحة.
تقدم دراسة جديدة توصيفًا موحدًا على مستوى النظام للحوسبة الآمنة متعددة الأطراف (MPC) والتشفير المتجانس الكامل (FHE) لاستدلال تعلم الآلة الذي يحافظ على الخصوصية. تقيم العمل متغيرين لـ MPC — تحويل المشاركة الحسابية/الثنائية ومشاركة الدوال السرية — جنبًا إلى جنب مع FHE عبر نماذج CNN و Transformer متعددة.
قامت OpenAI بتوسيع منصتها الداخلية للتخزين عبر الإنترنت، المسماة Habitat، للتعامل مع أكثر من 70 مليون طلب في الثانية لأكثر من مليار مستخدم أسبوعيًا لـ ChatGPT عبر ما يقرب من 40 منطقة جغرافية. الآن يقدم النظام أكثر من 500 بيتابايت من البيانات، متطورًا من مكتبة بسيطة تعمل على جانب العميل إلى خدمة موزعة معقدة.
أطلقت ديب سيك V4.1-Flash، وهو نموذج رائد جديد ذو أوزان مفتوحة مصمم لكفاءة استنتاج قصوى وتكلفة منخفضة. يستخدم النموذج بنية مشفر-مفكك سببية لتقليل الحساب النشط وتكاليف KV/الذاكرة المؤقتة بشكل كبير.
أطلقت ديبسيك نموذج DeepSeek v4.1-Flash، وهو نموذج رائد جديد بأوزان مفتوحة يتميز ببنية سبب جديدة لمترجم-مُفكّك مصممة لتعظيم كفاءة الاستدلال وتقليل التكاليف.
أعلنت ديب سيك أيه آي عن إطلاق DeepSeek-V4.1-Flash، وهو نموذج مختلط الخبراء متعدد الوسائط يتميز بنافذة سياق تتكون من مليون رمز وتخزين مؤقت KV بدقة FP4 يقلل من حجم التخزين المؤكي العالمي إلى 890 بايت لكل رمز. يعتمد النموذج على بنية مشفر-مفكك سببية وCompressed Sparse Attention 2 (CSA2) لخفض متطلبات الذاكرة بشكل كبير مع الحفاظ على الأداء.
أصدر مشروع vLLM الإصدار 0.29.0، والذي يتضمن إصلاحًا رئيسيًا للخطأ المتعلق بالتخزين المؤقت للكثيف.
يحدث إصدار v0.29.0rc5 القيمة الافتراضية للمعلمة `prefix_cache_retention_interval` إلى `dense` خصيصًا لنماذج Mamba.
أصدر مشروع llama.cpp الإصدار b11298، الذي يقدم دعمًا لتنسيق dflash. يتيح هذا التحديث كلًا من تحويل النماذج إلى هذا التنسيق وقدرات استخراج الميزات اللاحقة.
أطلقت ThermaCompute AI أداة CrashLens، وهي أداة مجانية ومحلية مصممة لمساعدة المهندسين على التحقيق في تعطل وحدات معالجة الرسومات من خلال تحليل ملفات السجلات. تحدد الأداة أنماط الفشل المعروفة داخل السجلات وتقترح خطوات محددة للتحقيق.
أصدر مشروع llama.cpp الإصدار b11284، الذي يتضمن إصلاحًا للخلفية (backend) الخاصة بـ OpenVINO للتعامل بشكل صحيح مع عمليات GET_ROWS على مشاهد الأوزان المُكمَّاة.
أصدر مشروع llama.cpp الإصدار b11280، والذي يتضمن تغييرًا لتقليل مزامنة allreduce للصفوف عن طريق استخدام مخازن مضبوطة على المضيف.
أصدر مشروع llama.cpp الإصدار b11282، الذي يتضمن إصلاحًا لتعريف ماكرو `CUDA_ARCH` لمرور جهاز MUSA. سابقًا، لم يحدد رأس مورد MUSA هذه المتغير، مما تسبب في تقييم اختبارات الهندسة المعمارية في مصادر ggml-cuda المشتركة إلى صفر ونتج عن ذلك أجسام نواة فارغة.
أضاف مشروع llama.cpp الدعم الأولي لهندسة نموذج GLM-5.3-Flash (GLM5-Next)، بما في ذلك الانتقال إلى ذاكرة الفهرس الهجين وقدرات التنبؤ متعدد الرموز (MTP) المبكرة.
أصدر مشروع llama.cpp الإصدار b11273، الذي يُدخل دعم طريقة `classifier_pooling` في نماذج إعادة الترتيب، ويستهدف بشكل خاص معماريات ModernBERT.
أصدر مشروع llama.cpp الإصدار b11272، الذي يتضمن تحسينات للخلفية Hexagon. يركز التغيير الأساسي على تحسين عملية الربط لتحسين الأداء على عتاد Qualcomm Snapdragon.