Alibaba a annoncé des plans pour développer un modèle d'intelligence artificielle contenant entre 5 et 10 billions de paramètres. Parallèlement à cette feuille de route, l'entreprise a également dévoilé une nouvelle puce personnalisée conçue pour soutenir ses besoins en infrastructure.
Huawei a suspendu son expansion internationale de puces d'intelligence artificielle parce que la demande intérieure en Chine dépasse l'offre disponible. Ce changement stratégique signifie que les concurrents AMD et Nvidia ne font plus face à une pression immédiate due à l'entrée mondiale de Huawei sur le marché.
Une proposition sur Hugging Face discute de deux problèmes interconnectés dans l'IA : la dépendance à l'entraînement de grands modèles séparés et la dépendance de l'écosystème aux GPU à usage général.
Le projet llama.cpp a publié la version b11059, qui introduit des mises à jour significatives pour le backend Metal sur les matériels Apple Silicon. Le changement principal est l'ajout du support des entrées F16 au noyau de Transformée de Walsh-Hadamard rapide (FWHT), lui permettant de lire directement des sources F16 sans nécessiter de copie convertie.
Le projet llama.cpp a augmenté la limite de row-id hoistée pour l'opération Vulkan mul_mat_id de 256 à 1024 experts. Cette modification résout les goulots d'étranglement de performance dans les modèles avec un grand nombre d'experts, tels que Qwen3.8-Flash-Next, qui s'exécutait précédemment sur un chemin de code plus lent en raison des contraintes de taille du tableau partagé.
Le projet llama.cpp a publié la version b10997, qui inclut une modification de l'heuristique de tuile ncols_opt de Mixture of Experts (MoE) pour prendre en charge l'architecture RDNA3.5.
La version llama.cpp b10994 inclut une correction pour le backend Metal qui résout les sorties NaN dans l'opération `mul_mm_id` lorsque les valeurs d'activation dépassent la plage f16. Ce défaut causait précédemment des vocabulaires entièrement NaN pour des modèles comme Mistral Small 4 lors des étapes de préremplissage de 32 tokens ou plus sur les appareils Apple Silicon.
Les chercheurs présentent ShareMMU, une conception de IOMMU qui permet à plusieurs accélérateurs non fiables de réutiliser en toute sécurité des adresses pré-traduites dans un espace d'adresse virtuel partagé. Cette approche atténue les risques de canaux auxiliaires associés aux grands tampons de traduction partagés (TLB) tout en maintenant des performances élevées.
L'auteur a développé MOLT, un runtime prioritairement pour Windows dédié à l'affinage QLoRA conscient de la thermique sur des GPU NVIDIA grand public, et l'a comparé à Unsloth en utilisant un million de cibles d'entraînement Qwen 1.5B sur un GPU RTX 4060 Laptop.
Un utilisateur a développé une implémentation personnalisée permettant d'exécuter le modèle DeepSeek V4.1 sur des GPU NVIDIA A100 avec des performances supérieures à celles de l'API officielle.
Une proposition sur les forums de Hugging Face décrit une couche commune d'exécution GPU et de gestion de la mémoire conçue pour découpler le code applicatif des fournisseurs matériels spécifiques tels que NVIDIA, AMD et Intel. L'objectif est de permettre aux utilisateurs de spécifier un budget mémoire plutôt que de configurer manuellement des indicateurs spécifiques au backend, des cartes de périphérique ou des stratégies de déchargement.
Les chercheurs proposent Onyx, une approche efficiente en coûts pour la recherche de plus proches voisins approximatifs (ANN) disk-oblivious qui équilibre la bande passante et le nombre d'accès en inversant la conception des systèmes ORAM-ANN les plus avancés.
Des chercheurs de NVIDIA ont présenté GPIR, un système qui accélère la Récupération Privée d'Informations (PIR) sur les GPU en traitant le calcul élevé et le trafic mémoire côté serveur inhérents aux protocoles basés sur des treillis. Le système emploie un modèle d'exécution hybride conscient des étapes qui bascule dynamiquement entre les noyaux au niveau de l'opération et au niveau de l'étape pour maximiser la réutilisation des données sur la puce.
Une nouvelle étude présente une caractérisation unifiée au niveau système du calcul multipartite sécurisé (MPC) et du chiffrement entièrement homomorphe (FHE) pour l'inférence d'apprentissage automatique préservant la confidentialité. Le travail évalue deux variantes de MPC — conversion de partage arithmétique/binaire et partage secret de fonctions — ainsi que FHE sur plusieurs modèles CNN et Transformer.
L'équipe des noyaux de Together AI a optimisé la bibliothèque ThunderKittens pour exploiter les nouvelles fonctionnalités de la plateforme NVIDIA Vera Rubin NVL72, en ciblant spécifiquement une performance améliorée pour les multiplications matricielles NVFP4 et FP8.
Together AI annonce la prévisualisation publique du calcul preemptible pour Together GPU Clusters sur Kubernetes, offrant une option moins coûteuse pour les charges de travail tolérantes aux interruptions. Les nœuds preemptibles utilisent la capacité accélérée NVIDIA inutilisée et sont facturés à 50 % fixes du tarif on-demand.
Le projet llama.cpp a publié la version b10891, qui résout un problème critique de stabilité sur les GPU PowerVR. La mise à jour modifie le backend Vulkan pour qu'il recoure à la réduction par mémoire partagée pour les opérations de multiplication matrice-vecteur déquantifiée (dmmv).
Beatriz Yankelevich du groupe Engineering Quantum Systems du MIT a utilisé GPT‑5.6 Sol, intégré à Codex, pour exécuter et affiner de manière autonome les mesures routinières sur des qubits supraconducteurs. Cette intégration permet à l'agent IA d'utiliser les logiciels de laboratoire, d'analyser les résultats et de décider des étapes suivantes sans surveillance humaine constante.
Anthropic a sécurisé des baux de capacité de calcul d'une valeur de 517 milliards de dollars au cours des 11 derniers mois, équivalant à 14,8 GW, principalement avec Google et AWS. Cette expansion comprend de grands accords avec des fournisseurs de cloud comme Akamai et Fluidstack, ainsi qu'un accord de 45 milliards de dollars avec Nscale.
Le projet llama.cpp a publié la version b10839, qui résout des plantages critiques dans le backend Vulkan causés par des décalages non alignés lors des opérations de récupération des lignes de tenseurs. Auparavant, des modèles comme Qwen3-TTS et Qwen3-VL échouaient lorsqu'ils utilisaient `ggml_view` avec des décalages de vue non nuls, car le shader déclenchait une assertion en cas de violation d'alignement par rapport à `minStorageBufferOffsetAlignment`. Cette mise à jour implémente un support natif pour les décalages alignés dans les chemins quantifiés et non quantifiés, éliminant ainsi le besoin de replis sur le CPU.