OpenAI a publié la version 0.21.0 du SDK openai-agents-python, introduisant de nouveaux utilitaires de test indépendants du fournisseur et mettant à jour la compatibilité pour la version 3 de la bibliothèque Python d'OpenAI.
Le projet llama.cpp a ajouté la prise en charge du modèle textuel Kimi-K3, implémentant son architecture d'attention hybride KDA (linéaire) + MLA (complet) ainsi que cinq caractéristiques architecturales spécifiques absentes de l'ancien Kimi-Linear-48B.
Le projet llama.cpp a publié la compilation b10447, qui inclut un redessin du modèle de threads `yield_to_queue`. Ce changement implique l'exécution de `common_speculative_process` dans le worker et le remplacement du design du thread worker vers le thread principal.
Le projet llama.cpp a publié la version b10444, introduisant le support pour charger des modèles assistants de Prédiction Multi-Tokens (MTP) via le drapeau `--models-dir`. Cette mise à jour inclut également une vérification stricte du préfixe pour les modèles MTP dans les préréglages et supprime le support du type de brouillon eagle3.
Un préprint intitulé "Steer on a Sphere: Geometric Control of Transformer Outputs" analyse la géométrie des états cachés du Transformer, constatant qu'ils résident sur une sphère définie par l'échelle RMSNorm par couche plutôt que par la taille de la dimension. Ce rayon varie considérablement entre les architectures, telles que DeepSeek-7B et Mistral-7B.