La version b9840 de llama.cpp introduit le support de conversion pour le modèle DeepSeek V4, incluant un traitement spécifique pour la variante Pro. Cette mise à jour intègre la nouvelle architecture dans la bibliothèque avec diverses optimisations internes et corrections de bugs.
OpenAI Economic Research a étendu son cadre de transition des emplois liés à l'IA à l'Union européenne, en utilisant la taxonomie ESCO et les données d'Eurostat pour analyser comment les capacités de l'IA pourraient remodeler les marchés du travail dans les États membres.
Le projet llama.cpp a publié la version b9839, qui inclut une correction pour restaurer le balayage Tailwind dans les worktrees ignorés. Cette mise à jour fournit des binaires précompilés pour macOS, Linux, Android, Windows et openEuler sur diverses architectures et backends d'accélération matérielle.
Le projet llama.cpp a publié la version b9838, fournissant des binaires préconstruits pour un large éventail de systèmes d'exploitation et d'accélérateurs matériels. Cette version inclut le support du CPU, du GPU (CUDA, Vulkan, ROCm, OpenCL) et des accélérateurs IA spécialisés sur macOS, Linux, Windows, Android et openEuler.
L'architecture de contexte générationnel (GCA) propose de traiter la fenêtre de contexte d'un LLM comme une durée de vie finie plutôt que comme un stockage infini afin de résoudre la « pourriture du contexte » et la dilution de l'attention dans les systèmes multi-agents. En imposant une mortalité artificielle, les agents sont terminés avant que leurs performances ne se dégradent, transmettant leur état aux nouvelles générations via un coffre-fort Markdown en fichier plat.
Un chercheur indépendant a analysé l'évolution des représentations cachées pendant l'inférence sur sept modèles open-weight, dont GPT-2, OPT-125M et Llama-3.2-1B, pour identifier des régimes dynamiques internes au-delà des benchmarks de sortie standard.
Ce projet de recherche indépendant caractérise la dynamique interne de sept modèles de langage de taille petite et moyenne en analysant comment les représentations cachées évoluent pendant l'inférence, plutôt que de s'appuyer sur des benchmarks de sortie standard. L'étude examine le comportement dynamique, l'organisation fonctionnelle et la géométrie des représentations pour identifier des motifs reproductibles à travers différentes architectures.
Un développeur a créé un outil de prédiction pour la Coupe du Monde 2026 qui utilise des données historiques pour simuler les résultats du tournoi. L'application fournit des probabilités de victoire et des prédictions de score pour n'importe quelle paire d'équipes nationales, basées sur des motifs appris à partir d'environ 50 000 matchs internationaux couvrant plus d'un siècle.
Carles Marin a publié un guide open-source, bilingue (anglais et espagnol), qui relie les fondements mathématiques des architectures Transformer à leur implémentation pratique. La ressource se concentre sur la mécanique de bas niveau, en fournissant du code reproductible et des éléments interactifs pour expliquer des sujets complexes.
Un guide open-source et bilingue (anglais/espagnol) détaillant le fonctionnement interne des Transformers a été publié. La ressource couvre les mathématiques exactes et les mécanismes derrière des concepts tels que l'effondrement de l'attention et la compression du KV-cache.
HP Inc. intensifie son partenariat stratégique avec OpenAI à la suite de pilotes réussis, déployant l'IA dans les expériences client, la productivité des employés et le développement logiciel. L'entreprise utilise la plateforme OpenAI Frontier comme modèle d'exploitation unifié pour gouverner le contexte, les autorisations et l'évaluation alors qu'elle passe de cas d'utilisation expérimentaux à une production à l'échelle de l'entreprise.
Le projet llama.cpp a publié la version b9837, qui introduit un nouveau drapeau `--reasoning-preserve` pour le modèle de chat Jinja afin de conserver les jetons de raisonnement. Cette mise à jour inclut également des messages d'aide corrigés et fournit des binaires préconstruits pour macOS, Linux, Windows, Android et openEuler sur divers backends matériels.
L'auteur présente HoLo-ToLk, un projet de recherche qui construit des modèles de parole vers texte (STT) et de texte vers parole (TTS) en utilisant la base d'octets HSL à zéro paramètre sans tokenizers ni embeddings d'apprentissage. Le travail démontre que les octets HSL bruts peuvent servir de signal viable pour le traitement audio lorsqu'ils sont combinés avec des modifications architecturales spécifiques.
Le projet llama.cpp a publié la version b9835, qui inclut une correction pour les fonctionnalités d'arrêt et de saut de raisonnement en mode mono-modèle. Cette mise à jour résout des problèmes spécifiques au sein de l'interface utilisateur afin d'améliorer le contrôle pendant l'inférence du modèle.
Un utilisateur de forum pose une question spéculative concernant le fait d'entraîner des réseaux neuronaux ou des systèmes d'IA à comprendre le code binaire, ce qui pourrait-il améliorer significativement leurs capacités globales, en particulier dans les tâches de codage.
Un utilisateur propose un concept de site web où les individus échangent des données contre des données pour entraîner des modèles d'IA, éliminant ainsi le besoin de transactions monétaires. Le système fonctionne sur une économie basée sur les crédits où les utilisateurs commencent avec un montant fixe de crédits et publient des primes pour des besoins spécifiques en données.
Le projet llama.cpp a publié la version b9833, introduisant un analyseur dédié pour le modèle MiniCPM5 ainsi que diverses corrections de bugs et refactorisations. Cette mise à jour inclut la prise en charge de l'analyse des appels d'outils, la simplification de la grammaire et la correction du comportement de l'API Jinja pour assurer la compatibilité avec les normes Jinja2.
Le projet llama.cpp a publié la version b9832, introduisant une nouvelle option en ligne de commande `--dump-prog` pour le moteur de templates Jinja afin d'aider au débogage. Cette mise à jour inclut également des binaires précompilés pour macOS, Linux, Android, Windows et openEuler sur diverses architectures CPU et GPU.
La version b9831 de llama.cpp introduit le support de DFlash v2, incluant l'attention à fenêtre glissante par type de couche, ainsi qu'un ensemble complet de binaires préconstruits pour plusieurs plateformes.
La version b9830 de llama.cpp introduit la possibilité d'utiliser le drapeau --offline avec la commande llama download, permettant aux scripts de vérifier les modèles en cache sans accès réseau. Cette mise à jour résout également une vulnérabilité use-after-free latente dans le callback on_done de la tâche URL où first_path était incorrectement capturé par référence.