github llama.cpp · à l'instant · inference

llama.cpp b10153 ajoute le support du modèle Nanbeige4.2

Traduit de English → Français

Le projet llama.cpp a publié la compilation b10153, qui introduit le support de l'architecture du modèle Nanbeige4.2.

Ajoute la compatibilité pour charger et exécuter les modèles Nanbeige4.2.
Corrige les vérifications de linting flake8 dans la base de code.
Corrige les vérifications des bornes de boucle et supprime la logique redondante de head_dim.
Fournit des binaires pour macOS (Apple Silicon et Intel), Linux, Windows, Android et iOS via CPU, CUDA, ROCm, Vulkan, OpenVINO, SYCL et autres backends.

Cette mise à jour permet aux utilisateurs d'utiliser le modèle Nanbeige4.2 dans le cadre llama.cpp tout en bénéficiant d'améliorations générales de la qualité du code.

Importance 1/3 Confiance 1/3 llama.cpp Local inference

Lire l'original

llama.cpp b10150 ajuste la logique de déchargement ggml et corrige le graphe dsv4

Le projet llama.cpp a publié la compilation b10150, qui inclut des ajustements à la logique ggml pour les opérations de déchargement vers le backend des poids. Cette mise à jour traite également des corrections pour le graphe llama dsv4.

media Hugging Face Forums · il y a 4 h

TraceML ajoute un callback Hugging Face Trainer pour diagnostiquer les goulots d'étranglement du chargement des données

L'auteur a intégré un outil de diagnostic dans TraceML, un projet d'observabilité PyTorch open-source, pour aider les utilisateurs à distinguer les problèmes de performance d'entraînement limités par le calcul GPU et ceux limités par l'entrée. Cette nouvelle fonctionnalité permet aux développeurs d'identifier rapidement si une faible utilisation du GPU est causée par un chargement lent des données ou par des limites réelles de calcul du modèle.

github llama.cpp · il y a 6 h · 1 vue

Aaron Teo ajoute l'argument -lm mlock à llama.cpp

Aaron Teo a soumis une modification au dépôt llama.cpp qui introduit un nouvel argument en ligne de commande `-lm mlock`. Cette ajout permet aux utilisateurs de verrouiller explicitement la mémoire dans les régions où le code effectue des opérations `mlock` mais n'utilise pas `mmap`.

github llama.cpp · il y a 4 j

llama.cpp b10093 corrige le template DeepSeek v4 et ajoute le drapeau drop_reasoning

Le projet llama.cpp a publié la build b10093, qui comprend des mises à jour spécifiques pour prendre en charge les modèles DeepSeek v4. La release traite de la gestion des templates et introduit de nouveaux drapeaux de configuration pour cette famille de modèles.

media Hugging Face Forums · il y a 5 j

Forge génère et compile des interfaces utilisateur isolées pour les modèles Hugging Face dans le navigateur

Amin Musah a construit Forge, un terrain de jeu open-source dans le navigateur pour les modèles Hugging Face qui génère dynamiquement des interfaces utilisateur en utilisant un modèle de code séparé. Le système crée un composant TSX basé sur les spécifications de la tâche, que le navigateur compile ensuite côté client avec esbuild-wasm et exécute dans un iframe isolé.