media r/LocalLLaMA · il y a 9 h · open_models

DeepSeek entraîne désormais des modèles sur Ascend 950

Traduit de English → Français

DeepSeek entraîne ses modèles en utilisant le matériel Ascend 950 de Huawei. Ce changement fait suite à une déclaration de Liang Wenfeng faite il y a 26 mois concernant la nécessité pour quelqu'un de se rendre à la pointe.

DeepSeek a adopté les puces Ascend 950 pour l'entraînement des modèles.
Le mouvement s'aligne sur la directive précédente de Liang Wenfeng visant à atteindre la pointe.

Importance 2/3 r/LocalLLaMA DeepSeek NVIDIA Hardware & chips

Lire l'original

SLAI T-Rex permet le post-entraînement à paramètres complets de DeepSeek-V4 sur Ascend SuperPOD

SLAI présente T-Rex, un framework d'optimisation de bout en bout pour le post-entraînement à paramètres complets de modèles MoE à l'échelle du trillion de paramètres sur Ascend NPU SuperPOD. En utilisant la famille de modèles DeepSeek-V4 comme charge de travail cible, le système adresse la pression mémoire et les frais de communication grâce à un parallélisme hiérarchique et des optimisations d'exécution de noyaux.

arxiv arXiv cs.CL · il y a 70 j · 26 vues

SLAI T-Rex permet le post-entraînement à paramètres complets de DeepSeek-V4 sur Ascend SuperPOD

SLAI présente T-Rex, un framework d'optimisation de bout en bout pour le post-entraînement à paramètres complets de modèles MoE à l'échelle du trillion de paramètres sur Ascend NPU SuperPOD. En utilisant la famille de modèles DeepSeek-V4 comme charge de travail cible, le système adresse la pression mémoire et les frais de communication grâce au parallélisme hiérarchique et aux optimisations d'exécution de noyaux.

media r/LocalLLaMA · il y a 87 j · 25 vues

Questions des utilisateurs sur le coût de 50 à 60 k$ pour un serveur dual RTX 6000 Pro exécutant DeepSeek v4 Flash

Un utilisateur de Reddit demande pourquoi quiconque dépenserait entre 50 000 et 60 000 $ pour un serveur IA dual RTX 6000 Pro afin d'exécuter DeepSeek v4 Flash. L'auteur note qu'il a précédemment reçu des retours indiquant que les propriétaires ne regrettent pas l'achat du matériel, mais il cherche à clarifier la logique derrière un tel prix élevé pour ce modèle spécifique.

media r/LocalLLaMA · il y a 9 j · 14 vues

Huawei met en pause le déploiement mondial de ses puces IA car la demande intérieure en Chine dépasse l'offre

Huawei a suspendu son expansion internationale de puces d'intelligence artificielle parce que la demande intérieure en Chine dépasse l'offre disponible. Ce changement stratégique signifie que les concurrents AMD et Nvidia ne font plus face à une pression immédiate due à l'entrée mondiale de Huawei sur le marché.

media r/LocalLLaMA · il y a 18 j · 26 vues

Un code personnalisé permet à DeepSeek V4.1 de fonctionner plus vite que l'API officielle sur les GPU A100

Un utilisateur a développé une implémentation personnalisée permettant d'exécuter le modèle DeepSeek V4.1 sur des GPU NVIDIA A100 avec des performances supérieures à celles de l'API officielle.