A DeepSeek está treinando seus modelos usando o hardware Ascend 950 da Huawei. Essa mudança segue uma declaração de Liang Wenfeng feita há 26 meses sobre a necessidade de alguém chegar à fronteira.
O SLAI apresenta o T-Rex, um framework de otimização de ponta a ponta para o pós-treinamento de todos os parâmetros de modelos MoE na escala de trilhões de parâmetros no Ascend NPU SuperPOD. Utilizando a família de modelos DeepSeek-V4 como carga de trabalho alvo, o sistema aborda a pressão de memória e a sobrecarga de comunicação por meio de paralelismo hierárquico e otimizações de execução de kernels.
O SLAI apresenta o T-Rex, um framework de otimização de ponta a ponta para o pós-treinamento de todos os parâmetros de modelos MoE na escala de trilhão de parâmetros no Ascend NPU SuperPOD. Usando a família de modelos DeepSeek-V4 como carga de trabalho alvo, o sistema aborda a pressão de memória e a sobrecarga de comunicação por meio de paralelismo hierárquico e otimizações de execução de kernel.
Um usuário do Reddit pergunta por que alguém gastaria entre $50.000 e $60.000 em um servidor AI com duas RTX 6000 Pro para executar o DeepSeek v4 Flash. O autor observa que, embora tenha recebido anteriormente feedback de proprietários que não se arrependem de ter comprado o hardware, ele está buscando esclarecimentos sobre a lógica por trás de uma etiqueta de preço tão alta para este modelo específico.
A Huawei pausou sua expansão internacional de chips de inteligência artificial porque a demanda doméstica na China está superando a oferta disponível. Essa mudança estratégica significa que os concorrentes AMD e Nvidia já não enfrentam pressão imediata da entrada global da Huawei no mercado.
Um usuário desenvolveu uma implementação personalizada que permite que o modelo DeepSeek V4.1 seja executado em GPUs NVIDIA A100 com desempenho superior ao da API oficial.
Usamos cookies para medir o tráfego e melhorar o site. Você pode aceitar ou recusar os cookies de análise. Política de privacidade