SLAI представляет T-Rex, полнопараметрическую фреймворк постобучения для семейства моделей DeepSeek-V4 на инфраструктуре Ascend SuperPOD. Система решает проблемы давления памяти и накладных расходов на коммуникацию в триллионно-параметрических моделях MoE через иерархическую оптимизацию.

  • Достигает 34.22% Model FLOPs Utilization (MFU), что является улучшением в 2.93 раза по сравнению с открытой базовой версией.
  • Устанавливает рабочий процесс CPT и SFT для задач операционных исследований, используя синтетические данные, проверенные решателями.
  • Специализированная модель DeepSeek-V4-Flash достигает показателя zero-shot Pass@1 в 71.81%, превосходя GPT-5.4-Mini на 3.98 процентных пункта.

Эта работа демонстрирует эффективный путь для постобучения передовых моделей на оборудовании Ascend и создания специализированных возможностей для сложных рассуждений.