media r/LocalLLaMA · 9시간 전 · open_models

DeepSeek, 이제 Ascend 950 에서 모델 학습

번역 English → 한국어

DeepSeek 는 Huawei 의 Ascend 950 하드웨어를 사용하여 모델을 학습하고 있습니다. 이 변화는 26 개월 전에 Liang Wenfeng 이 최전선에 나설 필요가 있다고 발표한 성명에 이어진 것입니다.

DeepSeek 는 모델 학습에 Ascend 950 칩을 채택했습니다.
이 움직임은 Liang Wenfeng 의 이전 지시인 최전선 도달과 일치합니다.

중요도 2/3 r/LocalLLaMA DeepSeek NVIDIA Hardware & chips

원문 보기

SLAI의 T-Rex가 Ascend SuperPOD에서 DeepSeek-V4의 전체 파라미터 사후 학습을 가능하게 함

SLAI는 Ascend NPU SuperPOD에서 트릴리언 파라미터 규모의 MoE 모델에 대한 전체 파라미터 사후 학습을 위한 엔드투엔드 최적화 프레임워크인 T-Rex를 소개합니다. DeepSeek-V4 모델 계열을 대상 워크로드로 사용하여, 이 시스템은 계층적 병렬 처리 및 커널 실행 최적화를 통해 메모리 압박과 통신 오버헤드를 해결합니다.

arxiv arXiv cs.CL · 70일 전 · 조회수 26회

SLAI의 T-Rex가 Ascend SuperPOD에서 DeepSeek-V4의 전체 파라미터 사후 학습을 가능하게 함

SLAI는 Ascend NPU SuperPOD에서 트릴리언 파라미터 규모의 MoE 모델에 대한 전체 파라미터 사후 학습을 위한 엔드투엔드 최적화 프레임워크인 T-Rex를 소개합니다. DeepSeek-V4 모델 계열을 대상 워크로드로 사용하여, 이 시스템은 계층적 병렬 처리와 커널 실행 최적화를 통해 메모리 압박과 통신 오버헤드를 해결합니다.

media r/LocalLLaMA · 87일 전 · 조회수 25회

DeepSeek v4 Flash 실행을 위한 듀얼 RTX 6000 Pro의 $50,000~$60,000 비용에 대한 사용자 질문

한 레딧 사용자는 DeepSeek v4 Flash를 실행하기 위해 듀얼 RTX 6000 Pro AI 서버에 $50,000에서 $60,000을 지출하는 이유를 묻고 있습니다. 작성자는 이전에 하드웨어 구매를 후회하지 않는다는 피드백을 받았음을 인정하지만, 이 특정 모델에 대한 이러한 높은 가격 태그의 논리에 대한 명확화를 요구하고 있습니다.

media r/LocalLLaMA · 9일 전 · 조회수 14회

중국 내 수요가 공급을 초과하면서 화웨이가 글로벌 AI 칩 출시를 보류

화웨이는 중국 내부의 수요가 가용 공급량을 초과함에 따라 인공지능 칩의 국제적 확장을 일시 중단했습니다. 이러한 전략적 전환으로 인해 AMD와 엔비디아 등의 경쟁사는 화웨이의 글로벌 시장 진입으로 인한 즉각적인 압박을 더 이상 받지 않게 되었습니다.

media r/LocalLLaMA · 18일 전 · 조회수 26회

사용자 지정 코드로 A100 GPU에서 DeepSeek V4.1이 공식 API보다 빠르게 실행됨

한 사용자가 DeepSeek V4.1 모델을 NVIDIA A100 GPU에서 공식 API를 초과하는 성능으로 실행할 수 있는 사용자 지정 구현을 개발했습니다.