DeepSeek, 화웨이 Ascend 추론 스택 오픈소스…DeepGEMM·DeepEP·FlashMLA 공개

DeepSeek가 9월 30일 화웨이 Ascend용 AI 추론 인프라와 핵심 구성요소를 오픈소스로 공개했습니다. 새 모델을 낸 것이 아니라, DeepSeek가 다른 가속기에서 써온 행렬곱·MoE 통신·sparse attention 계열 최적화를 Ascend 950에서도 구현할 수 있도록 코드를 공개한 것이 핵심입니다. DeepSeek의 FlashMLA 기술 문서는 이번 공개 범위를 Huawei Ascend 플랫폼의 “inference infrastructure and core components”라고 설명합니다.

같은 공개 흐름에서 확인되는 핵심 구현은 DeepGEMM-Ascend, DeepEP-Ascend, 그리고 FlashMLA의 Ascend sparse attention 커널입니다. DeepGEMM-Ascend는 MIT 라이선스로 공개됐고 기존 DeepGEMM과 같은 API·개발 흐름을 유지합니다. DeepEP-Ascend 역시 공개 버퍼 API를 기존 NVIDIA용 DeepEP와 맞췄습니다. 즉 DeepSeek 계열 모델을 Ascend에서 돌릴 때 필요한 저수준 연산과 통신 구현을 개발자가 직접 확인하고 수정할 수 있는 범위가 넓어졌습니다.

행렬곱·MoE 통신·sparse attention을 각각 Ascend로 옮겼습니다

특히 DeepGEMM-Ascend는 DeepSeek가 공개한 Ascend 950DT 자체 측정에서 dense GEMM 일부 항목이 하드웨어 한계의 최대 99.8%에 도달했다고 제시합니다. FlashMLA의 sparse attention 커널도 V4.1의 전형적 workload에서 prefill 410 TFlops와 decoding 360 TFlops를 기록해 각각 이론상 한계의 95%와 83%라고 설명합니다.

다만 이 숫자를 “V4.1 전체가 99% 효율”이라고 읽으면 안 됩니다

위 수치는 서로 다른 커널과 조건을 측정한 DeepSeek 자체 벤치마크입니다. DeepGEMM의 99.8%는 특정 dense GEMM 형상에서의 최고치이고, FlashMLA의 95%·83%도 sparse attention 연산에 대한 수치입니다. 모델 전체의 실제 토큰 생성 속도나 비용이 같은 비율로 개선됐다는 의미는 아닙니다.

DeepEP-Ascend에도 재현 조건이 있습니다. 공식 README는 Ascend 950DT와 CANN 9.2.0에서 EP 크기 32 이하의 dispatch가 물리적 payload 대역폭의 대략 90~95%에 도달했다고 설명하지만, 이 측정에는 DeepSeek에 제공된 PoC HDK와 수동 설정이 사용됐다고 밝힙니다. 일반 사용자가 기준으로 삼을 상용 Q3 HDK는 문서 작성 시점에 아직 공개되지 않았고, 화웨이가 10월 중순 공개를 계획하고 있다고 적혀 있습니다.

“CUDA를 대체했다”기보다 Ascend에서 DeepSeek 스택을 직접 최적화할 길을 연 변화입니다

이번 항목을 수집한 보도는 공개 목적을 NVIDIA CUDA 의존도를 낮추는 방향으로 설명했습니다. 다만 현재 확인된 공식 코드만 놓고 보면, 이것을 모든 CUDA 워크로드를 그대로 대체하는 범용 호환층으로 보는 것은 과합니다. 공개된 것은 DeepSeek의 핵심 연산·통신 라이브러리와 sparse attention 구현을 Ascend 950에 맞춘 코드이며, 각 저장소가 지원하는 기능과 하드웨어 범위도 명시돼 있습니다.

그래도 의미는 분명합니다. DeepSeek는 이번에 자사 모델을 화웨이 Ascend에서 빠르게 돌리는 데 필요한 핵심 소프트웨어 층을 공개 코드로 확장했습니다. 앞으로 볼 지점은 이 코드가 Ascend 950의 공개 상용 소프트웨어 환경에서도 같은 수준으로 재현되는지, 그리고 vLLM 같은 일반적인 서빙 스택에서 얼마나 빠르게 채택되는지입니다.