JAX
2건
기사 통계를 확인하고 있습니다.
-
딥시크 V3 구조, 순수 JAX 190줄로 재현
MLA·MoE·균형 조정·MTP를 구현한 3,620만 매개변수 모델이 맥북 에어에서 처음부터 학습됐다.
-
NVIDIA, JAX용 Transformer Engine으로 드롭리스 MoE 학습 10배 가속
NVIDIA가 JAX Transformer Engine 커널 최적화로 DeepSeek-V3 MoE 학습의 GPU당 처리량을 10.4배 높였다고 밝혔다.