快科技3月2日新闻，日前摩尔线程发布，跟着DeepSeek开源周收官，摩尔线程在短时光内，胜利实现对DeepSeek各个开源名目的片面支撑，涵盖FlashMLA、DeepEP、DeepGEMM、DualPipe 以及 Fire-Flyer文件体系（3FS）。摩尔线程表现，这一结果最靠谱的滚球平台充足验证了MUSA架构跟全功效GPU在生态兼容与疾速适配方面的强盛上风。以下是摩尔线程支撑DeepSeek开源周“百口桶”代码合集：FlashMLA：FlashMLA是一款高效的MLA（Multi-Head Latent Attention）推理内核开源堆栈，旨在减速MLA机制的盘算，特殊实用于DeepSeek系列模子（如DeepSeek-V2、V3跟R1）。摩尔线程基于全新MUSA Compute Capability 3.1盘算架构，可供给原生FP8盘算才能，同时进级了高机能线性代数best365官网登录入口模板库MUTLASS，疾速支撑了FlashMLA。借助MUTLASS 0.2.0，摩尔线程宣布开源堆栈MT-FlashMLA，可能疾速对DeepSeek FlashMLA停止兼容安排。MT-FlashMLA开源地点：https://github.com/MooreThreads/MT-flashMLAMUTLASS FlashAttention3地点：https://github.com/MooreThreads/mutlass/tree/main/experimental/mp31_flash_attention_fwdDeepEP：DeepEP是一个用于MoE（混杂专家）模子练习跟推理的开源EP（expert parallelism，专家并行）通讯库，重要实用于年夜模子练习，特殊是须要EP的集群练习。它经由过程优化通讯信道的应用率，明显晋升了练习效力。摩尔线程基于MUSA Compute Capability 3.1全功效GPU，第一时光适配了DeepEP。MT-DeepEP开源地点：https://github.com/MooreThreads/MT-DeepEPDeepGEMM：DeepGEMM是一个支撑麋集矩阵与混杂专家（MoE）矩阵乘法的FP8 GEMM库，为V3/R1的练习与推理供给强盛能源。这个开源堆栈基于高机能通用矩阵乘法（GEMM）的C++模板库停止开辟，摩尔线程基于MUTLASS在全新GPU架构上优化实现了FP8矩阵乘法，支撑DeepGEMM的响应功效。MUTLASS FP8 GEMM地点：https://github.com/MooreThreads/mutlass/tree/main/examples/02_mp31_fp8_gemm_with_collective_builderhttps://github.com/MooreThreads/mutlass/tree/main/examples/03_mp31_fbest365足球官网p8_scaling_gemmDualPipe：DualPipe是DeepSeek-V3提出的双向流水线并行算法，经由过程前向盘算与后向盘算阶段的盘算与通讯完整堆叠，明显增加了“流水线气泡”（装备闲暇等候）。与传统流水线并行比拟，DualPipe 采取双向数据流计划，使数据从两头相向处置，年夜幅晋升了资本应用率与练习效力。 摩尔线程依靠深度进修框架Torch-MUSA（已开源）跟MUSA软件栈全方位的兼容性，实现了对DualPipe这一算法的高效支撑。MT-DualPipe能够完全接入摩尔线程 MT-Megatron框架跟MT-TransformerEngine框架（行将开源），实现DeepSeek V3练习流程的完全复现。MT-DualPipe开源地点：https://github.com/MooreThreads/MT-DualPipeTorch-MUSA开源地点：https://github.com/MooreThreads/Torch_MUSA3FS：Fire-Flyer文件体系（3FS）是一种应用古代SSD跟RDMA收集的全体带宽的并行文件体系，能够把固态硬盘的带宽机能应用到极致。摩尔线程在一天内实现了高机能散布式文件体系3FS的搭建，并高效开辟了存储插件，胜利实现与夸娥智算集群的无缝集成，为AI练习、AI推理、迷信盘算等场景供给全栈存储减速计划。3FS CSI Driver地点：https://github.com/MooreThreads/csi-driver-3fs【本文停止】如需转载请务必注明出处：快科技义务编纂：彩色