摩尔线程完成Kimi K3适配支持2.8万亿参数开源大模型

观点网讯：7月28日，据摩尔线程发布，月之暗面正式开源2.8万亿参数模型KimiK3，并发布模型权重与技术报告。

同日，摩尔线程基于AI训推一体智算卡MTTS5000及MUSA软件栈，率先完成KimiK3的极速适配与稳定拉起。

KimiK3是全球首个开源的3万亿级别模型，拥有2.8万亿参数，基于KDA混合线性注意力机制和注意力残差技术构建，采用GatedMLA与StableLatentMoE等架构创新，原生支持视觉理解，并拥有100万token上下文窗口。

元股证券:ygzq.hk

摩尔线程在模型开源后第一时间完成模型结构解析、权重加载、核心算子、缓存管理与分布式运行链路的适配，并打通从SGLang-MUSA推理框架到MATE算子库、TritonMUSA、TileLangMUSA的适配路径。

针对KimiK3官方MXFP4checkpoint港股怎么玩，摩尔线程设计了加载期在线逐层量化方案，无需离线转换，为Day-0快速拉起模型推理提供了关键支撑。

元股证券股票交易提示：本文来自互联网，不代表本网站观点。

为什么电动自行车假牌、套牌泛滥，也很难全面严查？原因有四