模型
月之暗面开源 Kimi K3 模型,2.8 万亿参数
月之暗面正式开源 Kimi K3 模型,该模型拥有 2.8 万亿参数、100 万 token 上下文窗口,并原生支持视觉理解。Kimi K3 基于 KDA 混合线性注意力机制构建,结合 Stable LatentMoE 框架在 896 个专家中激活 16 个,整体扩展效率相比 K2 提升约 2.5 倍。
资讯动态数据由 AI HOT 聚合提供
月之暗面正式开源 Kimi K3 模型,该模型拥有 2.8 万亿参数、100 万 token 上下文窗口,并原生支持视觉理解。Kimi K3 基于 KDA 混合线性注意力机制构建,结合 Stable LatentMoE 框架在 896 个专家中激活 16 个,整体扩展效率相比 K2 提升约 2.5 倍。
资讯动态数据由 AI HOT 聚合提供