EN 提交工具
模型

月之暗面开源 Kimi K3 模型,2.8 万亿参数

发布时间: 信源:IT之家(RSS)

分享XFacebook微博

月之暗面正式开源 Kimi K3 模型,该模型拥有 2.8 万亿参数、100 万 token 上下文窗口,并原生支持视觉理解。Kimi K3 基于 KDA 混合线性注意力机制构建,结合 Stable LatentMoE 框架在 896 个专家中激活 16 个,整体扩展效率相比 K2 提升约 2.5 倍。

阅读原文 (在新窗口打开)

资讯动态数据由 AI HOT 聚合提供

相关资讯同类最新动态
· X:Artificial Analysis (@ArtificialAnlys)
· IT之家(RSS)
· X:Rohan Paul (@rohanpaul_ai)
· X:Kim (@kimmonismus)