EN 提交工具
产品

Kimi 开源 FlashKDA 注意力核实现

发布时间: 信源:X:Kimi.ai (@Kimi_Moonshot)

分享XFacebook微博

我们已开源 FlashKDA,这是我们基于 CUTLASS 的高性能 Kimi Delta Attention 核实现。 它在 H20 上相比 flash-linear-attention 基线实现了 1.72 倍至 2.22 倍的预填充加速,并可作为 flash-linear-attention 的即插即用后端。 在 GitHub 上探索:http://github.com/MoonshotAI/FlashKDA

阅读原文 (在新窗口打开)

资讯动态数据由 AI HOT 聚合提供

相关资讯同类最新动态
· X:Kimi.ai (@Kimi_Moonshot)
· X:opencode (@opencode)
· LMSYS:Blog(Chatbot Arena 团队)
· X:OpenAI (@OpenAI)
· X:OpenRouter (@OpenRouter)