产品
Kimi 开源 FlashKDA 注意力核实现
发布时间:
信源:X:Kimi.ai (@Kimi_Moonshot)
分享XFacebook微博
我们已开源 FlashKDA,这是我们基于 CUTLASS 的高性能 Kimi Delta Attention 核实现。
它在 H20 上相比 flash-linear-attention 基线实现了 1.72 倍至 2.22 倍的预填充加速,并可作为 flash-linear-attention 的即插即用后端。
在 GitHub 上探索:http://github.com/MoonshotAI/FlashKDA
阅读原文 (在新窗口打开)
资讯动态数据由 AI HOT 聚合提供
相关资讯同类最新动态
· X:Kimi.ai (@Kimi_Moonshot)
· X:opencode (@opencode)
· LMSYS:Blog(Chatbot Arena 团队)
· X:OpenAI (@OpenAI)
· X:OpenRouter (@OpenRouter)