Kimi K2.7 Code 推出高速模式,推理速度提升高达6倍

月之暗面近日宣布,为其开源多模态编程模型 Kimi K2.7 Code 推出名为 'HighSpeed' 的高速模式。该模式显著提升了模型在代码生成与理解任务上的推理速度。官方数据显示,在处理中等长度输入的编程任务时,速度可达约每秒180个令牌(tok/s),而在短上下文任务中,峰值速度更可提升至每秒260个令牌,相比之前版本实现了最高6倍的性能加速。

目前,Kimi K2.7 Code HighSpeed 模式已开始向 Kimi Code 测试计划(Beta Program)的成员、Kimi API 开发者以及 Kimi Business 商业用户逐步开放体验。由于初期计算资源有限,访问权限将暂时保持受限状态。公司表示,无需邀请,任何加入测试计划的用户均有机会获得访问资格。

月之暗面在公告中重申其'开放智能应即时、可负担且无边界'的理念,并承诺将持续优化模型性能,随着未来计算能力的扩充,将进一步扩大该高速模式的访问范围。此举被视为该公司在提升AI编程工具实用性与可及性方面的重要一步。

Kimi代码生成模型开源模型推理加速月之暗面

原文来源:https://x.com/Kimi_Moonshot/status/2066467110960959833

相关阅读

Kimi K3用户热情超预期,算力告急暂停新订阅
Kimi推出企业会员订阅服务,支持对公转账与专属技术支持
月之暗面 Kimi 官网已上线,AI 助手迎来新篇章
月之暗面发布Kimi K3:2.8万亿参数、百万上下文原生多模态大模型
月之暗面开源FlashKDA:基于CUTLASS的高性能Delta Attention内核

← 返回