Kimi深夜发布k1.5多模态模型性能超GPT-4o和Claude 3.5 Sonnet

编辑 | 伊风出品 | 51CTO技术栈（微信号：blog51cto）

昨晚十点，Kimi推送了一条令人瞩目的消息。他们以平静的姿态发布了一款SOTA模型——k1.5多模态思考模型，其性能表现堪称逆天。

k1.5在short-CoT模式下，多项能力大幅超越了全球短思考SOTA模型GPT-4o和Claude 3.5 Sonnet，领先幅度高达550%。在long-CoT模式下，其数学、代码、多模态推理能力也达到了长思考SOTA模型OpenAI o1满血版的水平。更令人惊喜的是，这是Kimi首次发布训练报告《Kimi k1.5：借助大语言模型实现强化学习的Scaling》，报告长达25页。

k1.5在强化训练方面做了大量创新，尤其是Long2short技术，让许多技术者眼前一亮。这份报告堪称“压箱底”的干货，高效思维链也被许多人视为即将引领新潮流的技术。github链接：https://github.com/MoonshotAI/Kimi-k1.5。

作为专注产品侧的闭源模型，Kimi能主动分享技术细节，实属可贵。在越来越封闭的AI领域，这一点尤为难得。

与此同时，开源顶流DeepSeek也推出了推理模型——DeepSeek-R1，硅谷AI圈再次掀起技术研究的浪潮。

Kimi此次发布k1.5也延续了惯例，测试报告一经发布，C端产品便陆续上线，用户可通过切换模型体验k1.5。

遗憾的是，目前k1.5尚未大规模灰度开放，小编也未找到网友的实测案例。只能满怀期待，静候更多用户体验。

### 1. k1.5到底有多强

作为SOTA模型，Kimi k1.5的性能表现令人瞩目。

首先，短链思维链是k1.5的最大亮点。短链思维链的核心在于简单高效，通过生成一个概括性的中间推理步骤来帮助回答问题。k1.5的数学、代码、视觉多模态和通用能力，大幅超越了GPT-4o和Claude 3.5 Sonnet，领先550%。除了视觉能力稍显不足，其他方面堪称超前。

在长链思维链模式下，k1.5的数学、代码、多模态推理能力依然与OpenAI o1正式版看齐。长链思维链专注于复杂问题，如数学证明、复杂因果关系、推理等，需要模型多思考几步，生成更丰富的逻辑推理链条。从报告来看，k1.5与OpenAI的较量可谓旗鼓相当。

更有含金量的是，这可能是OpenAI之外公司首次实现o1正式版的多模态推理性能。

### 2. SOTA之路：Kimi模型是如何训练出来的

Kimi在强化学习方面展现出强大的实力，越战越勇。去年11月发布k0-math数学模型，次年1月推出k1视觉思考模型，如今k1.5多模态思考模型的横空出世，让人不禁感叹Kimi下了一盘大棋。

我们先来看Kimi官方给出的k1.5的几个关键词，再深入探讨其最大的创新技术Long2short。

#### 2.1 k1.5的关键词

k1.5的三个关键词：长上下文扩展、改进的策略优化、多模态能力。

**长上下文扩展**。Kimi将RL的上下文窗口扩展到128k，并观察到随着上下文长度的增加，性能持续提升。这一关键思想是使用部分展开（partial rollouts）来提高训练效率，即通过重用大量先前的轨迹来采样新的轨迹，避免从头开始生成新轨迹的成本。这一突破意味着强化学习，让大模型向更复杂和长时记忆任务迈进了一步。

**改进的策略优化**。Kimi推导出了long-CoT的RL公式，并采用在线镜像下降的变体进行稳健的策略优化。该算法通过有效采样策略、长度惩罚和数据配方的优化进一步改进。

**多模态能力**。模型在文本和视觉数据上联合训练，具备联合推理两种模态的能力。数学能力出众，但由于主要支持LaTeX等格式的文本输入，对依赖图形理解能力的几何图形题应对不足。

#### 2.2 long2short方法

k1.5的Long2short方法值得技术者深入学习。这一创新证明，Long-CoT模型的推理先验知识可以顺利转移到Short-CoT模型中。Short-CoT模型不仅效果显著提升，还避免了Long-CoT的高token消耗。

在AIME上达到60.8分，MATH500上达到94.6分，LiveCodeBench上达到47.3分，k1.5在短链思维推理方面大幅超越了GPT-4和Claude Sonnet 3.5（提升550%）。报告还披露了Long-CoT改进Short-CoT的具体实现方法，包括模型合并、最短拒绝采样、DPO、long2short强化学习等多种方法。