突破模型崩溃瓶颈：KITE框架让AI在合成数据迭代训练中持续进化

在大型语言模型的迭代进化过程中，使用合成数据进行训练面临一个关键挑战——模型崩溃。随着后代模型越来越多地依赖模型生成的数据进行训练，性能可能因数据覆盖范围收窄和偏差累积而退化。传统研究主要关注如何限制这种退化，但在迭代模型演化中，更重要的目标是确保每个后续模型都能超越前代。

最新研究发现，指令调优场景下的模型崩溃并非简单的性能全面退化，而是表现为能力极化现象：合成数据训练会强化模型已有的强项技能，同时进一步削弱其薄弱环节。这种发现促使研究团队开发出KITE框架。该框架采用两阶段设计：第一阶段通过失败案例引导生成针对性数据，第二阶段基于知识边界的不确定性进行数据筛选。

实验证明，在多个数据集和开源大模型上，KITE框架相比现有合成数据基线方法，能够实现更稳定的性能提升。这项研究为突破模型崩溃瓶颈提供了新思路，使AI系统在持续使用合成数据训练时仍能保持进化动力，对推动大模型可持续发展具有重要意义。