JetBrains发布Mellum2：120亿参数MoE模型，专为代码生成优化

JetBrains近日正式开源了其首个大型语言模型Mellum2。该模型采用12B参数的混合专家架构，专门针对代码生成、编程问答和软件开发辅助场景进行优化训练。

Mellum2基于JetBrains长期积累的IDE工具使用数据与代码分析经验构建，在保留通用语言理解能力的同时，显著提升了代码相关任务的性能。模型采用MoE设计，可在推理时动态激活部分参数，兼顾效果与效率。

JetBrains表示，Mellum2将与其开发工具生态深度集成，未来可为IntelliJ IDEA等IDE提供更智能的代码补全、错误检测和重构建议功能。此次开源标志着传统开发工具厂商正积极拥抱AI技术转型。

目前模型已在Hugging Face平台发布，支持研究者和开发者下载使用。业界认为，这为代码专用大模型领域提供了新的技术选项。