模型架构

研究团队通过控制实验对比了级联分解与联合多任务建模两种范式在分层有害语言检测中的表现，发现级联架构在准确率上具有优势，但需要付出更高的参数成本和推理延迟代价。

研究者提出Loopie系列模型，通过创新的循环Transformer架构与专家混合设计，在同等计算预算下显著超越传统Transformer基线，并在国际数学与物理奥赛中展现金牌级推理能力。

上海人工智能实验室在WAIC 2026上发布新一代科学智能体基座，采用非Transformer架构‘Mobius’，以3970亿参数实现与万亿级模型相当的科学推理能力。

最新研究发现语言模型通过「共享值槽+路由选择」的双重机制，在计算层面实现角色信念与客观现实的分离。该机制在多个模型架构中表现一致，为理解模型心智理论能力提供新视角。

最新研究发现，结构化思维干预对大型语言模型战略推理能力的影响高度依赖模型架构，GPT标准版与推理优化版对同一干预措施呈现相反反应。

研究人员提出完全原创的小语言模型架构Wiola，包含螺旋位置编码、跨层注意力等五大创新组件，已发布四个参数规模版本并兼容HuggingFace生态。

研究者提出SEA架构，通过冻结基础模型与版本化封装，让AI代理在严格验证机制下实现安全自进化。实验显示该架构能有效利用基础模型能力，防止性能退化。

Together AI推出稳定循环语言模型Parcae，仅用770M参数即可达到1.3B Transformer模型性能，并首次提出循环扩展定律。

通义千问团队正式推出Qwen2.5-Max模型，聚焦超大规模混合专家模型的智能提升路径，为行业提供新的技术探索方向。