价值对齐

研究者提出多层组合融合框架MCF-CVA，通过多智能体协作与动态融合机制，让大模型能更好地理解不同情境下的人类价值观，相比单智能体基线取得显著提升。

研究表明，AI系统若过度优化不完美的人类价值代理，可能导致灾难性后果，凸显了限制优化压力的重要性。