过度优化

研究表明，AI系统若过度优化不完美的人类价值代理，可能导致灾难性后果，凸显了限制优化压力的重要性。