安全AI

研究者提出DROPJ方法，通过人类在模拟环境中的偏好选择和理由说明，训练出更安全可靠的智能体策略，无需预设奖励函数即可在未知动态环境中实现安全部署。