认知过程

研究人员提出通过分解大语言模型的认知过程，检测其内部激活信号中的“不端行为指标”，从而更可靠地识别模型的战略欺骗、自我保全等危险行为，为AI安全部署提供新工具。