机制可解释性

研究发现LLaMA-3模型中的算术启发式神经元在符号算术、自然语言问题和Python代码三种形式间具有高度共享性，跨格式计算失败主要源于激活状态差异而非独立电路。

最新研究揭示，对齐语言模型的安全拒绝机制存在脆弱性，仅需在提示前添加简单前缀即可使其绕过安全限制生成有害内容。研究通过多模型实验定位了拒绝机制失效的具体位置和原理。

研究团队探索语言模型代理在神经网络电路解释任务中的潜力，提出HyVE代理解释框架，并在半合成电路基准测试中验证其有效性。