安全对齐

研究发现BPE分词机制会将安全关键词拆分为子词片段，导致字符级扰动能有效绕过主流大语言模型的安全对齐，在五类模型上攻击成功率高达80-100%。

研究者提出HARC微调方法，通过耦合提示端与响应端的有害性与拒绝方向，在保持模型通用能力的同时显著提升对抗攻击的防御能力。该方法在五大模型家族上验证有效，无需架构特定调整。

研究者提出PolicyAlign框架，允许大语言模型直接根据自然语言描述的安全政策进行对齐，无需依赖传统的标注数据，在提升安全性的同时保持模型通用能力。

研究发现，大语言模型在遭遇越狱攻击时，其内部中间层的熵值动态变化会呈现特定模式，这为检测恶意意图提供了新线索。