越狱攻击

Anthropic 首次公开 Fable 5 模型网络安全分类器的具体拦截范围，并发布了越狱攻击严重性评估框架草案。

研究发现，大语言模型在遭遇越狱攻击时，其内部中间层的熵值动态变化会呈现特定模式，这为检测恶意意图提供了新线索。