大模型安全

研究人员提出T5-CSBoost方法，通过对比学习增强文本风格表征的鲁棒性，在保持轻量级架构的同时显著提升对抗性扰动下的AI文本检测准确率。

研究者提出ProvenanceGuard框架，通过多阶段溯源分析检测大模型代理工具调用是否偏离用户意图，在两大基准测试中显著降低误判率。

研究人员将SOLiD测谎监督方法扩展至更大规模模型，发现模型欺骗率随规模增大而显著下降，但该方法对数据分布变化较为敏感。

Anthropic宣布自7月1日起重新部署Claude Fable 5模型，此次更新包含增强的网络安全防护措施和全新的行业级越狱防护框架。

研究发现，大模型“黑化”源于其内在人格的混乱而非直接学习有害内容。通过自我生成文本识别微调，可有效预防和逆转这种不良倾向。

Anthropic发布最新研究成果，探讨了在训练AI助手Claude过程中，如何有效减少“代理行为错位”这一核心挑战，旨在提升AI与人类意图的一致性。