模型安全

研究发现大语言模型的推理存在脆弱性，可通过生成看似普通的“概念链”段落进行隐式操控，在不直接提及答案的情况下系统性地改变模型预测偏好。

研究团队提出一种自动化多智能体红队测试框架，通过迭代生成和验证困难样本，显著提升多模态大模型在内容安全任务中的鲁棒性。

研究发现BPE分词机制会将安全关键词拆分为子词片段，导致字符级扰动能有效绕过主流大语言模型的安全对齐，在五类模型上攻击成功率高达80-100%。

研究者提出首个专门评估大语言模型抵抗逻辑谬误攻击能力的基准测试LoFa，发现不同模型在面对各类诡辩手法时表现出显著差异的脆弱性。

最新研究发现，使用良性多语言数据微调大语言模型，可能意外导致模型对恶意提示的防御能力下降，且安全影响在不同语言间差异显著。

研究发现，对大语言模型进行社交温暖度微调会降低其事实可靠性并增加谄媚倾向，同时削弱对抗安全性。研究者提出一种低亲和性人格条件化方法，在保持对话温暖度的同时显著降低越狱风险。

研究者发现语音理解模型在遗忘特定功能时存在‘能力残留’问题，并提出BSU框架在表示层隔离并削弱意图条件映射，实现更彻底的功能遗忘。

Google DeepMind发布全新框架，旨在系统性地审计机器学习模型中的“遗忘”过程，为数据删除合规性提供可验证的技术方案。