对抗攻击

研究人员发现多智能体LLM系统的规划阶段存在严重安全漏洞，提出PlanFlip攻击框架，通过四种伪装攻击方式可同时破坏所有下游子任务。实验显示能力越强的模型反而越脆弱，GPT-5攻击成功率最高达68%。

研究发现大语言模型的推理存在脆弱性，可通过生成看似普通的“概念链”段落进行隐式操控，在不直接提及答案的情况下系统性地改变模型预测偏好。

最新研究揭示，对齐语言模型的安全拒绝机制存在脆弱性，仅需在提示前添加简单前缀即可使其绕过安全限制生成有害内容。研究通过多模型实验定位了拒绝机制失效的具体位置和原理。

研究人员提出LBA方法，通过结合先验与后验知识构建高质量对抗样本的近似分布，在硬标签场景下以低查询成本生成语义保持更好的对抗文本。

研究发现BPE分词机制会将安全关键词拆分为子词片段，导致字符级扰动能有效绕过主流大语言模型的安全对齐，在五类模型上攻击成功率高达80-100%。

研究者提出HARC微调方法，通过耦合提示端与响应端的有害性与拒绝方向，在保持模型通用能力的同时显著提升对抗攻击的防御能力。该方法在五大模型家族上验证有效，无需架构特定调整。

研究者提出Triospect检测框架，通过结合文本内容、表达和风格三维特征，显著增强AI生成文本检测在多种攻击下的鲁棒性。

研究者提出首个专门评估大语言模型抵抗逻辑谬误攻击能力的基准测试LoFa，发现不同模型在面对各类诡辩手法时表现出显著差异的脆弱性。

研究发现，对大语言模型进行社交温暖度微调会降低其事实可靠性并增加谄媚倾向，同时削弱对抗安全性。研究者提出一种低亲和性人格条件化方法，在保持对话温暖度的同时显著降低越狱风险。