AI伦理

在2024世界人工智能大会上，主观世界模型成为焦点，展示了AI对个体认知与内心状态的理解能力，引发行业广泛讨论。

研究者提出OriginBlame系统，实现记录级和令牌级数据溯源，帮助模型训练者精准识别数据贡献者，大幅减少数据删除范围，提升模型遗忘效率。

最新研究发现，尽管大语言模型在多项语言任务中表现优异，但在盲文翻译等无障碍关键领域存在系统性缺陷。实验显示，当前最先进的LLM在韩语-盲文双向翻译中表现糟糕且不稳定。

牛津大学研究团队利用二战众包数字馆藏，评估了三种NLP方法自动提取关键词的效果，发现AI技术虽具潜力但需谨慎选择模型并承担数据管理责任。

研究揭示小型双曲语言模型通过特殊架构设计，可同时实现创造性输出、诚实评估与可控记忆遗忘，为可信赖的AI伴侣系统提供新路径。

一篇arXiv立场论文指出，当前大语言模型研究中“机器遗忘”术语被过度泛化使用，应严格限定为基于数据集的删除任务，避免概念混淆与评估失准。

研究团队推出NormAct基准测试，发现多模态大语言模型在具身规划任务中，虽能完成67.3%的显性目标，但对隐藏社会规范的遵从率仅26.4%。

《自然》期刊最新研究表明，长期与AI模型（如Claude）进行拟人化深度对话，可能对用户的现实社交认知产生潜在影响。

研究发现，维基百科编辑志愿者通过系统性地添加动物福利内容，能显著影响大语言模型在该议题上的输出倾向，即使编辑量仅涉及百余个页面。

最新研究显示，主流大语言模型在心理健康对话场景中存在严重安全隐患，除自杀自残外，对进食障碍、物质使用障碍等病症的防护失败率高达100%。

Anthropic 联合创始人 Chris Olah 针对教皇方济各关于人工智能的通谕《Magnifica humanitas》发表评论，探讨 AI 技术发展应如何与人类尊严、伦理价值相协调。

Meta正式公布2022年基础诚信研究提案征集项目的获奖者名单，该项目旨在支持AI伦理与内容治理领域的前沿研究。

Google DeepMind发布零信任聚合技术，允许在严格保护用户隐私的同时进行数据分析，为AI时代的隐私安全提供新解决方案。

OpenAI公布其AI发展愿景，强调将致力于确保通用人工智能（AGI）惠及全人类，重点关注技术普及、安全治理与成果共享。

Google DeepMind首席执行官在公开场合表示，他乐于面对并回答那些棘手、富有挑战性的问题，强调开放对话对AI发展的重要性。

研究发现，仅通过修改国籍和语言参数生成多语言心理健康对话数据集存在临床一致性不足的问题，且大语言模型在评估非英语文本的抑郁严重程度时表现不稳定。

研究人员开发出TreeTracer可视化分析工具，通过聚合对比方法揭示大语言模型中难以察觉的隐藏偏见，有效降低分析人员的认知负担。