语言极限生成新框架:允许无限幻觉但控制频率

arXiv·21 天前

传统语言识别研究采用‘极限学习’范式,模拟学习者从对手提供的字符串中识别目标语言的过程。近期提出的语言极限生成框架将目标转向生成目标语言中有效且未见过的新字符串,更贴近现代语言建模的实际需求。研究发现,覆盖目标语言的广度与生成有效性之间存在根本性矛盾:广泛覆盖往往以牺牲有效性为代价。

本研究引入新的精度概念,将问题重构为经典的召回率-精度权衡问题。研究分析了在不同枚举、新颖性和有效性约束下的极限生成场景,旨在反映更接近大语言模型遇到的实际设置。关键贡献在于分析了‘非最终有效’的学习者:允许无限次错误生成,但要求错误频率趋近于零,从而保持精度为1。研究表明,当对手永久隐藏目标语言的大部分内容时,这种放松能严格提高召回率。

研究还探讨了新颖性约束的连续放松,仅要求固定比例的输出具有新颖性。综合来看,这些结果推动建立更现实的语言生成模型,其中偶然错误和重复不可避免,但其发生率受到控制。该框架为理解大语言模型的生成行为提供了新的理论视角。

语言生成极限学习大语言模型理论框架arXiv

原文来源:https://arxiv.org/abs/2606.28354

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回