循环神经网络

研究人员提出基于字符级RNN的‘字母词形还原’方法，能够有效处理中世纪文献中的字符集简化和缩写问题，仅需20行文本即可将字符错误率降低50%。

研究者提出DiscoLoop循环架构，通过离散嵌入与连续隐状态双通道设计，显著提升大模型在单次前向传播中的多步推理能力，在合成与真实任务中均表现优异。

Together AI推出稳定循环语言模型Parcae，仅用770M参数即可达到1.3B Transformer模型性能，并首次提出循环扩展定律。