AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
模型能力评估
1 篇相关内容
相关话题
大语言模型
Transformer
位置编码
arXiv研究
前沿大模型竟不会“抄作业”?研究者提出2D文本表示新思路
研究发现即使是最先进的大语言模型也难以精确复制输入文本,原因在于Transformer的位置编码机制存在缺陷。研究者提出2D-RoPE方法,将文本视为二维网格,显著提升了模型的复制能力。
a
arXiv
·
1 天前
大语言模型
Transformer
位置编码
模型能力评估
a