AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
自适应计算
1 篇相关内容
相关话题
大语言模型
推理优化
计算效率
HALO
HALO:让大语言模型学会“精打细算”的推理新方法
研究者提出HALO方法,通过自适应选择部分关键token进行二次推理,让冻结的预训练大模型以更少的计算成本获得更强的推理能力。
a
arXiv
·
8 天前
大语言模型
推理优化
计算效率
自适应计算
a