AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
高效推理
1 篇相关内容
相关话题
模型压缩
因果推理
注意力机制
大语言模型
因果归因剪枝法:精准保留大语言模型推理能力的新策略
研究者提出基于因果归因的剪枝方法CAP,通过评估注意力头对推理任务的实际贡献进行精细权重剪枝,在保持模型性能的同时显著降低计算成本。
a
arXiv
·
32 天前
模型压缩
因果推理
注意力机制
大语言模型
a