AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
文本压缩
1 篇相关内容
相关话题
大语言模型
推理优化
成本控制
模型评估
压缩提示与输出:大语言模型的成本与性能博弈
研究发现,压缩模型输出可有效降低推理成本,而压缩用户输入反而会增加总成本并损害准确性。
a
arXiv
·
27 天前
大语言模型
推理优化
成本控制
文本压缩
a