成本优化

研究提出“基础模型部署组合”优化框架，通过混合开源与闭源API部署，在满足交通管理任务性能要求下，可将月成本降至闭源方案的3%。

NVIDIA发布其推理软件栈，通过软硬件协同设计，帮助企业在AI工厂化部署中实现最低的每Token成本，平衡性能、功耗和延迟。

Mistral AI 正式发布轻量化模型 Mistral Small，在保持高性能的同时显著降低推理成本，为开发者提供更经济的 AI 解决方案。