模型推理

智谱GLM团队分享GLM-5大规模服务调试经验，通过解决乱码输出、重复生成、KV缓存竞态等问题，并引入LayerSplit技术，实现推理吞吐量提升最高132%。

DeepSeek官方宣布API平台即日起推出每日非高峰时段折扣，其中DeepSeek-R1模型在指定时段可享75%大幅优惠。