Together AI发布推理基准测试：编码代理性能大幅领先

Together AI近日发布了一项针对编码代理的实时推理基准测试结果。测试显示，其解决方案在吞吐量方面比TensorRT-LLM高出31%，在饱和负载下的首字延迟（TTFT）表现提升达2倍。同时，与Claude Opus 4.6相比，其成本降低了76%。该基准测试旨在评估大规模推理场景下的实际性能，为开发者和企业选择AI编码工具提供了重要的参考依据。Together AI强调，这些数据基于真实工作负载，反映了在复杂代码生成和辅助任务中，其基础设施与模型优化的综合效能。这一进展可能推动AI辅助编程工具的进一步普及与性能竞争。