MarkTechPost· Asif Razzaq·· 3 天前AI 评分48
Together AI 发布 Together Compiler：智能体让推理最高提速 2.6x
Together AI Releases Together Compiler: Agents Make Inference Up to 2.6x Faster
AI 导读
Together AI 发布 Together Compiler，用智能体随生产流量变化持续重新优化推理，TPS 最高较 InferenceX 最优配置提升 2.6x。
来源：MarkTechPost · marktechpost.com