每经上海7月20日电 今日,无问芯穹在2026世界人工智能大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首 Token 延迟(TTFT)降低 51.5% 的同时,单Token成本可降低37.5%。(每经记者 张梓桐)
无问芯穹发布PDD跨集群异构推理架构,单Token成本可降低37.5%
每经上海7月20日电 今日,无问芯穹在2026世界人工智能大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首 Token 延迟(TTFT)降低 51.5% 的同时,单Token成本可降低37.5%。(每经记者 张梓桐)
热门跟贴