上证报中国证券网讯(记者 王子霖)11月12日,百度智能云发布天池1024卡超节点,该产品将于2027年上市。
据了解,该超节点采用光引擎技术,让数据实现光互连极速传输,互联带宽较上一代提升3倍;G1.5显存加速柜使长上下文推理性能提升2倍,G3.5 KV Cache加速柜在缓存命中的多轮对话场景下,使首Token等待时间降低90%、吞吐提升7倍。单套超节点可支撑5万亿参数模型的训练;而且具备高可扩展性,单套可拓展到万卡规模。通过新一代HPN架构升级,最大可以搭建50万卡超节点集群,足以支撑下一代超大模型训练。
目前,天池超节点已在全国多地进行千柜级部署,实现全栈国产化,百度已累计交付30余个昆仑芯集群。
另据记者了解,百度智能云现已形成覆盖Agent Infra智能体基础设施和AI Infra算力基础设施的新的全栈AI云。
在智能体层面,百度智能云构建包含通用智能体、专业智能体和定制智能体的矩阵。其中,百度搭子作为通用智能体,也是企业统一调用和管理各类智能体的入口。既有面向办公通用场景的百度搭子,也有伐谋、一见、一镜、胜算、秒哒、库库、Comate、Hogee等专业智能体;针对企业的独特场景和任务,企业可以基于百度搭子开发平台构建定制智能体,把积累的隐性知识沉淀为组织能力。
在基础设施层面,百度智能云升级百度千帆Agent Infra和百度百舸AIInfra。百度千帆Agent Infra支持百万量级沙箱并发,上千个沙箱同时启动时间控制在百毫秒级;同时,提供百度千帆MaaS极致性价比的模型服务,以及“词元所”作为中立、可信的大模型交易平台,为Token提供方和需求方提供对接平台;百度百舸平台可分钟级拉起200万个沙箱,端到端强化学习吞吐达每秒5.2万个Tokens,训推差异控制在万分之一。
热门跟贴