9月2日,GPUStack AI Infra生态与技术创新大会上,CEO秦小康以《GPUStack为每块国产GPU插上高速的翅膀》为题发表演讲。他表示,国产GPU和模型生态快速发展的同时,兼容适配、性能调优、版本迭代等环节仍然复杂,GPUStack希望让国产算力更简单易用。

据介绍,GPUStack已服务全球121个国家和地区的超过11万用户。会上,公司与帝欧水华、亚信科技、容芯致远、XSKY签署四项战略合作,并联合十家单位发起Token创新联盟。

秦小康在会上提出,AI基础设施涉及芯片、服务器、存储、模型和应用多个环节,一家公司不可能包揽所有能力。

会后,他在与网易科技交流时进一步解释了GPUStack当前的重点落地:正在打造"Token工厂",既管好GPU硬件,也实现模型一键部署,提供一揽子解决方案。

推理是这个定位的支点。秦小康援引行业调研称,未来算力消耗中推理约占80%、训练约占20%。创造模型的团队是少数,绝大多数主体是AI的使用者。他把算力比作水电:有人修水塔、铺水管,对应底层GPU硬件和驱动;GPUStack的角色类似自来水公司和电力公司,负责Token的生产与供给,让终端用户无需感知底层资源波动。

面对推理赛道众多玩家,秦小康认为GPUStack最核心的差异来自开源。开源带来海量真实用户和持续的产品打磨,最终体现为简单易用:底层链路复杂,但对用户屏蔽,客户部署GPUStack后,20分钟内就能对外提供Token服务。开源同时带来开放生态,生态内任何厂商在单点技术上做到极致,都可以通过插件接入平台。

谈及过去两年AI基础设施的变化,秦小康给出两个一线观察:一是开源模型快速追赶,一年多前的闭源唯一论已被推翻,开源模型反过来对闭源厂商形成竞争压力;二是国产GPU可用性大幅提升,标志性事件是DeepSeek公开其模型训练同时跑在英伟达和华为硬件之上,行业首次验证顶级模型跨硬件训练的可行性。

这对GPUStack尤为关键。秦小康表示,"如果全世界只有英伟达一种卡,我们的业务就没有存在价值",公司创立之初就预判异构时代会到来。眼下,上千卡规模的国产GPU集群已落地验证,万卡集群开始建设,算力甚至供不应求,未来,GPUStack希望让国产算力更简单易用。(袁宁)