通信世界网消息(CWW)当大模型的竞争从参数竞赛转向词元(Token)的规模化生产、运营与落地,AI产业正在迎来一场底层逻辑的切换。

词元作为智能时代的新型生产要素,以此为基础计量单位,可将算力、模型、数据打包为可计量、可交易的智能服务。行业数据显示,国内大模型日均Token调用量已突破140万亿次。

但一个尴尬的现实是:算力供上了,效率却没跟上。模型频繁迭代带来的算力适配与推理成本难题、运营层面的治理缺失,都正在成为产业落地的新瓶颈。

万亿级词元市场背后,国产算力底座的真实能力成为产业突围的关键变量。

近日,在“智算合肥 生态领航”词元经济生态大会现场,海光信息参与共建的“词元联合创新实验室”签约落地,正式将国产算力从底层计算延伸至词元运营和产业应用。

跳出单点竞赛:词元生产需要全系统算力支撑

行业内长期存在一个误区,认为词元生产更多拼的是单卡芯片的峰值算力或者芯片数量。

但真实产业场景之中,词元的大规模训练、高并发推理,对网络互联、存储、系统调度、能耗控制等都提出极高要求,单芯片性能再强,如果系统协同跟不上,大量硬件性能会被白白损耗,很难转化为真正可用的词元产能。

词元经济走向规模化,底层算力不能只满足于‘供得上’,还要解决模型适配、运行效率和稳定服务的问题。”杜夏威在接受采访时指出。

打开网易新闻 查看精彩图片

这句话点出了当前算力产业的核心矛盾。过去两年,国内智算中心建设狂飙突进,千卡、万卡集群层出不穷。但“堆卡”之后,算力利用率普遍低于30%。大部分算力在空转,真正转化为词元生产力的部分远未达标。

对此,海光给出的解法是“CPU+DCU”双芯协同。通俗来说,CPU负责通用计算和存量业务迁移,DCU专攻大模型训练和推理。两者配合,从芯片到系统全栈打通。

“算力基础不仅仅是芯片本身,更多体现在全系统的构建上,涵盖算力芯片本身的能力、系统的构建、互联,甚至是节能、存储的IO访问等多个维度。”杜夏威将这套逻辑拆解为硬件、软件、生态三个层次。

硬件资源是第一层基石。面对词元推理场景中火热的KV Cache技术需求,高速网络、高性能存储域的整套系统设计成为释放算力的关键。对此,海光DCU不只聚焦芯片算力、访存、片间互联的迭代升级,更着眼于整机系统的整体输出。

第二层是软件侧的软硬协同优化。词元的高效产出,离不开芯片与上层大模型、推理框架的深度耦合。杜夏威介绍,加快“芯模协同”,使芯片与快速发展的模型算法紧密耦合、实现芯片与模型双向调优是未来发展的一个重要趋势。

目前海光DCU已经完成主流开源大模型适配与性能调优,从编译、算子层面降低国产平台迁移成本,缓解行业普遍面临的适配周期长的痛点。

第三层,则是产业生态的经验输出。已有产业实践表明,实验室阶段,行业需要跨过从技术原型走向产业落地的门槛,长远来看,成熟的生态运营经验能够帮助产业快速进入正向循环。

谈及此次与合肥市大数据资产运营有限公司等产业链上下游企业共建的“词元联合创新实验室”,杜夏威表示,实验室真正运转起来之后,海光将依托光合组织的整体能力来放大平台价值,保障整个词元经济的活跃度。

大会现场,海光信息还联合运营商、大模型企业等多个产业伙伴发布“从‘芯’出发·国产算力词元生态共建宣言”,以共铸自主“芯”底座、共建安全词元链、共拓普惠算力生态圈作为三大愿景,强化国产算力与模型、应用层面的紧密协作,加速产业生态落地。

打开网易新闻 查看精彩图片

开放计算破局生态孤岛,三层开放激活词元价值

如果说双芯架构和“芯模协同”是海光的技术底座,那么“开放”才是海光真正想讲的故事。

词元经济想要做大,不能依靠单一企业单打独斗,开放计算成为破解算力难题、繁荣词元生态的关键抓手。“我们始终坚持开放生态,这也是我们给自己的定位和目标。”杜夏威在采访中这样说。

海光的开放生态遵循自下而上的三层递进路径,从底层硬件协议、中层软件生态,再到上层产业载体,逐层开放吸纳更多参与者,壮大开放生态,让不同层级伙伴都能够共享产业发展红利。

第一层,底层硬件能力开放。杜夏威介绍,在行业实践中,海光逐步开放高速互联协议HSL实现CPU与AI加速芯片的互连、整机参考规范、大规模系统设计理念,面向整机厂商、国产AI芯片企业敞开生态大门。

第二层,软件生态开源开放。海光向开发者、AI推理厂商、高校科研团队开放DCU软件生态,吸引更多主体参与软件栈优化。

目前词元生产的时延、成本优化等大量工作集中在软件层,更多开发者参与进来,能够持续提升算力对上层词元业务的支撑效率,补齐国产软件生态短板。

第三层,依托合肥先进计算产业创新中心这一产业载体,这里既包含大模型厂商、词元运营主体、应用软件开发商,也覆盖算力基础设施建设方、产业服务伙伴,实现上下游产业聚集。

此次签约落地的“词元联合创新实验室”是面向全行业的试验田,未来将承接词元经济的各类创新尝试,把技术能力转化为产业价值。

词元经济不只是技术竞赛,更是生态之战,封闭的技术路线很难应对千行百业复杂多变的需求。“只有让参与光合生态不同层级的伙伴,切实享受到生态带来的收益,才能够实现整个生态的正向循环。”杜夏威如此总结开放的底层逻辑。

词元经济展望,国产算力从“能用”走向“好用”

词元经济的火热,让整个行业重新审视算力的价值:算力不再只是硬件参数,而是要转化为更低成本、更高质量、稳定可用的词元服务。国内多地纷纷布局词元平台,但产业仍处于早期,面临算力利用率不足、软硬件适配脱节、商业闭环尚未跑通等多重挑战。

为什么是合肥?这座城市是国内少有的AI产业链完备的发展沃土。以科大讯飞为代表的大模型龙头、长鑫存储的存储产业底座,叠加中国科学技术大学等顶尖科研力量,产业、科研、人才要素齐聚,具备开展词元经济创新试验的先天优势。

海光扎根合肥的实践,更是提供了一套可参考的路径:不再单纯比拼芯片跑分,而是以全系统算力为底座,以“芯模协同”破解适配难题,依托地方产业禀赋搭建联合创新平台,以分层开放的模式拉动全行业共建生态。

从“能算”迈向“好算”,是当前国产算力必须跨越的关口。当词元成为AI时代的通用度量衡,底层算力的自主可控、高效稳定,直接决定整个智能产业的发展上限。

合肥的词元试验场只是一个起点,国产算力想要真正把握词元经济时代机遇,开放的硬件迭代、软件优化与生态共建,三者缺一不可。