通信世界网消息(CWW)近年来,算力需求呈爆发式增长。调研数据显示,国内AI(artificial intelligence,人工智能)训练算力年增长率达35%,推理算力年增长率高达42%。业务场景逐步分化为以辅助问答为代表的轻量化场景,以及风控调度、工程设计等核心生产场景。其中核心生产场景直接关联企业核心知识产权,对算力弹性、数据安全、网络时延提出了严苛要求。
算力需求爆发的背后,产业供给侧正在发生深刻变革。我国“东数西算”工程稳步推进,构建起“枢纽级—区域级—边缘级”三级算力网部署体系,全国已建成枢纽级智算DC(data center,数据中心)147个,区域级智算DC 230个,边缘级智算节点1916个,形成八大算力枢纽、十大算力集群的国土空间布局。算力资源已经在全国范围完成初步布局,但算力资源不等于可用的算网服务。算力在哪里,算力如何互联互通,算力如何安全高效使用?这些成为当前制约行业数字化转型的三大核心命题。
传统模式下,企业获取算力主要有自建算力、公有云租赁两种路径。自建算力属于重资产模式,一次性投入巨大,机房改造周期需要3~6个月,算力潮汐波动极易造成硬件资产闲置浪费;公有云租赁模式能够平滑投资、弹性扩缩容,但企业普遍存在“数据上传云端等于交出核心竞争力”的顾虑。作为通信基础设施建设的主力军,运营商具备基础通信网、行业专网、算力网等多网资源,拥有遍布全国的AIDC(人工智能数据中心)、OTN(optical transport network,光传送网),有能力打通算力供给、网络连接、安全用算全链条,构建面向Token(词元)时代的算力智联网。
算力供给格局与行业用算现实矛盾分析
三级算力网络的定位与产业实践
国家算力网络已形成三级分层体系,不同层级的算力节点承载差异化功能定位,服务不同类型的用户群体。
枢纽级算力以八大国家算力枢纽为载体,是国家级算力调度与承载的核心层级。典型枢纽算力中心IT机房功率可达1GW,绿电占比85%,面向头部互联网企业、大型电信运营商承接多模态大模型训练业务,依托西部丰富的绿电资源,推动大模型高耗能业务实现绿色落地。区域级算力对应十大算力集群及各省级算力中心,主要服务省级政务、省属国企与大中型互联网企业。部分省级智算中心依托本地水电资源,提供1000PFLOPS智算能力,面向科研机构、企事业单位提供AI推理服务,充分发挥本地绿色能源优势,实现算电协同发展。边缘级算力部署在地市、产业园区,服务地市政府、地方国企与中小型互联网企业,业务下沉至发生地,以降低业务访问时延。
三级算力体系已完成物理资源布局,但不同层级节点之间仍存在网络割裂问题。跨层级、跨地域的算力调度依赖传统公网承载,大模型训推业务催生超大带宽流量,普通网络难以满足大颗粒、低时延、高可靠的业务诉求。
重点行业监管要求:数据不出域成为刚性约束
不同行业的法律法规均对数据合规使用划定明确红线,数据不出厂、数据不出域、原始数据不跨域流动,已成为各行业开展AI业务的硬性前提。
工业领域落实《工业领域数据安全能力提升实施方案(2024—2026年)》要求,严格执行数据不出厂,生产数据留存于企业物理边界内,核心计算分析在本地完成,仅向外传输脱敏之后的结果,避免生产工艺、设备运行等核心数据外泄。
金融行业严格遵循《银行保险机构数据安全管理办法》,落实数据不出域管理要求,按安全等级划分逻辑安全域,风控、交易流水等敏感数据部署在专属防护机房,严格限制数据跨域流动。
医疗行业落实卫生健康数据安全指引,严格执行原始数据不出域、数据可用不可见的要求。病历、基因等高度敏感数据,仅向外输出计算结果和模型参数,原始数据全程不对外暴露,所有数据产品均须完成隐私伦理审查。
监管要求和企业业务诉求指向同一个目标:算力可以远程调用,但原始敏感数据不能随意流动。传统公有云模式需要将原始数据上传至远端机房,与监管要求存在冲突;完全本地自建算力,又无法共享外部大规模智算池的能力。这是当前行业落地大模型业务面临的最突出矛盾,也是算力智联网需要解决的核心问题。
企业四种用算模式优劣对比
当前市场中企业获取AI算力存在四类主流方案,分别是企业自购一体机、企业自建DC自组算力、企业租用云端算力、分布式协同推理场景模式,如图1所示。四种模式各有短板,难以同时兼顾成本、弹性、安全三大目标。
图1企业用算模式对比
第一,企业自购一体机。本地部署智算一体机,可以实现数据不出域,适合中小企业开展AI业务尝鲜;但是一体机硬件算力有上限,运行70B以上大模型性能明显受限,若要对接外部超大算力池,同样需要高额的专线带宽投入。
第二,企业自建DC自组算力。优势是数据完全留在企业内部,安全可控;但劣势十分突出,企业需要承担机房建设、硬件采购、运维人员全套成本。AI算力硬件迭代速度快,算卡短时间内就面临淘汰,潮汐业务带来大量资产闲置,对企业IT团队能力提出极高要求,只有极少数大型企业具备落地条件。
第三,直接租用公有云远端算力。企业无需投入硬件资产,算力弹性伸缩能力突出。致命短板是原始数据需要上传至公有云,触碰行业数据安全监管红线;同时远距离传输带来高额带宽成本,协议限制会造成显著算效折损,影响大模型推理、微调业务的性能。
第四,分布式协同推理。多算力节点之间协同完成训推任务,适合大企业开展模型训练微调,但现阶段能够适配的模型数量有限,且跨节点协同对专线带宽提出极高要求,整体建设成本居高不下。
新的业务场景期待创新模式:本地部署一体机保障原始数据不出域,同时可以远程调用运营商大规模智算池资源,在300km传输距离下将算效损失控制在5%以内,兼顾安全、弹性、成本,而该业务模式必须依靠算力智联网作为底层支撑。
构建算力智联网的总体思路与技术支撑
Token时代的算力智联网,核心要义不是简单地部署更多服务器,而是实现算力资源、网络传输、数据安全、业务编排一体化融合。以“两通两用”为业务目标,推进基础通信网、行业专网、算力网三网融通,实现AIDC算力节点与国家干线OTN打通,达成算力中心毫秒级互联、算力资源毫秒级接入、算力应用十毫秒可达的城域用算目标,打造“数据不出域,算力可远调”的新型算力基础设施。
业务总目标:两通两用,三网融通
运营商算网业务确立的“两通两用”发展目标,可作为算力智联网建设的通用参考。“两通”即AIDC与国干打通、三网融通。一方面省内算力资源通过省内DCI(data center interconnect,数据中心互联)、国干OTN实现与国家干线网络打通,核心机房作为政企业务新出口对接全国算力网络,向外输出本地算力服务区域集群,同时引入外部算力资源服务省内企业用户;另一方面推动基础通信网、行业专网、算力网三网融通,打通智能网与算力网,破除“网络孤岛”,实现跨网算力高效调度。
“两用”即安全用算、高效用数。安全用算就是要落实各项行业监管要求,保障企业数据不出域,完成原始敏感数据的安全隔离;高效用数贯穿数据使用全过程,构建“数据标注形成数据集存储—数据集训练得到行业模型—模型对外输出推理Token服务”的完整链路,打通“存—训—推”全业务链条,面向企业输出完整的Token服务能力。算网业务发展的目标网络形态如图2所示。
图2 算网业务发展的目标网络形态
在时延指标上确立三层毫秒级目标:算力中心互联时延小于1ms,园区、工厂等重点场所接入算力资源时延小于1ms,各类终端访问算力应用端到端时延小于10ms。实现城域范围毫秒级用算体验,满足工业控制、智慧医疗、政务AI等时延敏感业务场景需求。
底层网络技术支撑:IPv6+全光DCI网络
现有网络架构以自有业务为核心组网,面向算力网络转型时,OTN网络架构须向以算力为中心的方向演进;同时,网络智能化调度能力也要向适配业务快速灵活调度、一跳入云、算网协同的方向演进。
算力智联网的网络底座以“IPv6+”(Internet Protocol Version 6 Plus,互联网协议第6版增强)技术体系、OTN全光DCI、SPN(slicing packet network,切片分组网)为核心,涵盖SRv6(segment routing IPv6,IPv6段路由)极简连接、FlexE(flexible ethernet,灵活以太网)确定性带宽、iFIT(in-situ flow information telemetry,智能流检测)实时探测、APN6(application-aware IPv6 networking,应用感知型IPv6网络)业务智能保障等技术能力,支撑网络从万物互联向万物智联升级,从消费互联网转向产业互联网,为算力智联网提供端到端的技术能力保障。
DCI全光互联是算力智联网的底座。算力智联网内部DC之间采用FullMesh全互联架构,光交叉设备下沉至边缘节点,实现波长直达,扁平化网络架构保障低时延特性。打造大颗粒DCI专线、OTN政企专线产品,实现7个工作日开通大颗粒专线,ASON(automatically switched optical network,自动交换光网络)实现“5个9”业务可靠性,支持算网业务端到端自动化创建。SPN面向行业用户提供逻辑隔离的传输通道,保障企业业务传输安全。算网业务全光互联网络如图3所示。
图3 算网业务全光互联网络
整体网络架构分层实现:业务接入层面向政企、家庭、无线AI业务提供统一接入能力;OTN汇聚层、核心层完成算力流量智能调度;DCI实现省内各个AIDC之间全光互通;国干OTN支撑跨省级算力互联互通;同时对接集团智算PE专线出口,打通全国算力池的访问路径。
硬件产品载体:分级智算一体机适配多元场景
算网一体机是算力智联网面向企业侧的硬件载体,实现本地部署与云端算力高效协同,具备“小、全、静、弹、安”五大特性。“小”指硬件体积接近普通PC主机,部署灵活;“全”指算网存储一体化集成;“静”代表低噪声,噪声水平低于55dB,可部署在普通办公环境;“弹”代表能够弹性调用云端算力;“安”代表实现数据不出域的全流程安全管控。
一体机分为高、中、低三档,分别支持本地部署72B、32B、14B大模型,同时可通过边云协同调用744B超大模型算力。硬件采用内置水冷散热,最大功耗2000W,支持RDMA无损广域网络,与运营商算力智联网底座深度适配。企业侧部署一体机留存原始业务数据,不向外传输;需要超大算力时,通过算力智联网远程调用运营商智算池,仅传输模型参数与Token推理请求,原始数据留存企业本地,精准匹配工业、金融、医疗等领域的数据监管要求,妥善解决企业数据安全与算力规模之间的矛盾。
打造面向行业用户的算力智联网方案
面向消费者,运营商建设无线承载网,向用户收取流量费,用户无需付费购买基站设备;面向家庭宽带市场,运营商建设有线城域承载网,收取带宽使用费,用户无需购买OLT(optical line terminal,光线路终端)接入设备。沿用这一成熟商业逻辑,在Token时代面向行业用户,运营商可建设一张算力智联网(广义DC),这正是算力智联网的商业模式内核。算力智联网建设模式如图4所示。
图4 算力智联网建设模式
算力智联网核心层架构
智算联网:1对数联PE+参数面交换机;
通算联网:1对通算PE(可复用);
数联入网:1对数联PE;
功能平台:数联/算力调度/算力运营。
算力智联网汇聚接入层架构DCI全光互联:算力智联网的底座,内部DC之间采用FullMesh全互联架构,光交叉设备下沉至边缘节点,实现波长直达,打造大颗粒DCI专线、OTN政企专线产品,支持算网业务端到端自动化创建。
SPN专网延伸:复用现有存量覆盖资源,拉通用户侧与算力资源侧;通过硬切片实现安全隔离,依托网络资源复用实现带宽超卖。
数据高地汇聚:在三方DC、产业园区集中部署,同时可实现边缘存力与算力的并网接入。
行业入口接入:政企、医疗、教育等专网入口。
算力智联网用户侧架构一体机接入:内置算力板卡与传输CPE,可作为算力智联网的边缘接入节点。
专线接入:兼容常规大带宽专线、数智互联专线等主流接入形态。
算力智联网创新收费逻辑:面向行业用户,主要收取数据、Token流量使用费,不再设置高额的专线初装费用。网络建设成本由运营商承担,分摊产业发展初期的投入压力。运营商收益可通过两种方式实现:一是后向与算力池运营方开展收入分成;二是前向叠加增值服务收费,覆盖安全加固、业务弹性保障、高可靠性SLA(service level agreement,服务等级协定)、运维托管、内网应用服务等业务,打造全新收入增长点。
算力智联网典型应用场景
工业制造场景
制造企业生产工艺、设备运行数据属于核心商业机密,监管政策明确要求数据不出厂。企业现场部署低档位智算一体机,在本地完成设备质检、产线监控等推理业务,原始生产数据留存厂区。当需要对海量历史生产数据开展大模型微调训练时,通过算力智联网SPN,远程调用运营商枢纽级智算池资源。传输过程不上传原始生产数据,仅传输脱敏特征、模型梯度参数。训练完成时将更新后的模型发回工厂本地,既满足大模型训练的超大算力需求,又恪守数据不出厂的监管规定,端到端时延满足工业业务毫秒级要求。
智慧政务与司法场景
政务司法场景中,大量卷宗、案件材料属于敏感政务数据。地市政务单位部署智算一体机,本地完成卷宗解析、案件辅助推理;遇到大规模卷宗批量模型微调任务时,调用省级运营商区域智算中心资源。依托算力智联网OTN专线实现安全隔离传输,原始卷宗材料全程不离开政务内网域,仅交互Token与模型参数,支撑AI辅助办案、卷宗智能归档等业务。省级政务平台还可以通过算力智联网,跨地市调度边缘算力资源,实现全省政务AI业务统筹调度。
医疗健康行业场景
医院的病历、基因测序数据有极高的隐私保护要求,须严守原始数据不出域。医疗机构部署智算一体机,在本地完成影像识别、病历整理等推理业务;当开展科研模型训练、需要大规模算力支持时,通过算力智联网远程调用智算池资源,仅传输特征参数,原始病历、基因数据全程留存院内,实现“数据可用不可见”,兼顾医疗科研创新和患者隐私安全。
中小企业通用AI业务
大量中小企业存在大模型使用需求,但无力承担完整自建智算机房的高额投入。部署中小型智算一体机,本地接入企业自有知识库,保障企业文档、业务数据不出域。日常问答、客服推理等业务本地运行;当需要开展复杂业务微调时,弹性调用运营商算力智联网中的智算资源,按Token计量收费,实现轻量化投入、按需扩容,规避算力硬件迭代带来的资产沉没风险。
挑战与展望
当前,算力智联网的建设仍面临若干现实挑战:第一,跨层级、跨运营商的算网调度标准尚未完全统一,不同算力池之间业务编排、计量计费、SLA保障体系需要进一步标准化;第二,算力智联网属于创新商业模式,传统专线收入向“Token流量+增值服务”转型,需要配套调整商业模式与核算体系;第三,边云协同一体机、RDMA无损广域网络的产业生态尚需进一步成熟,以降低整体硬件成本;第四,不同行业的数据安全规范复杂多样,算力智联网的安全管控能力需要与行业监管细则持续对齐。
机遇同样十分明显:国家一体化算力网政策持续落地推进,三级算力基础设施规模稳步扩张;大模型向千行百业深度渗透,Token计量成为主流算力消费形态;运营商具备网络、机房、政企用户的综合优势,天然适配算力智联网建设主体的定位。
未来,算力智联网将打通“算力部署—算力互联—算力使用”全链路,不再让企业陷入“算力弹性”和“数据安全”二选一的两难困境。依托算力智联网的创新商业模式,运营商将从传统带宽、专线服务商升级为Token时代算网一体化服务商,助力千行百业安全可控地完成大模型规模化部署。
热门跟贴