日前举办的“智算中心:实践与展望”研讨会上,国家工业信息安全发展研究中心发布了《智能计算中心2.0时代展望报告》,指出智能计算中心正在从1.0阶段的粗放式扩张走向2.0阶段的精细式规划。

距离“智能计算中心”概念在2017年出台的《新一代人工智能发展规划》中被首次提及,已经过去了五年时间。和许多新事物一样,智能计算中心也经历了产业萌芽和快速扩张的演变,目前已经有近30个城市开始规划、落地智能计算中心,“提升智能算力的供给”早已成为一种社会共识。

如果说前五年是摸索、试错、探路的阶段,当智能计算中心走向“2.0阶段”的时候,需要解决哪些挑战?

算力颗粒度越来越细

算力的字面意思并不难理解,即计算能力,确切地说是通过对信息数据进行处理,实现目标结果输出的计算能力。

然而在相当长的一段时间里,外界对算力的理解都过于笼统。提起算力的计量单位,只有少数人的脑海中会浮现出FLOPS的名词,指的是每秒浮点的运算次数,以及后来不断延伸出的TFLOPS、PFLOPS等概念;提起算力的分类,大多被分为通用算力和专用算力两个类别,前者泛指CPU、GPU等通用芯片的算力,后者对应的是FPGA、ASIC等专用芯片产生的算力。

可当“算力”走出概念阶段,走向千行百业落地应用的时候,“算力”概念的颗粒度正变得越来越细。

比如根据参与运算数据精度的不同,可以把算力进一步分为双精度算力(FP64)、单精度算力(FP32)、半精度算力(FP16)以及整型算力(INT8与INT4)。通常情况下两个相邻精度的同等数值算力差距大约为2.3倍。并且,不同的精度对应着不同的场景,数字位数越高,意味着算力的精度越高,能够支持的运算复杂程度越高,适配的应用场景也就越广。

再细分一些的话,不同精度的算力有着不同的计算场景。

天气预报、分子模型、行星模拟、基因分析等追求精确数值计算的场景,需要的是64位的双精度算力。因为数字位数越高,代表着可以在更大的范围内体现两个数值的变化,进而实现更精确的计算。

算法模型的运算可以分为训练和推理两个过程,训练模型的计算量与参数量成正比,而且需要反复迭代,多数使用的是单精度(FP32)算力;推理过程对计算性能的要求相对不高,一般半精度(FP16)或整型算力就可以满足。

过去一段时间里,人工智能的应用集中在语音识别、图片识别等领域,低精度计算甚至整型计算就能满足响应需求,以至于外界对智能算力的理解偏向于低精度算力,比如谷歌的TPU提供的就是INT8算力,风头一度盖过了GPU,事实上却是一个“美丽的错误”。

打一个比方的话,双精度、单精度等高精度算力可以看作是一台重型卡车,低精度算力和整型算力就是不同运载能力的中小型货车。重型卡车可以承担小型货车的任务,但会造成一定的运力浪费;小型货车由于自身的运力限制,也无法承担重型卡车的任务。

所以在实际的物流场景中,长途的运输普遍交给了重型卡车,短途和末端运输由中小型货车承载,形成了稳定了混合运力结构。同样的逻辑也适用于算力市场,为了追求上能效的最优解,算力的颗粒度也就越来越细。

智算中心的“偏科”现象

折射到智能计算中心的建设上,一些城市的选择是搭载GPU、FPGA、ASIC等加速芯片,提供专用与训练与推理的智能算力。

可是在自动驾驶、智慧医疗、智慧城市、生物计算等人工智能应用的系统级场景中,对算力的需求并不是单一的,不同细分环节下对算力的需求不尽相同,既需要双精度、单精度的高精度通用算力,也需要半精度、整型算力代表的专用算力,而且低精度算力的占比并不算太高。

目前一部分智能计算中心采用了垂直一体的软硬件“烟囱式”解决方案,典型的特征就是通用性和兼容性较低,而且算力、算法、数据、应用等不同软硬件板块独立发展,呈现出了离散的一幕。

参考不少城市将智算中心作为新型公共基础设施的定位,担纲的角色正是面向千行百业的算力供应,倘若无法打破“垂直一体”的模式,只能对单个场景进行比较好的支持,无法提供平台性的服务,无疑和“公共基础设施”的初衷背离,同时也将限制智能计算中心所能服务的应用需求。

国家工业信息安全发展研究中心在《智能计算中心2.0时代展望报告》中提出了问题,也尝试给出了答案,即“横向”兼容与“纵向”耦合。

所谓的“横向”兼容,指的是利用CPU与GPU、FPGA、ASIC等加速芯片的异构组合,实现高精度通用算力和低精度专用算力的融合供应。有别于提供专用性智能算力的垂直路线,转向全面提升多元融合算力水平为核心,通过混合精度的算力输出,满足数据模拟、模型训练、智能推理等多样化需求。

“纵向”耦合的重点在于产业链上下游的开放与协同,譬如通过采用开放架构,兼容成熟主流的软件生态,支持主流的人工智能框架、算法模型、数据处理技术、广泛的行业应用等,大幅提高平台的适用度,进而提升“基础设施”的易用性、通用性,促进整个AI产业链的多元化、协同化、繁荣式发展。

之所以给出“合纵连横”的破题思路,其实是一种经验性的总结,已经被一些智能计算中心所验证的方向。

可以找到的例子就有中科曙光推出5A级智算中心,其中开放与融合的优势,对应的正是智能计算中心避免“偏科”的解法:通过硬件、算法、框架、模型的全面开放、兼容,构建了多元集成的基础架构;通过分布式异构并行体系结构,实现了全精度、多样性算力供应。

当然,类似的路线是否可行,还要回到应用维度上。至少中科曙光在合肥、长沙等地的智能计算中心,已经为科学研究、工业制造、政务服务等多个领域赋能,包括药物研发、材料解析在内的近百项突破成果登上《Science》杂志,累计服务用户突破10万+。

智能计算中心接下来会朝什么样的方向发展,某种程度上已经有了直观且确定的答案。

按照IDC在《2022-2023中国人工智能计算力发展评估报告》的预计:预计未来5年内,中国智能算力规模的年复合增长率将达52.3%。

新一轮的算力革命,已然在加速启动。

在这样的答背景下,势必会有越来越多的城市拥抱智能计算中心,算力将成为经济增长中不可或缺的一部分。同时智能计算中心的使命也将被重塑:除了填补算力规模的鸿沟,算力生态的重要性不言而喻,只有满足应用、计算需求与不同算力之间的匹配,才能创造出最大的价值。智能计算中心的2.0阶段,需要输出算力、算法、数据、应用高度协同的一体化资源。