2024年7月8日,由深圳市芯师爷科技有限公司和慕尼黑上海电子展携手主办,深圳市半导体行业协会、深圳市人工智能行业协会和智用人工智能应用研究院指导,深圳市微纳集成电路与系统应用研究院支持的“2024算力技术创新发展生态大会”,于上海新国际博览中心C1馆现场论坛区1574号展位圆满落幕。

打开网易新闻 查看精彩图片

高端对话:跨越算力瓶颈,探索人工智能的新边界

上午场高端对话由益企研究院创始人、CDCC中国数据中心专家组专家、OCTC开放计算委员会数据中心工作组组长张广彬主持,特邀智用人工智能应用研究院CTO、原微软中国首席创新技术架构师周闻钧、深圳市人工智能行业协会执行会长郎丽艳和苏州亿铸智能科技有限公司创始人、董事长兼CEO熊大鹏博士等三位行业资深人士及企业高管,围绕论坛主题“跨越算力瓶颈,探索人工智能的新边界”展开交流探讨。

打开网易新闻 查看精彩图片

AI到底是一片新蓝海,还是又一次的泡沫?专家们普遍认为,尽管AI和算力发展面临泡沫和挑战,但整体态势呈乐观趋势。当泡沫褪去,AI将在更多领域大放异彩,也将开启云计算产业链新一轮的景气周期

从技术成熟度和容错率的角度出发,郎丽艳认为对AI容错率高的应用将率先取得突破,无论是ToC还是ToB领域。从算力层面来看,熊大鹏博士认为,未来将会出现算力中台一类的产品。算力中台向上支撑各类大模型的发展,向下对接和兼容各类应用,在大数据时代起到数字基建的关键作用,而千卡万卡集群也离不开算力中台这一概念,可以说未来市场巨大。

最后,周闻钧强调了走自主技术发展道路的重要性。他认为,在地缘政治的影响下,中国应发展适合自身特点和优势的AI领域,如具身智能和端侧模型,以避免跟随美国的步伐,走出自己的发展道路。

01:驱动存储的性能飞跃

打开网易新闻 查看精彩图片

数据显示,自2012年以来,AI训练应用的算力需求每3-4个月翻倍,10年内增长超过30万倍,未来10年有望实现千倍增长。江波龙企业级存储事业部市场总监聂集武在演讲中提出,AI算力需求从云侧逐步转移至端侧,使得2024年被誉为“AI PC元年”,AI PC将在2025年快速提升渗透率。推动相关硬件和软件技术的创新。

其中,江波龙FORESEE XP2300 PCIe Gen4 SSD专为电竞游戏本和高效生产力PC设计,顺序读写速度最高可达7400MB/s和/ 6400MB/s,具备温控算法和低功耗L1.2,以平衡性能与温度,提高设备续航。FORESEE LPCAMM2则采用了LPDDR5x DRAM技术,兼具高性能、低功耗、小型化等特点,为AI PC提供更多可能。

02:超越极限:大算力芯片面临的技术挑战与解决策略

打开网易新闻 查看精彩图片

苏州亿铸智能科技有限公司创始人、董事长兼CEO熊大鹏博士带来《超越极限:大算力芯片面临的技术挑战与解决策略》主题演讲,阐述大算力芯片的新机遇、新挑战:人工智能正迅速融入传统领域,诞生智算中心、AI PC、AI手机和具身智能等新兴市场,不仅迎来AI PC元年,AI手机对相关芯片的需求也愈加凸显。然而,大算力芯片发展正遭遇存储墙、能耗墙、成本增加和软件生态不足等发展瓶颈。

面对这些挑战,熊大鹏博士提出:存算一体超异构可以有效解决上述问题,是开启算力增长第二曲线的终极解决方案,可以为算力的落地和最后一公里的打通提供更大的算力,更高的能效比和更具成本效应的解决方案。亿铸科技希望通过技术创新,开启新的发展路径,实现算力的落地,加速生态的发展,推动整个产业的可持续发展。未来,亿铸科技将致力于持续推动国内大算力芯片产业链的发展!

03:TPU和RISC-V:大模型时代下的算力新机遇

打开网易新闻 查看精彩图片

算能生态合作部总监何旅洋看来,在大模型同质化引发的算力战争中,成本、功耗成为决胜关键,要求训推硬件系统化,异构算力、多维并行、异步调度和资源池化为长期趋势,而RISC-V作为新一代指令集,拥有“开源、简单、高效、可扩展”等众多特性,在智算领域拥有无限想象空间。

因此,算能推出行业首款服务器级RISC-V处理器SG2042,已实现商用交付。SG2042基于64核RISC-V架构,主频2GHz,拥有64MB系统缓存,最多支持两路SG2042互联,兼具高性能、高吞吐、高能耗比等特性,适用于云计算、数据分析、网络和存储工作负载,以及数据密集型和I/O密集型的工作负载。

04:面向边缘智能的国产边缘计算芯片创新

打开网易新闻 查看精彩图片

在题为《面向边缘智能的国产边缘计算芯片创新》的演讲中,云天励飞芯片市场总监沈宇亮强调,AI大模型行业应用规模化发展趋势之下,推理算力的重要性日益提升,大模型推理和微调的市场需求巨大,专用的大模型推理芯片将有广阔市场空间

云天励飞基于大模型算法芯片化的“1+N+X”战略,推出的边缘大模型智算芯片DeepEdge10系列,是基于国产工艺的Chiplet AI芯片,内置自研新一代神经网络处理器NNP400T,通过D2D高速互联Chiplet技术、C2CMesh互联架构实现算力扩展,能够支持千亿级参数大模型,落地于边缘设备和边缘服务器。

05:算法算力和存储行业的协同: 推动中国制造的软硬件一体化建设

打开网易新闻 查看精彩图片

德明利营销中心战略销售副总经理张晟彬分享德明利在存储领域的创新与实践,指出冯·诺依曼架构已成为发展芯片算力的桎梏,传统芯片的发展速度已无法满足对算力急剧上升的需求,摩尔定律的放缓给芯片行业带来巨大挑战。此时,存算一体化作为先进算力的代表技术,通过在存储器中嵌入计算能力,有效提升计算能效,为解决算力瓶颈提供了新思路。

德明利持续聚焦存储主业16年,产品线涵盖固态硬盘、嵌入式存储、内存条及移动存储四大系列,已广泛应用于车载电子、数据中心、新能源汽车、手机、平板、安防监控等多元应用场景,持续为全球100多个国家和地区的客户提供定制化、高品质、高性能的存储产品和解决方案。

06:大模型加持具身智能,算力们准备好了吗?

打开网易新闻 查看精彩图片

智用人工智能应用研究院CTO、原微软中国首席创新技术架构师周闻钧通过Figure 1公司的案例导入,展示了OpenAI大模型在多模态输入、意图理解和方案规划上是如何与设备端模型完美协同,并与斯坦福开源的Mobile ALOHA项目在具身智能领域的进展进行对比。致力于推动AI技术与传统产业的深度融合,智用人工智能应用研究院特别关注AI在产品制造领域的应用,推出产品“AI BOM”优化产品从研发到销售的全过程,为制造业的转型升级提供了新思路

据周闻钧观察,当下工业机器人的智能化仍依赖于传统机器学习,在制造业领域,算力并不稀缺,国产企业仍大有可为。与其去追逐H100、H200的步伐,不如更好地适配开源小模型,为具身智能带来新的可能性

07:玄铁RISC-V AI全栈技术拓展算力生态边界

打开网易新闻 查看精彩图片

达摩院RISC-V及生态资深软件负责人李春强在演讲中援引SHD集团的数据显示,自2022年至2030年,RISC-V在主流市场年复合增长率将高达40%。不仅如此,作为一种新兴开源芯片架构,RISC-V以其开放、模块化和可扩展的核心特性,RISC-V从开始推广商用到实现累计出货100亿颗芯片,仅用了约十年的时间,就完成了Arm架构30年的历程。

玄铁在去年发布了三款RISC-V核心,包括面向端侧人工智能的C907,面向高性能推理的C920,以及面向实时/可靠领域增强的高性能处理器R910。据李春强透露,玄铁将面向AI加速、低功耗、安全、车规等方面全面迭代玄铁产品线,并将在今年推出继续引领市场的下一代高性能RISC-V处理器核C930。玄铁C930兼容RVA24 Profile,采用乱序流水线,SpecINT2K6最高跑分可达15/GHz。

08:基于RISC-V V扩展满足大算力并行需求

打开网易新闻 查看精彩图片

芯来科技战略市场高级总监马越带来主题演讲《基于RISC-V V扩展满足大算力并行需求》,提出RISC-V可以加持赋能AI芯片中的CPU,更好的支持AI芯片的软硬件协同及生态。AI加速芯片将会成为所有RISC-V SoC中占比最高的部分,预计2030年总市场规模达到420亿美元,CAGR高达49.2%,是RISC-V增长预期中的重要组成部分。

芯来科技重点布局AI应用场景,推出第一款AI专用RISC-V处理器CPU IP NI900系列内核,不仅支持RISC-V Vector1.0标准,还拥有强大的并行计算能力、Memory读写能力,带来极大的并行计算性能提升,助力本土芯片设计公司完成AI芯片的设计。

09:从多核到众核:RISC-V+NOC IP算力子系统

打开网易新闻 查看精彩图片

广东赛昉科技有限公司资深销售总监周杰在演讲中展示了赛昉科技的IP产品线,包括两款高性能RISC-V CPU IP——昉∙天枢-90和昉∙天枢-80,以及两款一致性互联总线IP——昉∙星链-500和昉∙星链-700。从高性能到高能效,赛昉科技在RISC-V领域持续探索,不断扩充自研RISC-V CPU IP矩阵。以满足不同场景的需求。

周杰还分享了基于昉∙星链-500和昉∙星链-700的算力子系统方案的具体实例。其中,基于昉·星链-500的多核(4-16核)算力子系统平台可根据系统需求灵活配置大小核数量,展现出极致性能、能效平衡、能效优先三大优势。基于昉∙星链-700的众核(大于16核)平台是首个国产Mesh拓扑架构的算力子系统,可以支持最大144节点,周杰分享了该平台的实际案例以及网络延迟等阶段性实测数据。

10:在算力ASIC之前的一种可商业化技术验证路径——针对高带宽计算优化的FPGA

打开网易新闻 查看精彩图片

Achronix Semiconductor中国区总经理郭道正深入分析了AI芯片市场的快速发展和对高带宽计算优化FPGA的需求。从AI市场增长速度来看,预计从2023年到2033年,AI芯片市场将增长10倍,达到920亿美元。其中,开发先进节点ASIC开发成本高昂,例如5nm工艺的成本可能超过5亿美元,3nm工艺可能达到15亿美元

除了原型验证以外,FPGA因其硬件可编程性、计算能力和灵活性、内存带宽和容量以及成本效益,在大模型推理中扮演重要角色。Achronix Speedster7t系列FPGA旨在优化LLM操作,平衡LLM硬件的关键要求,具体特性体现在高性能计算、高带宽内存和高能效处理,可提供更经济且更高能效大模型推理解决方案。

11:边缘侧AI

打开网易新闻 查看精彩图片

Imagination Technologies中国区资深市场拓展经理黄音在演讲中引用了AI研究者Rich Sutton在其《苦涩的教训》(The Bitter Lesson)论文中的观点,强调了通用基础模型和开放软件生态系统在边缘侧AI发展中的重要性。随着端侧AI训练、推理的需求增大,晶体管持续扩展,性能不断提升的同时,热管理也成为了主要挑战。硬件设计趋向于用更通用的同构的架构可能成为硬件设计的最优解。

Imagination作为图形、计算和边缘人工智能领域的领导者,致力于推动技术创新,拥抱人工智能的未来发展。目前,Imagination提供全栈解决方案,覆盖了汽车、移动设备、桌面等多个领域,其产品线涵盖多个GPU和CPU系列。GPU包括支持光线追踪的XT GPU、支持高性能DirectX的XD GPU、专为汽车等安全关键领域设计的XS GPU等等;高质量RISC-V CPU包含了实时CPU系列、性能密集型CPU系列、以及高性能CPU系列。 Imagination也希望通过标准化组织的力量—UXL基金会和RISE组织里的领导作用, 帮助国产芯片在GPU和RISC-V CPU在边缘算力上对接生态取得成功。

12:基于iDivider的数字隔离技术为数据通讯接口提供可靠的保护

打开网易新闻 查看精彩图片

荣湃半导体(上海)有限公司市场高级经理张宏林详细阐述了荣湃半导体的核心技术——电容智能分压技术(iDivider),这是一种创新的数字隔离器技术,它通过电容分压原理简化了电路设计,无需RF信号和调制解调,相比传统光耦和其他隔离技术具有更低的功耗、更高的信号传输效率和更强的抗干扰能力

据介绍,荣湃半导体的数字隔离器产品线,包括标准数字隔离器、数字光耦、高速光耦PTP、光MOS和超宽体数字隔离器,在电动汽车和光伏逆变器等领域如OBC/DC-DC汽车电源、BMS电池管理系统、电机驱动器、空调与加热器热管理实现关键应用。

圆桌讨论:中国机遇下的多元算力生态构建策略

圆桌讨论:中国机遇下的多元算力生态构建策略

下午场圆桌讨论由益企研究院创始人、CDCC中国数据中心专家组专家、OCTC开放计算委员会数据中心工作组组长张广彬主持,特邀旷深科技总经理、原统信软件生态中心副总经理、原戴尔EMC超融合产品VxRail运营负责人周辰杰、深圳市德明利技术股份有限公司营销中心战略销售副总经理张晟彬、达摩院RISC-V及生态资深软件负责人李春强、Imagination Technologies中国区资深市场拓展经理黄音和戴尔科技集团软件研发总监石勇军等行业大咖,围绕主题“中国机遇下的多元算力生态构建策略”展开交流探讨。

打开网易新闻 查看精彩图片

周辰杰将当前的算力发展比作“iPhone时刻”,指出中国拥有庞大的人口基数、市场和科技力量,这使得中国在算力领域成为世界的重要玩家。中国在移动互联网的快速发展中已经展现出了巨大的潜力和创新能力,此次也能迎头赶上全球算力浪潮。

张晟彬则强调了开源生态和聚焦中国擅长领域的重要性。他认为,中国应该发展自己擅长的东西,而不是盲目跟随国际潮流,这样才能做出提更加创新、被人接受的东西。

李春强从技术维度和生态角度分析算力,他提到:“算力不仅仅是数值计算能力的衡量,更关键的是算力与应用的有机结合,以及算力的性价比和能效比。”中国在算力生态中具有巨大的应用市场,这将牵引创新力量,推动中国在全球算力生态中扮演举足轻重的角色。

黄音认为,中国发展算力的优势在于大量的需求、资源和人才,但同时也面临着基础问题、标准化问题和信息安全问题等挑战,应该更加关注应用的落地和整体解决方案,而不仅仅是算力的峰值性能。要提高中国的算力竞争力和国际影响力就好加入国际标准化组织。Imagination在RISC-V软件生态组织RISE和开放软件系统UXL组织中都是创始成员和技术委员会成员。Imagination希望帮助中国本土芯片厂家在标准化组织中发声,跟国际对接,跟全球生态兼容。

石勇军也表示,中国的生态链系统是其显著优势之一。国内拥有各行各业的芯片厂商,这些厂商之间的竞争和发展为算力的创新和发展提供了坚实的基础。一个完善的生态链不仅促进了技术的进步,还加速了从创新到产品制造的转化过程。

整体而言,中国在全球算力发展中具有显著的优势,包括完善的生态链、广泛的应用需求、创新与客户需求的结合以及庞大的市场规模。这些优势为中国在算力领域的持续发展和全球领先提供了坚实的基础,但也面临着需要克服的挑战。通过聚焦创新、开放合作和解决实际应用问题,中国有望在算力领域取得更大的发展和突破。