打开网易新闻 查看精彩图片

智东西
作者 ZeR0
编辑 漠影

智东西11月8日报道,知名研究机构Gartner近期发布了《Gartner十大战略技术趋势报告(2025)》,涉及代理型AI、AI治理平台、虚假信息安全、后量子密码学、环境隐形智能、节能计算、混合计算、空间计算、多功能机器人、神经增强。对此,Gartner研究副总裁高挺向智东西等媒体作了详细解读。

高挺分享,Gartner每年会要求全球约两千位分析师提交各自认为所研究领域中的一些重要技术趋势,由技术委员会和筛选委员对这些趋势进行评选。评选标准是满足以下条件:1)能获得企业CXO和CIO的关注,特别是CIO的关注;2)有全球性和跨行业的影响;3)有一些颠覆性影响;4)有一些活跃的实验室研究和研发的信号;5)有一些活跃的风险投资基金用于这些新的技术推进和初创企业的启动;6)不是渐进性的改变、而是跨越式的改变。

十大趋势可以归为三大类别:AI发展的紧迫性和风险(代理型AI、AI治理平台、虚假信息安全)、计算的新范式(后量子密码学、环境隐形智能、节能计算、混合计算)、人机协同(空间计算、多功能机器人、神经增强)。

一、代理型AI:2-3年,不需要休假和福利的数字劳动力

Gartner预测,到2028年,至少15%的日常工作决策将由代理型AI自主做出,而2024年这一比例为0%。

在高挺看来,代理型AI能够胜任的这些决策包括三类:1)重复性、数据密集型任务,相对简单又有足够多的数据作为决策支撑;2)面向内部的、提高后台工作效率的任务;3)决策路径较短,有人类参与在里面的协同任务,而非实现完全自动化的复杂目标。

代理型AI(Agentic AI,又名“AI智能体”)通过自主规划和采取行动实现用户定义的目标,有望提高企业生产力。Gartner认为代理型AI的愿景是“每个人都需要一个AI代理”,它会成为一个不需要休假和福利的数字劳动力。

AI过去只是为特定任务而设计的,在大语言模型出现后,AI开始具备语言和推理能力。OpenAI定义的AGI路线分为五个阶段,第一阶段是聊天机器人,第二阶段是具备推理能力,第三阶段则是具备代理能力的Agent。

打开网易新闻 查看精彩图片

代理型AI有两大特点:以目标为驱动,无论是否有人工干预都可以自动执行任务;利用记忆、计划、感知、工具等能力作出决策并采取行动

最终,代理型AI能像人类一样做事,比如将复杂目标拆解成不同任务,然后调用不同工具来实现任务。它预计会降低网站和应用程序的必要性,有助于提高员工数字技能、解锁扩展的新概念、创造新型工作伙伴。

高挺认为代理型AI的发展还处于较早期阶段,主要瓶颈在于错误率,尤其是在决策路径长、执行任务多的复杂目标场景。目前OpenAI的推理模型只发布到第一代,至少要迭代2-3个版本才具备比较高的实用性,预计2025年代理型AI仍然处于发展期。

其终局是人类和AI的融合,将大幅提高生产力,同时带来失业问题,短期内会给人类带来挑战,长期看人类会进入物质极大丰富的社会。

他建议企业采用人机协作模式,允许AI提供数据驱动的建议,而人类则负责最终决策,同时定期监控和评估AI系统的表现,确保其输出符合预期并且没有偏见。通过定期反馈机制,企业可以不断优化AI系统,并增强人类对其信任。

打开网易新闻 查看精彩图片

二、AI治理平台:2-4年,负责任的AI将成为企业的标配

Gartner预测,到2028年,采用综合AI治理平台的企业将比没有这类系统的企业减少40%与AI相关的伦理事件。

生成式AI大幅增加了技术失控风险,这些风险需要得到控制。Gartner所说的“AI治理平台”是指一个可从法律、伦理道德方面帮助组织管理和监督AI系统的技术解决方案,是Gartner不断发展的“AI信任、风险和安全管理(TRiSM)”框架的一部分。AI TRiSM使企业能管理其AI系统的法律、道德和运营绩效。

打开网易新闻 查看精彩图片

AI治理平台的主要能力包括模型的生命周期管理能力、透明度和可解释性、模型验证、AI系统监控、AI系统相关的法律政策合规管理等。

不是所有厂商都能提供一站式AI治理能力。Gartner认为未来负责任的AI将与网络安全一样成为企业的标配,而且同等重要。该机构预测接下来各国政府将出台一系列针对AI出台的法律法规,强调要警惕一些打着“AI伦理”的口号的市场营销策略,建议企业对AI系统进行压力测试以发现偏见。

针对推动AI治理、平衡技术进步与社会伦理道德关系,高挺提出了一些建议:1)政府制定明确的政策与法规;2)企业推动伦理审查机制;3)建立跨学科合作机制;4)强化公众教育与参与。

三、虚假信息安全:1-3年,防范与对抗伪造信息

Gartner预测,到2028年,将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能,而目前这一比例还不到5%。

虚假信息是故意传播的、伪造的信息,目的是误导、欺骗或操纵大众,攻击方式有网络钓鱼、社会工程、账户接管和虚假内容等。生成式AI加剧了它的危害,使攻击更难以被人类识别以及被传统技术组织,会给企业造成更大损失。

虚假信息安全是一类新兴技术,能够系统地辨别信任度,主要是用来在信息传播中确保完整性、评估真实性、防止冒充和追踪有害信息传播。

其技术元素包括深度伪造检测、防范冒充和品牌保护等;应用场景包括验证实时通信的完整性、确保第三方多媒体的真实性、大语言模型驱动的监控系统(用于跟踪社交媒体和暗网渠道上的内容)、降低生成式AI幻觉和数字测谎仪等。

身份冒充防范不只限于认证手段,品牌保护需要了解言论的出处、内容和传播范围,对抗虚假信息需要依靠多种技术以及跨职能团队。

高挺建议企业评估现有系统、工作流程和控制措施,以查找与虚假信息攻击相关的漏洞,并部署虚假信息安全技术和实践。例如在身份验证和生物特征认证工具中加入深度伪造检测的能力,并在整个身份使用过程中持续评估风险。

四、后量子密码学:2-3年,防御传统加密机制风险

Gartner预测,到2029年,量子计算技术的进步将使大多数传统的非对称加密技术变得不安全。

高挺提到后量子密码学的风险可能超过“千年虫问题”。量子计算能破解所有已有的非对称加密。例如,网银安全链路就采用非对称加密机制,而非对称加密在量子计算面前不堪一击。现有存储数据未来可能会被解密,这对很多企业是潜在风险。

当所有的加密机制都失效了,就需要构建新的加密机制。后量子密码学是一系列算法,用于抵御来自传统计算机和量子计算机的攻击,能够保护数据免受量子计算解密风险。

打开网易新闻 查看精彩图片

后量子密码学不是一个简单的升级或补丁,需要清点和替换所有当前的加密,其算法可能影响性能,并且许多组织并没有规划相应的预算。

其标准主要由美国国家标准与技术研究院(NIST)进行评选,这项工作已经开展多年,经过多轮筛选,预计不久将公布最终的商业化解决方案。到2025年春季,一些算法可能被确定。

后量子加密算法的标准还没完全定下来,企业可以做一些早期技术准备。由于改变加密方法并非易事,企业必须有更长的准备时间,创建密码使用清单,并与供应商沟通更换事宜,逐步对敏感数据用后量子密码学方法替换现有加密算法,升级或更换硬件,才能为一切敏感或机密信息提供强有力的保护。

五、环境隐形智能:3-7年,智能标签成本可降至10美分

环境隐形智能是由超低成本、微型无线电子标签、设备和传感器实现的,这些低功耗无线设备预计会在2025年被大规模使用。

Gartner观察到智能低功耗设备的成本正在变得越来越低,智能标签的成本目前可降到20美分左右,预计5年内可降到大概10美分左右,这意味着基本上可以在每一个物品里嵌入环境隐形智能或标签,从而提供新的客户互动方式。

环境隐形智能涉及数百万商品的实时库存盘点,涉及零售、食品生产、仓储等多个行业,长远来看将使传感器和智能技术无缝融入人们的日常生活中。

到2027年,环境隐形智能的早期示例将以解决当前问题为主,例如检查零售库存、易腐货物物流等,通过实现低成本的实时物品追踪和感知来提高可见性和效率。

六、节能计算:3-5年,用新型计算技术降低能耗

IT能源消耗正在以一种不可持续的方式不断增加。AI训练、模拟、优化、媒体渲染等高性能产品的需求可能成为企业碳足迹“大户”。在2024年,碳足迹是大多数IT组织的首要考虑因素。

打开网易新闻 查看精彩图片

节能计算是指用更小能耗实现更高的计算。这不是一蹴而就的事情,短期策略可使用绿色能源,提高计算利用率;中期策略可用更高效的编码、架构、算法,提高能效比;长期策略比如在2030年前,预计会看到光计算系统出现。

光计算、神经形态计算、新型加速器等,这些新的计算技术将被专门用于AI和优化等特殊任务,并能够显著降低能耗。

高挺还分享了一些企业在降低AI能耗方面的实践方向,例如使用更小的模型、探索和开发新型算法设计、通过监控模型性能并在达到预期精度后提前停止训练等。

七、混合计算:3-10年,用更高效机制解决计算问题

混合计算将被用来创建比传统环境更高效的变革性创新环境。这种计算形式有助于助力AI等技术突破当前的技术限制。

传统计算的未来是混合型的计算,结合不同的计算、存储和网络机制解决计算问题。

比如可以结合中央处理单元(CPU)、图形处理单元(GPU)、边缘计算、特定应用集成电路(ASIC)、神经形态计算、经典量子计算、光学计算范式等计算范式编排起来,利用各自的优势去解决不同的问题。

难点在于混合计算涉及到许多新兴技术,协调起来并非易事,现阶段还局限在比较小规模的异构计算资源(如CPU和GPU整合),在更大规模内的协调需要时间,其成熟至少需要3-10年

Gartner建议关注能够跨计算范式支持应用开发和部署的集成与编排平台。

八、空间计算:1-3年,将提高企业效率

Gartner预测,到2033年,空间计算市场将从2023年的1100亿美元增长至1.7万亿美元。

空间计算是将物理对象和数字对象合并到一个共享参考框架内的一种新兴计算范式,也就是将物理和数字世界的内容进行叠加和混合。其中涉及的关键技术包括对物理世界中人、地点、事物在数字空间进行映射和识别,比较典型的有增强现实(AR)、虚拟现实(VR)、扩展现实(XR)等技术,以数字方式增强物理世界,将实体和虚拟体验之间的交互提升到一个新的级别。

Vision Pro、Quest 3等新型头显的出现驱动这一趋势的发展,使空间计算从概念走向现实。更多具有空间计算能力的设备和应用正在被开发出来。Gartner预测头戴式显示器未来可能取代电脑和其他显示器。据估计,2024年空间计算的市场规模为350亿美元,包括基于XR芯片构建合作伙伴生态系统的主要硬件制造商。

在未来5~7年内,空间计算的使用将通过简化工作流程和增强协作能力来提高企业效率。

空间计算仍面临不少问题,比如头显价格贵、设备重、续航不长、操作界面较复杂、上手有门槛、缺乏有黏性的杀手级应用等。不同厂商硬件、软件和内容生态之间缺乏互操作性,也会阻碍空间计算的发展。

九、多功能机器人:3-10年,提高投资回报率

Gartner预测,到2030年,80%的人类将每天与智能机器人打交道,而目前这一比例还不到10%。

多功能机器人不是为了完成单一任务,而是能够执行多项任务,正在取代为重复执行一种任务而专门设计的特定任务机器人,可以与人类一起协作,能够快速部署和轻松扩展。

这种新型机器人的功能性,能够提高效率和投资回报率(ROI),为了帮助人类完成各种任务针对需要做什么给出指令,而不是如何采用新的外形规格。比如这个机器人在家里能做烧菜、洗碗、拖地等很多事情。

短期的需求可以被短租机器人满足。人机关系(机器人学)对业务成功的重要性将日益增加。

有些企业开始开发培训系统,用于教导机器人如何为业务提供支持;有些企业在招聘员工或考虑生产力资源时会考虑使用机器人;甚至有些企业对机器人部署默认采用多功能的策略,开始起草企业关于人机关系的基本政策。

在高挺看来,AI、传感器、机器人驱动器等技术因素,以及劳动力成本上升、劳动力短缺、自动化需求日益增长等外部因素,共同推动着智能机器人的快速发展和普及。汽车制造、电子制造、医疗辅助、家政服务、互动学习等行业场景均有可能实现多功能机器人的规模化应用。

十、神经增强:超过10年,提高人类认知和改善营销体系

Gartner预测,到2030年,30%的知识工作者将通过BBMI等技术(资金来源包括雇主和个人)提升自己的能力,并凭借这些技术来适应工作场所中AI的崛起。这一比例在2024年还不到 1%。

神经增强即脑机接口,利用读取和解码大脑活动的技术提高人类的认知能力。这项技术能够使用单向脑机接口或双向脑机接口(BBMI)和一系列其他方法“读取”人的大脑,实现“大脑透明度”,用信号方式反映人类在想什么,乃至增强大脑的功能。对大脑工作方式的理解将更深刻。

神经增强技术主要有三个潜力:1)提高人类的认知能力,“变成增强型人类”;2)影响下一代营销体系,帮助品牌了解消费者的想法和感受并增强人类的神经功能,从而获得最佳的结果;3)提升绩效,增强人类神经能力,预防工业事故、老龄化问题、司机疲劳驾驶等,有助于延长大脑健康时间和整体寿命。

高挺进一步解释道,传统营销是通过做用户问卷、大数据分析等方式获知用户喜好;未来企业可以借助神经增强技术,通过分析脑电波信号,来实时了解消费者的真实意图,实现更有效的营销。

结语:形成正确对待技术趋势的心态

相比前几年更强调技术架构的变化,今年的Gartner十大战略技术趋势更强调技术本身。高挺分享说,由于AI不断迭代,技术进入一个加速期,接下来代理型AI、虚假信息安全、AI治理平台预计发展较快,多功能机器人也已经被引入到生产制造行业中。

在他看来,如何正确对待技术趋势的心态很重要,可根据风险偏好去选择引领趋势发展、关注技术趋势发展甚至是完全忽视某项技术趋势(如果它和企业不相关或成熟时间太长)。但对于技术趋势和新兴技术而言,想直接应用的心态反而是会满足不了预期的。