手机助手越权读取通讯录、云端智能体擅自执行转账操作——这些曾经只存在于科幻片里的担忧,正在变成监管部门必须面对的现实问题。5月8日,国家网信办、国家发改委、工信部联合印发《智能体规范应用与创新发展实施意见》,首次从国家层面为智能体这一AI新形态划定发展边界。
《实施意见》将智能体定义为"具备自主感知、记忆、决策、交互与执行能力的智能系统",并明确其是"人工智能产品及服务的重要形态"。这一定位背后,是智能体正加速渗透进日常生活的事实:手机助手、终端智能管家、云端智能体等产品已呈规模化应用态势,在便利工作生活的同时,其高自主性、高权限特性也带来了隐私泄露、越权操作、行为失控等新型风险。
文件提出"安全可控、规范有序、创新驱动、应用牵引"四项基本原则,并部署了四个方面的具体举措。在夯实发展基础方面,要求完善技术底座、构建标准协议;在守牢安全底线方面,明确产品准则、防范安全风险、完善治理体系、强化行业自律;在强化应用牵引方面,围绕科学研究、产业发展、提振消费、民生福祉、社会治理五大方向,提出19个典型应用场景;在建设创新生态方面,促进产业合作、强化应用推广。
安全被置于产业发展的底线位置。《实施意见》从四个维度构建安全框架:一是明确产品准则,完善政策法规和伦理规范,做好权限管理与行为管控;二是防范安全风险,提升内生安全、供应链安全、应用衍生风险的防范能力,实现全周期安全管理;三是完善治理体系,构建审慎稳妥的分类分级治理框架,推动建设合规服务体系;四是强化行业自律,鼓励企业、行业组织、研究机构共同制定自律规则,引导开发者、平台、服务提供者参与信用评价。
标准建设是另一项重点。《实施意见》要求加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准,加强智能体互联协议(AIP)等关键标准的推广应用。医疗、交通、媒体、公共安全等领域将制定强制性标准,企业需按标准研发产品服务以提升规范性,同时积极参与国际标准制定。
国家网信办有关负责同志表示,统筹发展与安全是文件的核心要义,目标是既"放得活"又"管得好"。这意味着智能体产业将在明确规则的前提下获得发展空间,而非被简单收紧。对于从业者而言,合规能力将成为下一阶段竞争的关键变量。
热门跟贴