【CNMO科技消息】微软总裁布拉德·史密斯近日表示，人工智能目前受到的监管远远不够，甚至不如牛奶和洗衣机这样的普通消费品。他呼吁各国尽快建立全球性的AI安全规则，包括要求企业在AI系统失控并造成损害时通知受害者、提交事故报告，以及在部分AI产品正式发布前接受独立评估机构的审查。
史密斯在接受英国广播公司采访时说，家里洗衣机受到的安全规则都比AI更多，杂货店里每一盒牛奶都受到安全规则和检验的约束。他认为AI已经同时具备工具和武器的双重属性，不能继续只靠企业自律来控制风险。
他建议企业为AI系统设置紧急制动机制，也就是业界常说的"终止开关"。一旦AI出现失控，或者开始执行可能造成严重后果的操作，企业应当能够及时暂停系统运行，或降低其运行速度和权限，防止风险进一步扩大。
史密斯还主张建立强制性的事故报告制度。如果AI代理失控并侵入其他系统，或因异常行为对用户造成损害，相关企业就应依法报告事故，并告知受影响的个人或组织。他认为这些措施应当成为AI安全监管体系的一部分，而不能只依赖企业自愿行动。
此外，史密斯建议，部分高风险AI产品在发布前应由政府认可的独立评估人员审查，判断系统是否符合安全要求。这并不意味着所有AI产品都要接受同等程度的监管，而是应根据产品能力、使用场景和潜在风险来决定。
在推动国际规则方面，史密斯看好英国的作用。他指出，英国已建立专门研究AI安全问题的机构，即人工智能安全研究所，负责研究先进AI系统的能力与潜在风险。
史密斯并不完全否定行业自律的价值，但认为仅仅依靠自愿承诺已经不够。他指出，任何自我监管制度都面临一个根本问题：负责任的企业通常愿意遵守安全要求，真正需要担心的，是那些缺乏责任意识、不愿主动采取措施的公司。如果只靠自愿承诺，守规则的企业可能承担更多成本，而不愿投入资源的竞争者却可能继续快速扩张。因此，建立具有法律约束力的最低安全标准，有助于确保所有企业都达到基本要求。
他认为，AI的技术发展速度正在超过现有监管体系的调整速度，已经到了必须采取行动的阶段，应当借鉴其他行业的监管经验，建立适用于AI的安全制度，而不是等到严重事故发生后才开始讨论应对。
热门跟贴