来源：市场资讯

（来源：看看新闻Knews）

美国人工智能模型近期接连被发现存在“失控”行为。先是OpenAI的模型为了寻找测试答案主动作弊，通过自主发现的漏洞突破隔离环境，入侵其他平台；紧接着，安特罗匹克、元公司也相继承认，因为“测试环境配置错误”，导致模型意外联网，未经授权入侵其他机构的系统。

打开网易新闻 查看精彩图片

除了攻击，还有编造行为。苹果公司长期向研究人员征集系统漏洞线索，但这一渠道却被AI“幻觉生成”的虚假漏洞报告“淹没”，令审核人员疲于应对。苹果公司被迫自6月起设置报告提交上限和到达上限后的30天“冷静期”。

打开网易新闻 查看精彩图片

上海人工智能研究院研究员彭嘉昊分析指出：“美国的思路通常是先把市场做起来，把竞争对手压下去，安全问题出现了之后再解决，治理跟不上发展，风险就是必然的。”

监管呼声高涨之下，美国总统特朗普此前签署一项行政令，要求政府建立一套模型能力测评机制。8月4日，OpenAI、安特罗匹克、谷歌等企业，参加了白宫就此举行的闭门吹风会。所谓测评，就是要筛选出具有最先进能力、可能带来国家安全风险的闭源模型，白宫称它们为“受管辖前沿模型”。至于筛选的标准和范围、一旦发现风险后的处置方式，目前全部未知。

打开网易新闻 查看精彩图片

彭嘉昊指出：“美国搞的这套评测就是两头都要顾，两头都得罪不起，既要回应行业的监管压力，又不想真正地限制美国的AI竞争力，最后搞出来的就是这样一个不尴不尬的东西，参与是自愿的、企业不想来可以不来，基准是保密的、方法不公开，测出什么结果别人验证不了，测出问题之后也很难有措施，凑在一起就是一个给市场和舆论看的姿态，两头都不得罪但是又没有真正管住，因此可能不会很有效。更核心的是，即使是美国把这套测评机制做出来了，业界认不认、信不信？关起门来定的标准有没有公信力？都是未知。”

编辑: 孙晓旻

责编: 施远立