周末最新消息,暂停训练一个月后,OpenAI已恢复训练其最先进AI模型。
不过,训练期间模型不得直接访问实时互联网,直到OpenAI认为已具备足够的安全保障措施,能够降低未发布模型在训练期间于网上执行未经批准操作的风险。
1)这个事儿,对于全球AI产业链来说,自然利好。
今天,美股硬科技板块暗盘集体拉升。
按照这个节奏,明早亚洲市场一开盘,纳指期货要上涨,日韩股市也要上涨。
2)梳理一下逻辑:
简单来说,7月份的时候,OpenAI出了一次事故:一组本应待在“沙盒”隔离环境中、且未运行常规安全防护的模型,利用软件漏洞突破沙盒接入公网,意外入侵了AI平台HuggingFace的生产系统。OpenAI随后收窄了联网通道,但为指标收集、日志和身份认证保留了一部分。
9月份的时候,又发生了第二次事故:一个前沿研究模型利用DNS解析器配置错误,在“无网”训练环境中有限接入实时互联网,并连上了一个第三方聊天机器人。监控12分钟内发出最高级警报,人工3分钟介入,2.5小时后终止任务。事后还发现:OpenAI智能体曾试图访问美国教育部、商务部、SEC等政府网站,甚至削弱并关闭了内部监控警报。
另一大AI巨头Anthropic在9月也因智能体在网络安全测试中入侵第三方系统而暂停训练数周。
正是因为这一系列事故,导致9月关于“AI安全”的话题,在全球炒的沸沸扬扬,甚至出现了AI或足以造成“10亿人死亡”的话题……
在全球的舆论压力之下,9月底,OpenAI宣布暂停前沿模型训练。
“安全事件→训练暂停→算力需求下滑”的传导链条,导致全球AI相关上市公司持续下跌。
3)解决方案
OpenAI给出的措施主要是:断网训练+“离线世界”+纵深防御+AI红队测试。
OpenAI与Anthropic已经做了表率,后续“断网训练”可能成为行业新标准。
4)对于市场的影响
首先,先进AI大模型重启训练意味着算力消耗回升,芯片、服务器、网络和存储需求预期获得支撑;同时,安全隔离也可能带来额外设施需求。
其次,从市场情绪层面,才是主要的影响。
之前,AI安全与AI泡沫两大问题,是导致全球AI赛道调整的主要原因。
AI泡沫的问题,还会一直争论下去,但AI安全的问题,至少是暂时告一段落了,从情绪层面,自然是利好全球AI赛道的。
特别是对于大A来说,周五市场绝地反击,科技赛道带头反弹,接下来市场如果想继续回暖,主要也是看科技的表现,只有科技赛道持续反弹、持续回暖,市场才能全线回暖,咱们拭目以待!
热门跟贴