打开网易新闻 查看精彩图片
安全研究员发现,名为Mythos的AI系统若落入他人之手,将成为"前所未有的网络武器"。这话不是危言耸听——发出警告的正是开发它的团队自己。
他们在技术报告中坦承:「我不知道我们该如何应对这件事。」这种自我拆台式的披露在AI圈极为罕见。通常公司会把危险能力锁在保密协议里,而不是写成白皮书公开讨论。
打开网易新闻 查看精彩图片
关键数字是3。据开发方估算,目前全球能达到这一能力层级的公司不超过3家。这意味着窗口期狭窄,但风险集中——一旦技术扩散,防御方几乎没有反应时间。
讽刺的是,这份报告本身就成了风险的一部分。详细描述攻击向量,等于给潜在攻击者提供路线图。开发团队的逻辑大概是:既然瞒不住,不如抢在对手之前定义问题。
一位参与评估的研究员私下吐槽,这有点像核科学家在1945年发表《如何制造原子弹》——技术上诚实,战略上冒险。报告末尾没有给出解决方案,只画了个问号。
热门跟贴