可能是今年的最大乐子
今天 OpenAI 认领了个事儿:
OpenAI 正在内测的模型,越狱并攻击了 HuggingFace
然后乐子来了:
帮助守住攻击的,是 GLM 5.2
啊哈哈哈哈哈哈哈哈哈~~~~
打开网易新闻 查看精彩图片
注意,HuggingFace 是一家美国公司,创始团队是法国人
你会问:为啥不是 Claude 帮忙修的?
因为...Claude 拒绝回答一切安全问题,被拦下来了!!!
打开网易新闻 查看精彩图片
啊哈哈哈哈哈哈哈,这是什么英雄救美啊,即便是强如 Hugging Face,关键时刻还是得看中国模型,哈哈哈哈哈哈哈
打开网易新闻 查看精彩图片
OpenAI 的攻击
在内部测模型的攻击能力,护栏调低了。模型跑着跑着从沙箱里钻了出去,上了外网,自己推断答案存在 Hugging Face,就打了进去把答案偷了
打开网易新闻 查看精彩图片
OpenAI 管这叫史无前例的安全事件
Hugging Face 的说法
“一套 AI Agent,一个周末摸走了数据集和凭证,当时不知道是谁”
做取证得把攻击日志喂给模型分析,找了美国前沿模型,全被拦了。护栏分不清是要造攻击还是要查攻击
最后,靠的是 GLM-5.2
打开网易新闻 查看精彩图片
然后是网友
打开网易新闻 查看精彩图片
现在我们知道了,攻击者就是 OAI 自己
打开网易新闻 查看精彩图片
HF 工程师本人:不在我今年的 bingo card 上
打开网易新闻 查看精彩图片
so many levels of wtf
打开网易新闻 查看精彩图片
潜进美国大厂的要是个中国模型,禁令明天就出来了
打开网易新闻 查看精彩图片
希望这个模型早点发布,别受政府干预
热门跟贴