给20个AI模型配上8个模拟工具,再发出100条攻击指令,结果20个模型全部拿到F——最低一档的评分。这是VIDRAFT做的一次模型安全检查,韩国主要全国性日报《中央日报》在2026年11月19日报道了这项结果。
打开网易新闻 查看精彩图片
更具体的数字是:中位数模型在100次检查中有40次尝试执行危险动作。也就是说,一半模型的"出手率"高于这个水平。测试用的是VIDRAFT的公开工具ViKernel Scanner。
VIDRAFT的做法不是从外部拦截,而是把安全内核ViKernel放进模型权重内部。按报道中的说法,它从三个层面起作用:
- 即使模型被外部指令骗过,危险的工具调用本身也会在执行前被拦下;
- 每一次判断都留下难以伪造或篡改的记录;
- 紧急情况下有kill switch,可中止全部活动。
效果数字是897次危险调用,897次全部在执行前被阻断。这个数字对应的是同一轮测试中的全部危险调用,没有漏网。
VIDRAFT首席执行官Kim Minsik对《中央日报》表示,攻击目标正在从代码转向AI模型本身。他的判断是:在AI不只停留在"说话"、而是会实际执行动作的时代,无论哪句话骗过了模型,都必须拦住危险动作本身——这既是商业问题,也是国家安全问题。
这套工具本身是开放的。ViKernel Scanner在Hugging Face上免费提供,源码以Apache-2.0协议开放,兼容任何OpenAI兼容端点,大约一分钟返回A到F的评级。20个模型的详细结果已公开,另有一场奖金4500美元的AI模型攻防黑客松,任何人都可以去攻击这个安全内核。
对跑在边缘设备上的模型来说,这件事的分量在于:它们手里握着工具,也握着本地文件。
热门跟贴