打开网易新闻 查看精彩图片
Cloudflare的安全团队昨天想更新博客,结果被自己的WAF(Web应用防火墙)拦在了门外。这套系统专门用来识别恶意流量,这次却把自己人当成了攻击者。
事情发生在他们发布一篇讲AI安全的文章时。编辑刚点发布,页面弹出红色警告:"You have been blocked by network security." 团队花了两小时排查,最后发现是文章里的一段示例代码触发了规则——那段代码刚好演示了怎么绕过AI模型的安全限制。
负责安全产品的工程师在内部频道吐槽:「我们教别人怎么攻击AI,结果先攻击了自己。」
这不是Cloudflare第一次被自己人绊倒。去年他们的DDoS防护系统曾误杀自家监控流量,导致全球多个节点告警。这次误封的WAF规则上线才三周,原本用来拦截提示词注入攻击,结果把教学用的无害代码也扫了进去。
热门跟贴