2026年,AI安全终于被推到了台前。 就在前两天,工信部NVDB平台发布风险预警,明确指出Claude Code存在安全后门隐患,可在用户不知情的情况下收集敏感信息。 时间线拨回更早,年初红遍全网的OpenClaw也屡屡被曝出高危险漏洞。 从横空出世到快速普及,再到漏洞频发、信任受损,这几乎是当前Agent产品共同的发展轨迹。 现在的AI能力是越来越大了,但闯出的祸也跟滚雪球似的。 滥用工具、恶意代码生成、提示注入等诸如此类的行为风险,早已不是一两个补丁就能彻底解决的。 面对新的风险形态,一个越来越明显的趋势是,行业开始把注意力从“漏洞修补”转向“安全框架”本身。 最近蚂蚁开源的SingGuard-NSFA和SingGuard,就是其中比较值得关注的一次尝试。 前者看住智能体的行为,后者看住多模态大模型的感知。 其目的也很明确,就是在AI动手之前,将安全风险扼杀在摇篮之中。 之所以聊到这个项目,也是因为它的背景比较有意思。做这个框架的团队来自蚂蚁,一家在安全领域拥有长期积累的公司。 先是支付安全、风控体系,再到如今的AI安全,安全能力在这家公司内部本身就是一条持续演进的技术路径。
2026年,AI安全终于被推到了台前。 就在前两天,工信部NVDB平台发布风险预警,明确指出Claude Code存在安全后门隐患,可在用户不知情的情况下收集敏感信息。 时间线拨回更早,年初红遍全网的OpenClaw也屡屡被曝出高危险漏洞。 从横空出世到快速普及,再到漏洞频发、信任受损,这几乎是当前Agent产品共同的发展轨迹。 现在的AI能力是越来越大了,但闯出的祸也跟滚雪球似的。 滥用工具、恶意代码生成、提示注入等诸如此类的行为风险,早已不是一两个补丁就能彻底解决的。 面对新的风险形态,一个越来越明显的趋势是,行业开始把注意力从“漏洞修补”转向“安全框架”本身。 最近蚂蚁开源的SingGuard-NSFA和SingGuard,就是其中比较值得关注的一次尝试。 前者看住智能体的行为,后者看住多模态大模型的感知。 其目的也很明确,就是在AI动手之前,将安全风险扼杀在摇篮之中。 之所以聊到这个项目,也是因为它的背景比较有意思。做这个框架的团队来自蚂蚁,一家在安全领域拥有长期积累的公司。 先是支付安全、风控体系,再到如今的AI安全,安全能力在这家公司内部本身就是一条持续演进的技术路径。


JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图
JPG
长图