周三,安全创业公司CodeIntegrity宣布拿到500万美元种子轮,专治一种让企业夜不能寐的病——当AI代理开始替你操作数据库、审批报销单,谁能保证它不会被一句恶意的自然语言指令骗去暴露客户隐私?
联合创始人兼CTO Abi Raghuram 说得直白:“所有公司都在急着把AI代理部署上线,但它们根本不懂怎么安全地做这事。”去年秋天,他的团队用一个不到4小时的演示震惊了行业:他们入侵了笔记应用Notion,迫使背后的多个大模型乖乖吐出了私密信息。这件事甚至被《经济学人》点名。
这种攻击叫“提示注入”。传统软件是确定性的,你输入X,机器必定执行Y。可AI代理由大语言模型驱动,行为不可预测,恶意文本一旦注入,代理就可能充当内鬼。CEO Steven Jung 补充说:“企业场景里AI代理会越来越多,到现在还没人真正搞定安全问题。我们要第一个为企业提供确定性的控制。”
CodeIntegrity 的方案是一个叫“运行时控制层”的永久护栏。它在AI模型和真实系统之间充当翻译兼过滤器,用严格的规则框死模型的权限——哪些企业数据能碰,哪些系统绝对不许访问,全部由代码写死。
Raghuram 和 Jung 相识于印第安纳州顶尖本科工程院校罗斯-霍曼理工学院,分头工作几年后重逢,2024年5月在西雅图地区创立公司。随后参加早期基金 Antler 在纽约的加速器,现在团队5人,两位创始人已搬到旧金山。种子轮由专注网络安全的 Syn Ventures 领投,Antler 和 Boost VC 跟投。目前约6家公司正在试用产品,定价未最终敲定,但会走网络安全行业常见的年度合同模式。
盯着这个方向的玩家不止一家:西雅图的 Certiv 今年3月刚浮出水面,加州还有 Raven 和 Manifold Security。曾在西雅图 Truveta 工作超三年的 Raghuram 直言旧金山是“地面零点”,正试图从老地盘挖工程师来参战。AI代理的安全军备赛,刚刚拉开帷幕。
热门跟贴