在InfoQ Dev Summit Munich上，Mitigant联合创始人兼CTO Kennedy Torkura发表了题为“利用对抗模拟进行GenAI红队测试”的演讲。他开门见山地询问现场观众：有多少人在构建GenAI应用？有多少人正在做相关安全工作？又有多少人属于SOC团队、检测工程、红队或紫队？这一互动迅速拉近了与参会者之间的距离。

Torkura拥有超过12年网络安全经验，并基于自己的博士研究创办了德国云安全初创公司Mitigant。他同时也是AWS社区构建者。在这场演讲中，他聚焦于一个核心问题：在AWS等云环境中，如何借助对抗模拟对生成式AI应用进行红队测试，以保护大语言模型和知识库免受数据投毒、LLMjacking等新型安全威胁。

打开网易新闻 查看精彩图片

他强调，传统云安全实践往往聚焦身份、网络和基础设施，但GenAI应用带来了全新的攻击面。工程领导者和架构师需要把传统云安全能力与MITRE ATLAS框架结合起来，通过攻击者视角的模拟演练主动识别潜在漏洞。MITRE ATLAS中收录了大量AI攻击案例，Torkura引用这些案例来说明攻击者可能使用的战术、技术和过程，并据此帮助团队设计防护栏和安全控制措施。

在Torkura看来，安全团队不能只停留在基础防护层面，更需要将安全混沌工程、网络弹性、事件响应和风险分析等理念融入AI系统开发中。红队、紫队与检测工程师之间的协作至关重要：只有通过持续的对抗模拟，才能在攻击者利用漏洞之前发现并修复问题，保障生产环境的AI应用安全。他鼓励工程领导者尽早引入红队测试和MITRE ATLAS框架，而不是等到系统上线后再亡羊补牢。

InfoQ Dev Summit Munich软件开发者大会聚焦资深开发团队当前面临的关键软件挑战，参会者有机会与20多位资深开发者交流，获取一线技术洞察。Kennedy Torkura的分享在传统云安全与AI安全之间搭建了一座务实桥梁，也为GenAI时代的威胁应对提供了可落地的实践思路。