我不需要提醒你，人工智能现在无处不在，并且在全球高管议程的最前沿。但一个较少讨论的影响是，信任因此发生了根本性的转变——无论是对个人还是企业。
曾经依赖直觉和本能的判断，现在变得可量化、可测试，并且可以通过机器分析。然而，尽管技术日益复杂，攻击者仍然瞄准最脆弱的环节：人类。
我们最新的全球事件响应报告：社会工程版显示，36%的网络事件始于社会工程——这清楚地表明人类因素仍然是网络犯罪分子最青睐的切入点。
人工智能正在重写这场战斗的规则。它显然赋予了罪犯前所未有的能力，以惊人的精确度模仿人类的语气、时机和情感，同时为防御者提供先进的工具，以检测欺骗并持续验证完整性。
结果是对信任本身的高风险争夺：谁控制它，谁利用它，谁保护它。
韧性不再仅仅依赖于对技术的盲目信任。它取决于企业在人员、流程和始终在线的智能系统之间有效管理信任的能力。
为什么信任现在是主要攻击面
尽管在自动化和检测方面取得了突破，但大多数重大泄露仍然始于一个单一的人类决策。这可能是一次点击、一个共享的凭证，或者一次看似平常的对话。社会工程在这些日常时刻中蓬勃发展——在这些时刻，熟悉感让人放松警惕，而攻击者则将操控伪装成信任。
攻击者绝不是在猜测；他们像博士生一样热衷于研究组织动态和个人行为，但缺乏伦理。现在许多攻击活动结合了多种战术，从恶意广告和短信钓鱼攻击到多因素认证轰炸，以降低警惕性。
我们的研究强调，65%的社会工程学攻击使用了钓鱼战术，其中66%针对特权账户，45%冒充内部人员。
这表明，尽管钓鱼攻击仍然占主导地位，但其复杂性体现在上下文中：这些信息听起来像同事发来的，模仿合法业务，或自然融入正在进行的工作流程。
这一波攻击之所以如此危险，是因为它们具有很强的适应性。每一次失败的尝试都会强化下一次，教会基于AI的对手如何观察人类在压力下的反应。这些攻击使威胁行为者能够迅速提升他们的权限，有时在不到40分钟的时间内从初始访问升级到域管理员，而且不需要部署任何恶意软件。
这些攻击主要利用控制漏洞和警报疲劳现象：13%的社会工程学案例成功是因为关键警报被遗漏或错误分类。这一现实要求我们更加关注行为检测，而不仅仅依赖技术手段。
防御社会工程学攻击需要的不仅仅是意识培训；它需要能够在信任被利用之前，及时检测出偏差的系统。
如何利用人工智能防御在损害发生前识别行为异常
我们发现，随着人工智能攻击的加剧，防御者也在积极应对——利用机器智能揭示人眼看不到的内容。网络安全的下一个前沿在于行为分析：在损害发生之前，检测出信号欺骗的微妙偏差。
我们不应该过于强调人工智能的攻击能力。真正的机会在于建立我们自己的人工智能守护系统——能够理解行为基线、检测异常并实时验证身份。
这不仅仅是一次防御升级，更是一种治理转型。它使组织能够在每一个信任行为和每一个访问事件背后嵌入验证，确保信任是通过努力获得的。
现在，人工智能驱动的防御工具分析从沟通语气到登录模式的所有内容，发现可能暗示操控或冒充的不一致。
这些系统不断学习组织内‘正常’的状态，比如团队如何协作、账户何时登录、员工使用什么语言，并实时标记异常。为了有效防御，我们必须利用人工智能来对抗人工智能。
这种主动的方法可以把安全性从被动防护转变为主动预警系统。与其在发生漏洞后再等待警报，不如让检测模型提前揭示妥协的早期迹象，即使没有明显的技术利用。
通过这种方式，人工智能既充当显微镜，又充当警报，指导人类分析师关注信任开始动摇的时刻。
“信任治理”心态对企业安全的意义
企业不能再将信任视为一种软价值。它必须像其他运营资产一样进行管理。信任治理心态将访问、验证和问责重新定义为安全态势的可测量元素。这意味着要构建一个信任能够被获得、验证，并在必要时自动撤销的系统。
在实践中，这涉及将零信任原则应用于网络和设备之外，包括人员和流程。角色、行为和关系被不断评估，根据风险信号进行评估，确保授权与实时上下文相一致。
在用户、供应商和人工智能系统之间实现清晰的可见性，使信任变得可观察和可审计，而不是仅仅依赖假设。
当组织治理信任时，它将信任从一种脆弱性转变为防御层。这创造了一个动态的安全体系——一个能够迅速适应新风险的体系，正如攻击者不断演变其战术一样。
信任已成为主要目标和最关键的资产。人工智能不仅让攻击变得更加复杂，从而加剧了风险；同时，它也使防御者能够更快、更聪明地采取行动。
通过嵌入安全框架的人工智能驱动的行为分析和信任治理，组织可以从对安全漏洞的被动反应转变为主动预判和预防。
最终，韧性将依赖于我们持续、智能地治理信任的能力——将信任从一种脆弱性转变为一种能够实时适应的动态防御。
热门跟贴