这项创新演进之快，要求人们先于威胁一步，才能及时化解。人工智能正在重塑经济、科学和公共服务，也在改变数字威胁的版图。生成与真实几乎无法区分的图像、声音和视频的能力，给安全领域带来了一个新阶段：风险正以与技术相同的速度演变。
这正是当天第二场讨论的核心议题。该场讨论以“安全面临的新挑战及其应对”为题，聚焦与人工智能相关的新兴风险，涵盖网络安全和虚假信息传播等问题。
西班牙数据保护局主席办公室副主任弗朗西斯科·佩雷斯·贝斯警告说：“如果我们不能先识别出人工智能带来的风险，之后就不可能加以缓解。”他解释称，这项技术的迅速兴起，正在重新激活一些原本似乎已得到控制的威胁，同时也在制造新的风险，尤其是在大规模数据处理、生物识别以及信息自动化利用等领域。
组织在考虑采取保护措施之前，首先必须准确理解，在引入这些工具时自己承担了哪些风险。讨论中，各方普遍担忧的一个问题，是这场变化推进的速度。过去需要高级技术知识、时间和资源才能完成的事情，如今可以自动化执行，而且速度之快，传统防御机制很难跟上。
在国家安全领域，这种现实尤为敏感。西班牙国家警察总情报局中央处处长劳拉·鲍斯·埃斯帕达警告，人工智能已经被用于身份冒充、发动网络攻击以及传播虚假信息行动，使用者既包括犯罪分子，也包括敌对国家行为体。
在这些威胁中，所谓“深度伪造”尤为突出。鲍斯表示，借助人工智能重建语音、图像和视频的能力，正使辨别真实与篡改内容变得越来越困难。她回顾说，就在几年前，这类伪造还相对容易识别。
但如今，她表示，这些技术已经可以被用来传播假消息，并将其归于公众人物名下，进而加剧社会极化，或削弱公众对民主制度的信任。这位警官还提到，欧洲近期已有案例显示，基于人工智能的虚假信息传播，甚至对选举程序本身都造成了质疑。
不过，虚假信息只是问题的一部分。西班牙国家密码中心副总干事哈维尔·坎道·罗梅罗谈到了所谓“进攻型人工智能”的兴起。这类系统专门用于寻找计算机漏洞，并以自动化方式开发攻击手段。
他详细解释说，这些工具能够分析应用程序、发现安全缺陷，并生成利用机制，其速度远远超过人类能力。多年来，行业一直相信，人工智能主要会增强防御能力。最近几个月的进展已经打破了这种平衡。
哈维尔·坎道·罗梅罗指出，它们已经证明，自己能够以极快速度发现漏洞、创建利用程序并发起攻击，这使得眼下的防护变得更加困难。这位国家密码中心专家进一步指出，风险在于，随着这些工具越来越普及，发动复杂攻击所需的技术门槛可能降低，潜在攻击者的数量也会显著增加。
数据治理也被视为一项重大挑战。佩雷斯·贝斯指出，许多组织仍在没有明确目的的情况下持续积累信息。因此，他强调，数据保护与安全不应被视为彼此对立的目标，而应被看作相互补充、需要保持平衡推进的两个方面。
热门跟贴