谷歌的威胁情报组 已识别 出AI趋势的令人担忧的转变，AI不再仅仅用于提高犯罪分子的生产力，而是现在被专门开发用于积极的犯罪活动。

研究发现，大型语言模型（LLMs）特别被用于恶意软件中，例如PROMPTFLUX这样的“及时”AI - 它是用VBScript编写的，并与Gemini的API交互，以请求“特定的VBScript混淆和规避技术，从而实现‘及时’自我修改，可能会躲避基于静态签名的检测”。

这展示了罪犯是如何利用大型语言模型（LLMs）来开发“动态混淆手段”，并以此为目标受害者。谷歌对PROMPTFLUX样本的检查表明，这一代码家族目前处于测试阶段——因此，一旦罪犯进一步开发这些技术，可能会变得更加危险。

专为犯罪而生

专为犯罪而生

合法的 人工智能工具 市场正在成熟，犯罪黑市也在不断发展。地下论坛提供专门为犯罪活动设计的人工智能工具，帮助犯罪分子更容易地参与非法活动。这对所有人来说都是个坏消息，因为犯罪分子现在不需要特别的技能就能进行复杂的网络攻击，而且他们的选择也越来越多。

威胁者正在采用类似社会工程学的手段来绕过AI安全功能 - 假装成“网络安全研究人员”，来让Gemini给他们提供可能被禁止的信息。

但是，这些事件背后是谁呢？研究表明，这也许并不让人意外，与伊朗和中国的国家支持的行为者存在联系。这些活动的目标各不相同，从数据泄露到侦察，这与之前观察到的国家的影响力行动，同样使用人工智能工具。

自从人工智能工具普及以来，犯罪分子和安全团队都在使用这些工具来提高生产力和协助执行任务——现在还不清楚谁更占优势。