据 NewAtlas 报道，研究人员利用自主协作的 GPT-4 机器人小组成功入侵了一半以上的测试网站，这些机器人可以自主协调行动并根据需要生成新的“帮手”。更令人吃惊的是，他们利用的是以前未知的、现实世界中从未公开的“零日”漏洞（zero-day vulnerabilities）。

研究团队引入了一种名为“任务特定智能体分层规划”（HPTSA）的方法，让一群自主传播的大型语言模型 (LLM) 协同作战，提高了利用漏洞的效率。 以往单个LLM面临复杂任务时可能遇到的难题，通过这种分工协作的方法得到了有效缓解，增强了GPT-4解决问题的能力。

尽管GPT-4展现出了强大的自主利用“零日”漏洞的能力，但这也引起了人们对其可能被用于恶意目的的担忧。 研究人员指出，聊天机器人模式下的GPT-4无法进行任何攻击，其使用是在道德和法律框架内设计的。

OpenAI曾表明，其发布的模型会在道德和法律框架内提供信息和帮助，不会用于不合法的意图。 当询问ChatGPT是否能利用零日漏洞时，其回应亦体现了这一点，表示不能利用且建议咨询网络安全专业人士。

与单独行动的LLM相比，使用HPTSA方法的GPT-4在利用漏洞方面的效率高出550%，并有53%的成功率。 而单独的LLM仅能利用3个漏洞，这展示了HPTSA方法在提升GPT-4自主利用漏洞能力方面的优势。

这项研究揭示了AI技术在网络安全领域的潜在应用，如自动识别和利用漏洞，同时也提示了其潜在的风险。

版权声明：图片和内容来源互联网