So Mythos确实不是营销噱头。这是一款通用模型,只是恰好擅长发现漏洞——因为优秀的模型往往在多方面都表现出色。
开发者指出,这一发现暗示着类似的前沿能力可能存在于其他未公开测试的模型中。当模型规模和能力提升到一定阶段,安全相关的技能会自然涌现,而非需要专门训练。
打开网易新闻 查看精彩图片
这引发了一个关键问题:当通用AI的"副作用"包含发现系统漏洞时,安全测试的边界在哪里?
So Mythos确实不是营销噱头。这是一款通用模型,只是恰好擅长发现漏洞——因为优秀的模型往往在多方面都表现出色。
开发者指出,这一发现暗示着类似的前沿能力可能存在于其他未公开测试的模型中。当模型规模和能力提升到一定阶段,安全相关的技能会自然涌现,而非需要专门训练。
这引发了一个关键问题:当通用AI的"副作用"包含发现系统漏洞时,安全测试的边界在哪里?
热门跟贴