智猩猩AI整理
编辑:林夕
10月14日晚,安全研究员古河(Yuki Chen)宣布加入智谱,开启“新征程、新使命”。
他在X上表示,很高兴有机会借助前沿AI的力量,帮助构建更安全的网络空间,并在帖文中提及智谱海外品牌Z.ai。
与这条消息一起出现的,还有一张微软安全响应中心(MSRC)的漏洞致谢截图。
截图中,搜索框输入的是“GLM”,页面底部显示共加载23条记录。多条致谢采用了相同的表述:
“Yuki Chen using GLM from z.ai”。
这位长期研究Windows漏洞的安全专家,已经把GLM用进了实际工作。
在安全圈,古河并不是一个陌生名字,早年曾在360从事漏洞研究。
Black Hat Europe 2015大会官网显示,他当时是360安全攻防研究小组旗下360Vulcan团队的核心成员,并管理一个专注于漏洞研究的团队,研究方向包括漏洞挖掘、分析与利用开发。
2015年3月,古河所在的360Vulcan团队在Pwn2Own大赛中,成功攻破开启增强保护模式(EPM)的64位IE浏览器。
他本人也曾在浏览器、Adobe Flash、PDF及Java等产品中发现漏洞。
据安全会议SAS官网介绍,古河拥有15年以上攻防安全经验,曾五次登顶微软MSRC年度最具价值安全研究员榜单,分别是2019年及2021年至2024年
此外,他还曾在Pwn2Own、天府杯等赛事中获奖,获得两项Pwnie Awards,并在Black Hat、CodeBlue、SAS等安全会议分享研究。
微软自己的公开记录,也能看到他持续活跃的轨迹。
在2024年第一季度安全研究员榜单中,Yuki Chen位列第一;随后公布的第二季度榜单,他再次排在首位。
这样的履历,让此次加入智谱有了更多看点。
当大模型逐渐具备代码分析和工具调用能力,如何把这些能力用于真实漏洞研究,已经成为模型厂商与安全行业共同关注的问题。
其中,模型能否发现异常只是第一步。
研究员还需要判断线索是否有效、复现问题、验证影响,并将结果整理成软件厂商能够处理的报告。
古河这次贴出的微软致谢截图,就展示了这一方向上的实际进展。
从截图可见,相关记录的发布日期为10月13日,涉及Windows USB打印驱动、工作站服务、连接设备平台服务、Windows更新服务等多个组件,展示的漏洞类型包括权限提升。
微软在致谢栏里,同时写出了研究员姓名和所使用的模型。
模型的名字,开始出现在真实软件漏洞的致谢记录中。
这提供了一个比模型演示更具体的观察入口:
在这些研究工作中,GLM已经成为研究员使用的工具,并在公开署名中得到体现。
不过,截图尚未披露完整的工作过程,包括使用了哪个版本的GLM、模型负责哪些环节,以及研究员投入了多少时间。
因此,现阶段更准确的说法是,古河使用GLM参与Windows漏洞研究,其分享的MSRC页面显示了23条相关致谢记录,尚不能据此判断这些漏洞全部由模型独立发现。
古河加入智谱的时间点,也恰逢GLM的网络安全能力受到更多外部关注。
9月17日,美国国家标准与技术研究院(NIST)旗下的AI标准与创新中心CAISI,发布了对GLM-5.3网络安全能力的评估。
CAISI认为,在其当时的评估范围内,GLM-5.3是网络安全能力最强的开放权重模型。
同时,其综合表现仍落后于美国前沿模型,能力差距约为四个月。
这项评估覆盖漏洞发现、漏洞利用开发等任务,关注模型能否在给定软件环境中找到问题,并完成相应验证。
9月29日,Anthropic也发布了一篇专门分析GLM-5.3网络安全能力的文章。
在其ExploitBench测试中,GLM-5.3在410次尝试中,有50次完成端到端漏洞利用。
Claude Mythos Preview为56次。在另一项内部二进制漏洞利用测试中,两者的成功率分别为4%和6%。
这些结果来自特定的隔离测试环境,衡量的是指定任务下的漏洞利用能力,不能直接等同于开放环境中的漏洞挖掘表现。
但它们与古河分享的Windows漏洞致谢记录,提供了两种不同的观察:
前者展示模型在受控测试中能够做到什么。
后者展示专业研究员已经把模型用到了哪里。
Anthropic的报告也讨论了GLM-5.3的防护机制与滥用风险。
这类能力可以帮助研究员发现并修复软件问题,也可能被攻击者使用,模型能力与防护措施需要同时接受检验。
对智谱而言,古河的加入,使模型研发与实际漏洞研究之间多了一位熟悉两端的参与者。
长期从事漏洞研究的专家,能够帮助团队判断哪些任务值得交给模型、哪些输出需要进一步验证,以及怎样才能把模型发现的问题转化为有效报告。
目前,古河尚未在这条官宣中披露具体职位、团队安排和后续项目。
但随帖附上的微软致谢记录,已经让这次人事消息有了一个具体落点:
这位五次登顶微软年度榜单的安全研究员,已经带着GLM参与了真实的Windows漏洞研究。
关注+星标,获取AI前沿进展与开源一线动态
热门跟贴