打开网易新闻 查看精彩图片

应用领域已进入新的DIY时代。

文|《中国企业家》记者 孔月昕

见习编辑|李原编辑|何伊凡

头图摄影|孔月昕

近期,AI工具“龙虾(OpenClaw)”全网爆火,却也因接连曝出的“技能投毒”事件,引发网络安全领域的高度警惕。

“一个非常重要的点是,不要将龙虾部署在个人电脑或者工作机上。”全国政协委员,安天科技集团董事长、首席技术架构师肖新光在接受《中国企业家》专访时,对普通用户直言建议。

随着人工智能技术加速落地普及,新工具、新应用层出不穷,也让网络安全迎来全新挑战与机遇。肖新光深耕网络安全领域多年,对AI时代的安全风险有着深刻研判。他认为,在网络信息领域,AI新技术的发展,既会加速原有风险,也会催生新的威胁与风险;技术自身,也会成为风险的侵害对象。

来源:AI生成
打开网易新闻 查看精彩图片
来源:AI生成

正如龙虾的“技能市场投毒”事件已凸显新的安全隐患,很多恶意Skills并非将恶意功能嵌入代码中,而是在说明文档中,将木马地址描述为执行技能必需的资源包,诱使用户自己下载安装。这实际上是一种心智欺骗,对工程师也具有很大欺骗性。

肖新光同时认为,人工智能的发展并非只带来安全挑战,更将为网络安全能力提升带来巨大增益。“我们需要以技术管技术,以能力对能力。”

作为网络安全领域的深耕者,肖新光创立的安天科技已构建起覆盖反病毒引擎、二进制垂直大模型、安全分析、威胁智能分析平台的全链条技术体系。

一方面,安天科技持续加码人工智能检测分析模型研发,重点攻坚二进制理解,突破超长上下文等核心技术,构建起人工智能时代的安全技术壁垒。另一方面,公司也在积极推动安全能力积木化、组件化,让生态伙伴无需投入大量研发成本,即可快速获取适配智能设备的安全能力,持续完善“人工智能+安全”的产业生态。

面对AI时代的安全风险泛化趋势,肖新光表示,企业未来的核心战略是打造“人工智能+”时代的国家安全技术引擎,赋能供应链,服务生态伙伴,积极应对安全风险的泛化。

以下为访谈内容实录(有删减):

谈参会感受:强烈期望和使命感

《中国企业家》:今年,你参加两会的感受如何?

肖新光:今年是“十五五”开局之年,非常令人振奋鼓舞。沉浸在整个过程中,会有一种强烈的期望和使命感。

《中国企业家》:网络安全在“十五五”规划纲要草案中的战略定位得到升级,这件事的意义何在?

肖新光:国家一直在推动网络安全工作。“十五五”规划纲要草案中,网络安全被纳入国家安全体系的重要组成部分。这既是重要部署,也释放了关键信号;对推动网络安全工作、提升国家网络安全能力以及促进网络安全产业发展具有重大意义。

《中国企业家》:在此背景下,你如何规划公司在未来5年的发展?

肖新光:我们的目标非常清晰——打造“人工智能+”时代的国家安全技术引擎。

在人工智能带来网络安全威胁和风险更迭的过程中,为应对碎片化的安全威胁,我们需要打造由人工智能驱动的高水平共性安全能力,并将其嵌入到更多场景中。这包括我们的下一代安全引擎、端侧大模型、配套分析平台以及生态服务的升级。我们要在继续为手机智能终端、网络安全产品设备和部分智能装备服务的基础上,全面扩展服务场景。

谈AI发展:AI产生生产力,但也存在泡沫

《中国企业家》:AI技术进展非常快。你认为它是否已经成为生产力?

肖新光:过去我国在互联网发展过程中,生产力导向不足。我们有庞大人口基数、优质基础设施与社会安全保障,互联网公司以此为基础,深入挖掘C端用户价值,形成了长尾红利——但我们面向B端(政企)的IT软件和服务能力始终薄弱。

如果进行产业横向对比,我国在互联网C端服务方面与对手实力相当,甚至有更大的规模优势,但在工业软件、企业侧软件服务领域差距明显,难以培育出类似Palantir这种以B端/G端服务为主导的软件企业。

从生产力角度来看,我们需要重点关注AI编程。虽然我们在奋起直追,但还存在两大问题:一是我国部分初创及高科技企业对美国的生产力工具已经形成一定依赖,导致我国产业部分优质心智成果被对方攫取。

国内相关工具也存在一定差距,国内部分创新企业担心互联网平台公司获取到代码文档后会跨界打劫,因此在替换到国产服务时有顾虑。

二是成本问题,英伟达在大模型训练领域的迭代速度,已经超越摩尔定律,规模化降低了成本。而我国GPU算力多点布局,产能规模显著低于对手,导致基于国产算力的训练(包括Token成本)相对较高,也影响了使用国产方案和服务的决心。

通过规模化,降低单元成本是产业发展的关键,这需要国家层面布局,通过战略补贴、建设大规模国家训练中心等方式,降低新质生产力领域的算力成本。当前,我们不能仅关注CPU、GPU、操作系统等实体依赖,还要关注数据流动的方向,重视心智安全,进行体系化布局。

在信息化、数字化及人工智能领域,核心是要比对手更快、更优、更安全,且更具获利能力,不能仅依靠企业自律拒绝国外产品,而需符合产业运行规律进行布局。

AI孕育着澎湃的生产力,当然也必然存在泡沫。虽然我们在算力层面还处于相对劣势,但我国企业在细分领域快速突破,走出了不同于西方的大模型发展路线。

DeepSeek、Qwen等国内开源模型的崛起,是工程与优化的胜利,我们将其称为精益式的创新方式。由于我国企业难以承担过度高额的算力成本,因此专注于从工程优化上降低成本。这些工作此前并非美国工程师不愿做,而是美国寡头资本导向的运行机制决定了其想要走一条无节制堆砌算力、拖垮竞争对手的路径。

我国依托工程优化打破原有“美式”发展轨迹的同时,也带来了战略平衡的变化。如硅谷创新企业开始大量采用我国的开源模型,以降低其创业成本。

谈AI影响:数字化程度高易被替代

《中国企业家》:AI刚出现时,有人提到“所有行业都值得用AI重做一遍”,它也会取代一些职业,你如何看待?对于网络安全行业来说,是否也会被重塑?

肖新光:最近大家都在讨论Anthropic发布的关于AI对不同行业(工作)的覆盖度和可替代度的研究报告。在这张图中,我们可以看到数字化程度越高的领域,覆盖度和可替代性越强。而相对越偏重于实体和个性化的领域,覆盖度越差。

来源:受访者
打开网易新闻 查看精彩图片
来源:受访者

这里有一个非常关键的基础逻辑,AI在一定程度上可以看成是数字世界的更高阶运行形式,其改变了计算时代的人机分工边界。产业门类中数字化基础好,并更多依靠心智活动完成的工作,更易被AI替代。

但这个过程中,AI无法取代物质基础,因为虚拟空间无法替代实体空间。比如你点外卖,AI可以通过算法帮助调度优化,但无论是通过外卖小哥还是传送带,最终都需要把食物送到你面前。

恩格斯曾说,科学技术越是毫无顾忌和大公无私,越符合工人的愿望和利益。我作为网络安全与人工智能领域从业者,我不会优先考虑AI是否会让我们自己“贬值”和被取代,而更关注AI推动的平权与解放。

作为企业负责人我关注的核心不是靠AI替代多少人力,而是更好发挥工程师团队的能动性,利用AI创造更大价值、突破发展困境,让每一位贡献者都能获得回报。

《中国企业家》:你刚才提到AI主要相当于数字世界,现在有一个连接点是物理世界,即AI加硬件。你如何看待具身智能行业的发展以及未来的实现?

肖新光:从领域发展来看,专用自动化机器已高度成熟,只要能明确定义行为范式,机器都易于完成,比如智能车辆中AI引导车辆自动抵达目的地,其本质也是一种专用智能设备。

目前,人们普遍期望能完成复杂任务的通用智能设备,有时甚至会产生其与人类形态相似的期待。我认为这一目标任重道远。其中不仅存在技术仍未突破的难题,更有成本问题,对工业企业而言,人打螺丝、机械手打螺丝,或类人机器人打螺丝,是一个成本选择。

目前,在众多领域,我们仍无法预判通用智能设备何时能实现有效突破。多数领域对通用智能设备的约束主要在于成本,而成本又取决于需求是否能达到足够规模,这是基本的经济规律。同时,安全问题到伦理问题,都是通用智能设备要持续经历的考验。

谈新技术风险:对抗性要素高于技术性要素

《中国企业家》:你说“谁能用好人工智能,谁就能在攻防对抗中占据主动”。AI是把双刃剑,它给安天科技带来了哪些红利?同时,有没有让你感到焦虑的地方?

肖新光:回溯历史上的重大技术创新,技术创新风险主要包含四个维度。一是发展性,即供给无法满足需求的矛盾,发展缓慢本身就是安全隐患;二是竞争性,国家层面体现为各国在全球价值总量及关键价值位置中的占比与卡位,企业层面则体现为市场份额的划分;三是对抗性,本质是国家与利益集团间力量的此消彼长,由战争、情报、网络攻防等对抗性活动所决定;四是技术性(或机理性),源于新技术的不确定性及机理不透明性。

人工智能的四个风险维度是并存的,但我认为从现实急迫性来看,其对抗性严峻于技术性风险。人工智能的急迫威胁不是其算法的“天网觉醒”,而是其被用于网络攻击活动和其被作为网络攻击目标。

安天的核心技术是反病毒引擎,其作用是针对网络空间的程序等各种运行对象,提供敌我识别能力,让调用安天引擎的产品能拦截处置恶意代码。目前,大部分国产手机、很多网络安全产品及部分智能无人设备,均预装了我们的安全引擎以实现安全防护。

但在人工智能时代,恶意代码的产生模式发生根本性变化:过去恶意代码多由人工编写,开发编写成本相对较高,AI仅起到自动化变换、免杀等辅助作用。如今,在功能描述清晰前提下,AI可极低成本自动编写恶意代码,大幅提升攻击效率,且会产生大量与已知家族同源性很弱的新恶意代码家族,给检测防御、分析溯源带来巨大压力。

以往我们将系统、应用、病毒明确区分,聚焦病毒木马防护。但未来,大量恶意程序将与功能性工具深度结合。如攻击者可能会针对特定人群需求编写工具软件,嵌入恶意程序,增加检测识别难度。

更进一步的威胁,如马斯克所言,AI将跳过编码过程,直接输出二进制可执行程序。这一变化对现有安全体系形成严重冲击:供应链安全多依赖源代码审计等方式。若未来部分软件应用直接以二进制形式生成,原有设施与投入将部分失效。同时,AI直接快速生成的二进制攻击程序,对攻击者来说都是黑箱,对防御、分析者更是挑战。未来,各种功能和智能的执行体将迎来爆发式增长,需更大规模的特征工程与知识工程支撑对抗体系。

在这个过程中,我们已经做了长时间前置研发以应对变化。我们会聚焦威胁演进方向,调整人力适配未来趋势,以技术管技术、以能力对能力,继续强化我们的二进制垂直检测分析模型以应对AI的二进制生成模型。

在自身能力提升上,我们也在全面通过AI提升生产力,例如内部推出了“小元开发助手”,已实现60%的代码由AI编写,基于AI的代码安全检查也已纳入质量与安全体系。同时,我们也尝试利用OpenClaw部署,开展编码、威胁分析、情报整编等工作,其输出虽缺乏顶级工程师的洞察与灵感,但格式规整、质量稳定、报告美观,虽然存在需人工判断校正的“幻觉”,但能有效提升工作效率。

谈人才流动:选拔能够驾驭大模型的人

《中国企业家》:现在AI虽然能帮助我们提升效率,但对高端人才和工程师的需求也提高了。你们如何吸引和留存高端人才?

肖新光:从网络安全领域现状看,一流AI人才极难获取,国内网安领域在整个信息产业中堪称“贫瘠的低产田”。通过人均产出对比就可以感知:互联网公司人均产出达百万量级,而网络安全产业仅为几十万量级,这一现实差距直接体现了真实的产业运行效率与质量。

网络安全产业体系的运行质量,明显逊于信息化领域,更不及以人工智能为主导的头部企业。在这种情况下,网络安全企业既难招入一流AI人才,大型互联网平台也很难将顶尖AI人才放到网络安全方向,这是客观存在的行业困境。

因此,网络安全企业在新的发展中需校准定位:一方面,通用人工智能研发很难由网络安全团队实现,这是既定现实;另一方面,智能客服、信息咨询、日志分析等场景,现有开源与商业模型已能高效处理,无需自主研发投入,选用改造即可。我们需要聚焦核心场景、收敛目标,才能以更少资源实现突破。

安天自身依然聚焦于威胁检测、识别、分析能力,基于引擎形态的拓展,塑造未来的共性能力。未来,无论是各种应用程序、新型智能体,包括Skills等都会快速爆发,恶意代码数量也会快速激增,其中二进制执行体数量会大爆发。而现有开源、商业模型基于自然语言训练产生,处理二进制可执行内容效果不佳,理解上存在短板,多数模型仅支持十几K、几十K上下文,难以满足检测分析需求。

我们将目标精准收敛至二进制理解与检测分析能力构建:突破上下文限制、适配低算力条件,自主打造了“澜砥威胁检测分析垂直模型”。收敛目标、聚焦投入之后,相关能力就成为我们的优势区,我们对二进制分析和各类攻击向量的理解,比通用模型研发者更深入,我们自己开发了样本分析工具环境,积累了海量数据样本与高质量标注信息,能以细分的优势资源基础支撑垂域的能力建设。

目前的大模型(领域的人才)从软件开发上虽然能一定程度上替代工程师,但主要能力还是应用和前端开发;而在内核驱动开发、格式分析等方面依然不理想,在分析工作上难以输出我们所需的工程师洞见,这些方面AI还是更适合打辅助。我们更多是要让工程师能学会更好驾驭大模型,并继续选拔能够驾驭大模型的人。

《中国企业家》:这会对人才选拔的要求更高?

肖新光:这一趋势也对整个产业的人员素质结构产生了影响。

整个产业行业面临过历史上的人才困境:在软件外包时代,国内开设大量Java培训班,但培训出来的工程师缺少架构能力、缺乏创造力,难以构建对软件体系结构的完整理解,只能依据明确需求编写函数、模块,却无法完成完整的架构设计。这批培养出的工程师,如今正面临巨大的发展压力。

当前AI应用领域已进入“新乱世”,这是一个新的DIY时代。过去我们这一代人成长时,信息系统高度不完备,想要实现一些操作,缺乏现成的工具和命令,当觉得不方便时,就会主动自己动手编写新的,想到一个有趣的点子,就会尝试自己写个小游戏。

而现在的同学们,先天面对的是一个相对完备的信息环境,电脑、Pad、手机都是高度成熟的产品,几乎所有日常需求都有软件工具能满足,随手就能下载《王者荣耀》等好玩的游戏。他们虽然比我们聪明,部分也比我们更早接触了计算机,但多数人缺乏动力去自己开发工具或者游戏,失去了DIY的乐趣和意愿。

但现在“养龙虾”的热潮出现了,尤其是在OpenClaw更新频繁的情况下,好不容易安装调试好,过几天出了新版本,可能要重装重配一遍。在这个情况下,让这些一定程度上被范式和模式固化的孩子们,开始重新动手解决处理问题,在这个过程中去创造和DIY,而不是接受成品化的世界。

来源:视觉中国
打开网易新闻 查看精彩图片
来源:视觉中国

新生的事物会驱动新人类的产生,会激发涌现出许多突破原有教育、培训体系天花板的同学。我们也期待更多优秀学子愿意加入网络安全行业,在实战化对抗中,感受守护网络安全的责任与魅力。

作为大学兼职教授,我暑假授课时能感觉到,学生通过询问大模型,能获得比问我更准确、更专业的解答,编程实践也都用大模型完成。我们曾担心学生患上“大模型依赖症”,丧失独立思考能力。但如今,随着OpenClaw等工具的爆发,当学生们开始纷纷“养龙虾”、自己动手解决实际问题、创造自己感兴趣的应用时,我们发现之前的担忧并不会发生。

发展的问题终究要靠发展解决。无论是技术创新、企业进步,还是人的成长,都是如此。