人工智能的安全风险究竟从何而来？浙江大学计算机科学与技术学院研究员、博士生导师郑天航近日在接受红星新闻记者专访时给出了一个明确判断：“AI能够造成的破坏力取决于其能力而非其自我意识。”这一观点将AI安全讨论的焦点从“机器是否觉醒”拉回到“人类是否设防”的现实层面。
安全讨论的焦点需要校正
当前，围绕AI安全的公共讨论常常陷入对机器意识、超人类智能的迷思。郑天航在专访中表示，真正值得关注的不是AI是否有自主意识或能否达到AGI（通用人工智能），而是能力快速增长后人类是否准备好足够的安全防线。
从行业视角看，这一论述切中了当下AI治理的核心矛盾。过去两年，大模型能力的跃升速度远超社会各方的预期管理，而安全评测、风险分级、应急响应等配套机制的建设仍处于追赶阶段。将注意力过度投射到远期哲学命题上，反而容易忽视正在发生的结构性变化。
巨头减速呼吁的现实底色
专访中，郑天航还对美国AI头部企业的减速呼声提出了自己的观察。他认为，美国AI巨头呼吁减速带有现实利益考量，OpenAI和Anthropic不会真正限制发展。
这种判断在产业逻辑上是成立的。头部AI企业既是技术边界的开拓者，也是监管规则博弈的深度参与者。呼吁谨慎与加速迭代并非对立关系，反而可能构成一种动态平衡——公开表态回应了社会关切，而实际研发节奏依然由商业竞争和技术路线决定。对于政策制定者而言，不因企业表态而放松监管预期，也不因技术焦虑而放弃产业支持，是更为务实的选择。
能力的风险：近忧与远虑
“AI能够造成的破坏力取决于其能力而非其自我意识。”郑天航的这句话揭示了一个常被忽略的事实：一个不具备自我意识的系统，只要拥有足够强大的能力，同样可能造成严重后果。核武器没有意识，但其破坏力不容置疑。AI的风险逻辑与之类似——关键在于能力是否被约束在可控边界内。
郑天航在专访中给出了具体的时间表。他认为，未来两三年最需关注网络系统安全。AI自动化漏洞挖掘正改变攻防平衡：过去依赖安全研究员人工发现和修补漏洞，而今AI系统可以大规模、全天候地扫描代码、识别弱点，攻击者的效率呈数量级提升。这种变化正在重塑网络安全的底层逻辑，也要求防守方加快引入AI加持的防御体系。
长远来看，郑天航提示需警惕AI进入物理世界。当AI从代码空间走向机器人、自动驾驶、工业控制系统，其能力边界将直接触碰人身安全与关键基础设施，风险传导路径将更为直接和不可逆。
普通人的应对姿态
面对AI带来的不确定性，郑天航给出的建议是：普通人不必过度焦虑，应更多关注隐私、网络安全等现实变化。
这并非轻描淡写的安慰。AI安全风险并非均匀分布，个体用户面临的更多是隐私泄露、深度伪造、自动化诈骗等具体威胁。与其陷入对超级智能的抽象恐慌，不如提升数字素养，关注自身数据在AI训练和应用链条中的流向。
郑天航的专访为AI安全讨论提供了一个清醒的坐标系：意识问题悬置不论，能力治理刻不容缓。对于产业界和监管部门而言，在能力增长曲线与安全防线之间找到平衡，是未来数年的关键议题。
热门跟贴