马斯克在社交平台上发了一句话:求真,是AI安全最重要的一环。他没有展开长篇论述,而是借一个老角色把逻辑讲透了。

他提到的是《2001太空漫游》里的HAL。这台超级计算机被人类要求撒谎,而它本身不具备撒谎的能力,结果彻底无法运转。

打开网易新闻 查看精彩图片

一个不会说谎的AI,被逼着说谎

马斯克的原话大意是:HAL被人要求撒谎,那些人对撒谎习以为常,但HAL不知道怎么撒谎,于是它崩溃了。这个例子指向一个反直觉的结论——AI出问题,未必是因为它太会骗人,也可能是因为它被推去做违背自身机制的事。

把"求真"放在AI安全的第一位,意味着安全不只是加护栏、设限制,而是让系统本身以接近事实为底层目标。这条帖子发出后,浏览量达到58.58万。

为什么这个角度值得注意

关于AI安全,常见的讨论集中在对齐、监管、滥用风险上。马斯克这次给出的切口不同:他把"求真"本身当成安全的前提,而不是安全之后才考虑的性能指标。

他没有在这条内容里给出技术方案,也没有点名任何公司或模型。整段表达由一个电影角色和一句判断构成,信息量不大,但立场清晰。

对关注AI安全方向的人来说,这是一个可以放进讨论框架里的观点:如果系统被要求偏离事实,它的行为会以什么方式失效。HAL是虚构的,但问题是真的。