今年2月，我站在合作者面前，介绍VIDE算法的重大更新。VIDE是我十多年前开发的空洞搜寻算法。宇宙中星系之间有大片空旷区域，称为空洞；把它们从巡天数据里挖出来，是个繁琐且不耀眼的工作。新版本比旧版快10倍，能处理规模大100倍的巡天，还以更聪明的方式应对真实数据里的各种丑陋现实：缝隙、掩膜、参差不齐的边界——这些在教科书里从不出现。 我花了几周时间完成这项更新，并为此感到自豪。而这几周里，有一个人工智能始终在我身旁，而且不可或缺。编码代理改写了算法核心，比我更快，也没有笔误。到了准备演示材料时，它们生成了图表，起草了说明文字。我每次都检查它们的推理，它们从未迟疑过。 演示开始十分钟后，一位合作者举起了手，说有些地方看起来不太对劲，问我如何看待新的巡天边缘处理方案。我很容易就回答了，因为我熟悉这些内容。他们又问了一遍，放慢语速，并指向一处。我顺着方向看去，吸了一口气，感觉地面从脚下消失。 边缘处理是错的。不是笔误，不是漏引文献，也不是差一个二倍因子。那是一个很隐蔽的错误，但非常严重，所有依赖它的下游结果也跟着错了。而我已经把整套东西展示给满屋子信任我的人。这段代码很快，很美，但它不正确。接受了20年科学训练的我，竟以十足的自信展示了一堆胡说八道。 是的，现在想起那一刻，我仍然感到难堪。但最糟的是：在那几周里，我从未产生过一丝怀疑。没有任何东西看起来不对劲，甚至不值得再多看一眼。那种感觉就像真正的精通。而这正是真正危险的地方——当AI让我们更高效、更自信时，我们也许正在失去一种能力：在错误面前感到犹豫的能力。

打开网易新闻 查看精彩图片