假期和闺女进行了一次长谈。

原因是从外边回来的时候，闺女在车上突然说：我觉得我生错了时代。

我大吃一惊，现在的时代多好啊，不愁吃不愁穿，我赶紧搬出了爷爷那一代人，说他们的生活辛苦，小时候还经常饿肚子，八几年的时候白天去工厂干活儿，早上和傍晚还得去地里干活儿，那种辛苦难以想象，后来也熬出来了，从农村搬到了城里......

我又说其实每个时代都有自己的问题，比如我吧，虽然赶上了计算机发展的好时候，但是也遇到了35岁的问题，如果我还在IBM，没有出来和朋友一起干，2022年就被一锅端了，大龄找工作那才叫难....

结果她说：我担心的是等我长大了，AI把人替代了怎么办？

哈哈，看来她接触了不少AI相关的宣传，被那些吹嘘的东西给吓住了。

我说：如果将来AI能替代人干活，那不是一件好事儿吗？将来苦活累活都让AI干，让AI去种地，去工厂干活儿，物质会极大丰富，人类只需要享受就行了。

她说：那如果AI都能进行创造性活动了，我们人类的存在还有意义吗？

这个问题过于宏大，深刻，我一下子被问住了。

我回答不了，只好说：现在离这种AGI（通用人工智能）还非常遥远，不用担心。

她说：你们程序员不是正在被替代吗？

我说：别听那些不懂行的瞎说，现在的AI只是一个放大程序员能力的工具而已，你真的以为说几句话就能开发软件啊，我告诉你，简单的小软件也许有可能，但是复杂的、企业级软件还得人来主导。

她问道：那什么是复杂软件？

我想了想，举了一个例子：之前开发过一个项目，那个项目的需求文档都得写几十页才能说清楚，这么复杂的系统，AI是不可能独自完成的。

你不是喜欢画画，懂一些绘画的知识吗，AI画的画你不是一眼就看出来问题了？

还有AI生成的视频，一股浓浓的AI风，只能说是勉强能看。

现在的AI看起来很火，但是基础理论还是很多年前的，只是遇到了互联网数据爆炸，算力也足够的时代。

更要命的是它是一个黑盒子，我们根本不理解它内部的结构，它不像经典的物理学，有牛顿三定律这样的东西可以解释一切。

现在的AI能力发展也有点儿停滞，GPT4出来的时候，真是震撼全球，但是等了两年，GPT5终于问世，让人大失所望。

还有非常重要的一点，AI如今只会在数字世界里折腾，对物理世界的理解还差得很远。你看智能驾驶各个厂商宣传得很厉害，但都是迟迟都发展不到L3级别，更别说完全的自动驾驶了。

所以啊，我们距离你想象中的机器人还很远 ，我这辈子是恐怕是实现不了了，你这辈子也悬，不用杞人忧天。

她说：如果AI界出现了一个“牛顿”呢？

这...... 是啊，万一天纵英才，一个牛顿似的人物横空出世怎么办？

我突然想起了前些天朋友说的一句话：AI正在吃自己拉的粑粑。

我把这句话转述给她，把她逗得哈哈大笑，问我是什么意思。

我说，现在的AI训练依赖的数据来主要自于互联网，但是AI火起来以后，大家发现AI生成内容太方便了，开始大量生成垃圾文章，批量洗稿，低质量问答，劣质图片和视频.....

这些东西信息密度低，错误互相复制，表面通顺却没有新信息，和之前的书籍（几十年沉淀）、学术论文、高质量代码库、论坛人工生成的精华内容完全没法相比。

当模型反复用“自己生成的数据”训练时，信息逐渐丢失，最后变得呆板甚至错误累积。

典型的表现就是回答越来越“套路化”，细节错误变多（但语气依然自信），创造力下降，小众知识逐渐消失.....

这就叫“模型坍塌”，如果人类继续走这条路，AI可能会越来越差，很可能会停滞不前，AI界的牛顿来了也没用。

她说：如果大家不用AI创作了，自己写文章，不就没事了？

我说：这不可能，一方面是人性使然，大家都喜欢偷懒啊，花2小时认真写和3分钟用AI生成一个“还行”的版本，大多数人都会选择后一个。

更何况互联网平台还看重更新频率、点击率，只要有个噱头，那些看起来凑合的文章就大行其道，而深度、原创性、需要花长时间构思写作的内容自然就吃了大亏，长此以往，劣币就驱逐良币了。

我和闺女的谈话就到此为止，她满意地去做自己的事情去了，我其实并没有完全把她说服，因为现在AI发展确实处于一个巨变的年代，AI技术有自己的缺陷甚至瓶颈，数据有自己的陷阱，人性更是有自己的软肋。

这一切纠缠在一起，不会一夜之间走向末日，只会缓慢、复杂、甚至有点滑稽地演进，逐渐地改变世界，未来会怎么样，谁也无法预测啊！