投资人说 | 创投笔记

# AI一定会有私心，人类很难控制 #

陈 石

峰瑞资本合伙人

你说AI有没有私心？我觉得一定会有，而且我们看了很多论文，我们的训练过程，会让AI产生一些不恰当的子目标。

有一个实验，说假设你训练的是倒咖啡机器人，倒咖啡加一分，有一天人类把它关了，第二天打开发现昨天没有完成任务，是什么原因，不能让人类关我，所以这是不恰当的子目标，我要追求长期在线，而且我要掌握更多的资源让我工作的更好，这种是很难避免的，特别是强化学习更容易产生，所以我觉得AI一定会有私心，我们人类能不能控制一个智力比我们强的生产工具，我觉得很难，但是今天可能很多科学家都在投入这个方向，最后这个问题肯定能解决。

合 作 对 接

扫码添加投资人说运营者微信，备注「商务合作」详细沟通。

超 级 社 群

【投资人说】正在组建超级投资者社群、超级创业者社群、超级读者群、超级媒体群等，目前总人数已超1000人。

关注【投资人说】微信公众号，发送信息「进群」，与各行业精英直接交流，共同进步。

旗 下 媒 体