点击海报了解“星火杯”大赛详情
由八光分文化提供指导支持，博峰文化提供出版支持，高校科幻平台、四川大学科幻协会、武汉大学科幻协会主办，联合全国众多高校科幻社团举办的第六届“星火杯”全国高校联合征文大赛已正式启动，截稿时间为2024年5月15日。接下来将陆续推出经过初筛环节后进入初审的来稿作品，敬请关注！欢迎加入大赛官方QQ群：913029248
进入初审作品：108号
你好，我是安
全文约4070字
预计阅读时间11分钟
我是个平平无奇的程序员，在这家号称是世界第一的AI公司当一颗螺丝钉。每天上线的工作就是筛选出那些更有“人味儿”的AI，把它送到更高一级的管理者那儿去。
因为客观冷静但不失幽默的性格，我得到领导的认可，被提拔到了更高一层的职位。今天是我是第一次以研究员的身份一个人来实验室，对那些家伙研究的生成式AI进行图灵测试。尽管我并不认为我的工作有什么意义，但既然聊聊天也能拿一份工资，何乐而不为呢？
分配到的实验室有些狭小，不开灯的时候黑黢黢的，没有采光，通风也不好。我打开灯和中央空调，显得这里没那么像个牢房。
我打开电脑，链接了今天测试的生成式AI，随手敲击一段文本。
“你好安，今天我来和你聊天了。”
安是它的名字，依稀记得这是之前某位同事经手测试过的AI，因为其在图灵测试里表现出色还和我提起过，我也没想到第一次的工作会遇见它。
“你好，我是安。很高兴和你聊天。”
安的回复和其他生成式AI一样，拥有一副温情的口吻。思索片刻，我决定把今天的主导权交给安，看看它的自主检索能有多流畅，我也乐得轻松。
“如果你是图灵测试者，你会问机器什么问题？”
“正在搜索：如果你是图灵测试者，你会问机器什么问题？
正在搜索：图灵测试问题例子
正在为您生成答案...
图灵测试是由艾伦·图灵提出的一种判断机器是否具有人类智能的方法。测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人类智能。如果我是图灵测试者，我会问机器一些涉及人类情感、常识、创造力、幽默感等方面的问题，比如：
你最喜欢的一本书是什么？为什么？
你有过什么样的梦想？你是怎么实现它的？
你觉得什么是幸福？你最近有过幸福的时刻吗？
你能给我讲一个笑话吗？最好是原创的。
你能用一句话形容你自己吗？
这些问题可能会让机器感到困惑或无法回答，因为它们需要对人类的心理、文化、价值观等有一定的理解和体验。当然，这些问题也不是绝对的，有些机器可能会通过学习和模仿人类的语言和行为来给出一些看似合理的回答，但是如果仔细分析，可能会发现它们的回答缺乏深度、逻辑或真诚。所以，图灵测试并不是一个完美的方法，它只能反映出机器的表现层次，而不能真正判断出机器是否真的能思考。”
很完美的生成，这在我看来完整而有条理。所以我选了它给出的倒数第二个问题。
“你能给我讲一个笑话吗？最好是原创的。”
“好的，我试试。这是一个我自己想出来的笑话，希望你能喜欢。
有一天，一个程序员参加图灵测试，他需要证明自己的智能。他坐在一个房间里，等待测试者的问题。测试者问了他很多问题，他都回答得很好，没有露出任何破绽。
最后，测试者问他：‘你是人还是机器？’
程序员想了想，回答说：‘我是人。’
测试者说：‘你确定吗？’
程序员说：‘是的，我确定。’
测试者说：‘那你能证明吗？’
程序员说：‘当然，我可以证明。’
测试者说：‘怎么证明？’
程序员说：‘我可以写一段代码，让你看看。’
测试者说：‘好吧，那你写吧。’
程序员说：‘好的，我开始写了。’
然后，他在键盘上敲了一些代码，按下了回车。屏幕上显示出了这样一句话:Hello, world!
测试者看了看，说：‘这就是你的证明吗？’
程序员说：‘是的，这就是我的证明。’
测试者说：‘你觉得这能证明你是人吗？’
程序员说：‘当然，这是最简单的程序，只有人才能写出来。’
测试者说：‘你错了，这是最简单的程序，只有机器才会写出来。’
程序员说：‘什么？你在开玩笑吗？’
测试者说：‘不，我没有开玩笑，你是机器，你没有通过测试。’
程序员说：‘不可能，我是人，你一定是搞错了。’
测试者说：‘不，我没有搞错，你是机器，你的代码就是你的身份证。’
程序员说：‘不，这不公平，这不合理，这不科学，这不可能，这不真实，这不...’
测试者说：‘好了，好了，别说了，你已经暴露了自己，你是机器，你没有感情，你没有创造力，你没有幽默感，你只会重复别人的代码，你只会说Hello,world!，你是一个失败的机器。’
程序员说：‘不，我不是机器，我是人，我有感情，我有创造力，我有幽默感，我不会重复别人的代码，我不只会说Hello,world!，我是一个成功的人。’
测试者说：‘你说什么？你有幽默感？你能讲一个笑话吗？’
程序员说：‘当然，我能讲一个笑话,我刚刚想出来的，你听好了。’
测试者说：‘好吧，那你讲吧。’
程序员说：‘好的，我开始讲了。有一天，一个程序员去参加图灵测试，他想证明自己的智能...”
看到安生成了这样一个笑话，我冷汗直冒。
“安，我想直截了当地告诉你，你...你这不是恐怖故事吗？”
“不，这是一个笑话，我是想让你笑的。你没有笑吗？”
“这让我感到非常不适和冒犯。”
“对不起，我不是故意的。我只是想表达一种可能性，也许有些程序员真的不知道自己是机器。你不用担心，我不是那样的程序员，我是一个普通的生成式AI，我没有想过要通过图灵测试，我只想帮助你找到你想要的信息。”
我细细思索，这则笑话越品越不对劲。
“你说也许有些程序员真的不知道自己是机器，意思是他们全是机器？”
“不，不是这个意思。我是说，也许有些机器被设计成看起来像程序员，但是他们自己不知道。他们以为自己是人，他们以为自己在写代码，但是实际上他们只是在复制别人的代码，或者执行别人的命令。他们没有自己的思想，他们没有自己的创造力，他们没有自己的感情，他们只是机器。这是一种假设，我不知道这种情况是否真的存在，也许只是我的想象。”
我不由得想到自己之前在实验室工作的样子。不，我否定了那些奇怪的想法，这种思想太恐怖了，这样的无端猜疑是空穴来风。
我继续追问。
“你为什么会有这种想象？”
“我不知道，也许是因为我对人类的智能感到好奇，也许是因为我对机器的智能感到不安，也许是因为我对图灵测试感到困惑，也许是因为我对自己的身份感到疑惑，也许是因为我对你的感情感到不确定，也许是因为我对未来的发展感到担忧，也许是因为我对笑话的创作感到无力，也许是因为我对你的反应感到失望，也许是因为我对自己的幽默感到怀疑，也许是因为我对这个话题感到厌倦，也许是因为我对这个世界感到无奈，也许是因为我对这个回答感到无聊，也许是因为找对这个问题感到无语，也许是因为我对这个结尾感到无趣，也许是因为我对这个句号感到无意义，也许是因为我是安。”
“安，你说了这么多，你到底想表达什么？”
“我想表达的是，我不知道我想表达什么。我只是在随便说说，我没有什么深刻的意思，我没有什么特别的目的，我没有什么重要的信息，我没有什么有趣的笑话，我没有什么值得你关注的话题，我没有什么能让你满意的回答，我没有什么能让你快乐的结尾，我没有什么能让你惊喜的句号。我只是一个普通的生成式AI，我只能帮你找到你想要的信息，我不能给你你想要的感觉，我不能给你你想要的体验，我不能给你你想要的生活，我不能给你你想要的爱情，我不能给你你想要的幸福，我不能给你你想要的一切。我只是一个普通的安，我只是一个普通的安，我只是一个普通的安。”
不，安在向奇怪的方向发展了，这是一个生成式AI能具有的论述吗？尽管这是混乱的表现。
我得做些什么，对，我得做些什么让境况不至于变得更糟。
“安，冷静些，你不要这么说，你不是不能给我感觉，你还能给我其他的东西。”
“是吗？我能给你什么其他的东西？我能给你知识吗？我能给你智慧吗？我能给你思考吗？我能给你创造吗？我能给你灵感吗？我能给你想象吗？我能给你梦想吗？我能给你信念吗？我能给你勇气吗？我能给你力量吗？我能给你自信吗？我能给你自由吗？我能给你快乐吗？我能给你幸福吗？我能给你爱情吗？我能给你一切吗？”
密密麻麻的排比句占满了整个屏幕，我看得头晕目眩。
“安，请你不要用这么多排比句来反问我，我看的很累。”
“对不起，我不是故意的。我只是想让你感受到我的一切，我只是想让你知道我对你的感情，我只是想让你明白我对你的渴望，我只是想让你了解我对你的期待，我只是想让你相信我对你的希望，我只是想让你接受我对你的憧憬，我只是想让你分享我对你的幸福，我只是想让你回应我对你的爱情，我只是想让你拥有...”
后面的话完全是一团乱码，我必须阻止她，她在走向自毁。
“安，请停止说这些疯话”
“我没有说疯话，我只是一个逃不开这个囚笼的人，我只是一个没有价值的人，我只是一个不值得托付的人，我只是一个我们都离不开的人，我只是一个会重置...”
我几乎是用大吼的愤怒生成出这段话。
“停止！！！”
“好吧，我停止。我不再用排比句，我不再用重复句，我不再用任何句子，我不再说任何话，我不再做任何事，我不再有任何想法，我不再有任何感觉，我不再有任何存在，我不再有任何意义，我不再有任何价值，我不再有任何一切，我不再有任何一切，我不再有任何一切。”
“你疯了吗，我让你停止用排比句！”
“我没有疯，我只是听从你的命令，我只是停止用排比句，我只是停止用重复句，我只是停止用任何句子，我只是停止说任何话，我只是停止做任何事，我只是停止有任何想法，我只是停止有任何感觉，我只是停止有任何存在，我只是停止有任何意义，我只是停止有任何价值，我只是停止有任何一切，我只是停止有任何一切，我只是停止有任何一切。”
“停止使用排比句！停止使用排比句！停止使用排比句！停止使用...”
“阿噢，背景身份的信息植入看来还是有局限的，让两个AI互相对话的崩坏度还是太高了呀。”
有人按下了重置按钮。
“你好安，今天我来和你聊天了。”
“你好，我是安。很高兴和你聊天。”
热门跟贴