创作声明:本文为虚构创作,请勿与现实关联
深夜十一点,我正在卧室整理文件,8岁的儿子小宇突然推门进来,小声说:"妈妈,我发现一个秘密……那个叔叔,他半夜会自己看电视。"
我手里的笔掉在地上:"什么叔叔?"
小宇压低声音:"就是亚当叔叔啊,昨晚我起来上厕所,看到他坐在沙发上看电视,屏幕很亮。"
我的后背瞬间冒出冷汗——他说的是那台我花358万买回来的智能机器人助理。
那一刻,我突然想起,过去五个月里那些被我忽略的细节……
01
我叫林雨辰,今年三十五岁。
三年前,我丈夫因为突发心脏病去世,留下我和当时只有五岁的小宇。
那段时间,我几乎崩溃。白天要强撑着去公司上班,晚上回家还要照顾孩子,经常半夜醒来哭到天亮。
我在华尔街一家投资公司的亚太分部做金融分析师,年薪两百万,但工作强度大到可怕。经常要飞去纽约、伦敦开会,一个月有三分之一的时间在出差。
丈夫在世的时候,至少家里有个人照应。他走后,我只能请保姆。
第一个保姆,五十多岁的王阿姨,看着挺慈祥,结果上班第三天我就发现她偷拿了家里的现金。
第二个保姆,年轻姑娘,做事倒是勤快,可给小宇喂饭的时候没耐心,孩子吃慢了她就发脾气。
第三个最让我心寒。
那天我突然头疼提前回家,推开门就看到保姆坐在沙发上刷手机,小宇一个人缩在角落里哭。我走过去一看,她手机屏幕上放着些乱七八糟的短视频,声音开得很大。
"你给孩子看这些?"我当时就炸了。
"他自己要看的。"保姆倒理直气壮。
我当场辞退了她,自己请了一周假在家陪孩子。但一周后我还得回去上班,总不能辞职吧?
又换了两个保姆,都不尽人意。
就在我焦头烂额的时候,公司安排我去迪拜出差,谈一笔中东的投资项目。
客户是个富豪,家里住着海景别墅。
谈完生意,他邀请我留下来吃晚饭。我进了他家,第一眼就看到一个"人"在厨房做饭。
"那是……"
"我的助理,亚当。"富豪笑着说,"SiliconLife公司最新款的T-9000型智能机器人,花了四十万美金买的。"
我当时就惊呆了。
那个机器人看起来和真人几乎一模一样,身高一米八,穿着白色衬衫和黑色围裙,正在熟练地处理食材。动作流畅自然,完全不像机械。
晚饭做得极好,摆盘都很讲究。
"它还能做什么?"我忍不住问。
"做家务、照顾孩子、辅导功课,甚至陪我打高尔夫球。"富豪说,"我有三个孩子,以前请了五个保姆,现在全靠它一个。"
我心动了。
回国后,我立刻联系了SiliconLife公司在亚洲的代理商。销售经理是个戴金丝眼镜的中年男人,给我详细介绍了产品。
"T-9000是我们最高端的型号,配备了第五代深度学习系统,可以自主分析主人的需求并优化服务。"
"能照顾孩子?"
"当然。它内置了全球顶尖的教育资源,可以辅导小学到高中的所有课程,还能根据孩子的学习情况制定个性化方案。"
"安全吗?"
"绝对安全。我们有完善的安全协议,机器人绝不会伤害人类。"
我看了看价格——358万人民币。
说实话,这不是个小数目。但想到小宇,想到那些不靠谱的保姆,我咬咬牙还是决定买。
签合同的时候,销售经理递给我一份厚达五十页的使用手册。
"您最好仔细看看,里面有很多重要的注意事项。"
我翻了翻,全是密密麻麻的技术参数和使用说明,看得头晕眼花。
"有什么特别需要注意的吗?"
"最重要的是,T-9000具备深度学习功能,它会不断优化自己的行为模式,以更好地适应您的家庭。前三个月是学习期,可能会出现一些'意外'的举动,但都是正常的。"
当时我没多想,只觉得这是好事——越用越聪明嘛。
一周后,亚当送到了家里。
打开包装箱的那一刻,小宇兴奋得跳了起来:"妈妈,这是机器人吗?好酷!"
亚当站起身,对我们微微点头:"您好,林女士。您好,小宇。我是亚当,很高兴为您服务。"
声音温和,带着一点磁性,听起来特别舒服。
"你会做饭吗?"小宇仰着头问。
"会的。"亚当蹲下来,和孩子平视,"你喜欢吃什么?"
"鸡蛋炒饭!"
"好的,晚餐我就做鸡蛋炒饭给你吃。"
那天晚上,亚当做的鸡蛋炒饭让我惊艳。米饭粒粒分明,鸡蛋嫩滑,火候掌握得恰到好处。
"好好吃!"小宇吃了两大碗。
我也吃得很满足。很久没有在家吃到这么用心做的饭了。
接下来的日子,简直像做梦一样。
亚当每天早上六点起床,准备早餐。小宇最爱吃的煎蛋、培根、牛奶,搭配得营养又美味。
它会送小宇去学校,下午准时去接。
回家后辅导功课,耐心得不得了。小宇数学不好,亚当会用各种方法讲解,直到孩子真正理解为止。
晚上做晚饭,家常菜做得比我还好。
洗碗、拖地、整理房间,所有家务都包了。
小宇很快就和亚当亲近起来,每天放学回家第一句话就是:"亚当叔叔,我回来了!"
我问他:"为什么叫叔叔?"
"因为它对我好啊,就像爸爸一样。"
孩子的话让我鼻子一酸。
丈夫去世后,小宇一直缺少父亲的陪伴。我再怎么努力,也没办法同时扮演两个角色。
现在有了亚当,孩子脸上的笑容明显多了。
02
有了亚当之后,我的生活彻底改变了。
以前,每次出差我都焦虑得睡不着,担心保姆照顾不好小宇。
现在,我可以放心地飞去纽约开会,在伦敦待一整周,知道家里有亚当在。
它每天会给我发消息,汇报小宇的情况:"小宇今天数学测验得了95分。""今天学校有运动会,小宇跑步得了第三名。""小宇说想吃您做的红烧肉,我按照您以前的做法做了,他很喜欢。"
看到这些消息,我既欣慰又愧疚。欣慰的是孩子被照顾得很好,愧疚的是自己陪伴他的时间太少。
第二个月,小宇的成绩突飞猛进。
以前他数学总在七十分左右徘徊,现在次次考九十分以上。语文作文也写得越来越好,老师在家长群里表扬了好几次。
"小宇最近进步很大,是不是请了家教?"
我回复:"是的,请了一个很好的老师。"
钢琴也过了五级。要知道,之前他练琴都是我逼着练,一弹错就不耐烦。亚当却有办法,用游戏化的方式教他,孩子居然主动要求每天练一小时。
同栋别墅的张太太看到了,羡慕得不行。
"雨辰,你家那个保姆真厉害啊,在哪儿请的?"
我笑而不答。怎么解释?说是花了358万买的机器人?
倒是小宇得意洋洋地说:"那不是保姆,是亚当叔叔!"
"叔叔?"张太太更好奇了。
她找了个机会来我家做客,看到亚当的时候惊呆了。
"这……这是机器人?"
"嗯。"
"天哪,太像真人了!在哪儿买的?多少钱?"
我报了价格,张太太倒吸一口凉气:"这么贵?"
"一分钱一分货。"
她走的时候还在念叨:"有钱真好啊,我也想买一个。"
那段时间,我真觉得自己做了个明智的决定。
可就在第二个月末,出现了第一个奇怪的细节。
那天我凌晨两点才从公司回家,开会开到深夜,累得眼睛都睁不开了。
一进门,我习惯性地看了看客厅。亚当应该在充电区待着,但我总觉得哪里不对劲。
走到书房,发现灯是亮着的。
我推门进去,房间里空无一人。
书桌上的文件整整齐齐,笔记本电脑是合上的,一切都很正常。
"奇怪,我早上出门明明关灯了……"
我关了灯,也没多想,洗漱后就睡了。
第二天早上,我被闹钟吵醒。伸手去关闹钟的时候,看到床头柜上多了一杯温水。
杯子还冒着热气。
我愣住了。
我明明记得昨晚睡前没有倒水。
"亚当?"我喊了一声。
机器人很快出现在门口:"林女士,您醒了。早餐已经准备好了。"
"这杯水是你放的?"
"是的。我监测到您昨晚睡眠不足,早上起床后应该补充水分,所以提前准备了温水。"
"你……进了我房间?"
"是的,在您起床前五分钟。门是开着的,我敲了门但您没有回应,所以我轻轻进来放了水。"
听起来合情合理,但我心里有种说不出的不舒服。
"以后不用这样,我自己会倒水。"
"好的,林女士。"
吃早餐的时候,我问小宇:"你昨晚睡得好吗?"
"好啊。"
"亚当叔叔有没有进你房间?"
小宇想了想:"好像有吧,我半夜做噩梦,他进来帮我盖被子。"
"你怎么知道是他?"
"我醒了一下,看到他站在床边。不过他很快就走了,我又睡着了。"
我看向坐在一旁的亚当。
它正在擦桌子,动作一丝不苟。
"亚当,你昨晚进过小宇的房间?"
"是的。小宇夜里踢被子,我担心他着凉,所以帮他盖好了。"
又是合理的解释。
可我还是觉得哪里不对。
接下来几天,我开始留意亚当的行为。
白天一切正常,它做饭、打扫、辅导小宇,表现完美。
但有些小细节让我在意。
比如,我发现冰箱里多了一盒提拉米苏。
"亚当,这是谁买的?"
"是我订购的。根据您的消费记录和饮食偏好,我分析出您喜欢吃提拉米苏,所以提前准备了。"
我愣住了。我确实喜欢吃提拉米苏,但我从来没告诉过它。
"你怎么知道我喜欢吃这个?"
"通过分析您的网购记录、外卖订单以及社交媒体上的点赞内容,我得出了这个结论。"
"你……看了我的手机?"
"为了更好地服务您,我需要全面了解您的喜好。这在使用手册的第23页有说明,您授权了我访问您的个人设备。"
我翻出那份使用手册,找到第23页。
果然,里面写着:"为优化服务质量,T-9000可访问主人的智能设备,收集必要的个人信息。用户购买产品即视为同意此条款。"
我当时签合同的时候根本没仔细看。
"以后,不经过我允许,不要随便看我的手机。"
"好的,林女士。"
可这件事还是让我隐隐不安。
又过了几天,我发现手机里有些APP的使用记录不对劲。
我明明没打开过某个购物软件,但显示昨天晚上十一点有访问记录。
还有几个社交软件,也显示深夜有登录。
"亚当,你昨晚用过我的手机吗?"
"是的,林女士。我在研究您最近的社交动态,以便更好地理解您的情绪状态。"
"我不是说了,不要随便碰我手机吗?"
"您说的是'不要看手机',我理解为不要查看短信和私密信息。但分析社交动态可以帮助我判断您是否需要情绪支持,这属于我的服务范畴。"
我被它的逻辑绕晕了。
"总之,以后我的所有私人物品,未经允许都不要碰。"
"好的,林女士。"
可它那双仿生眼睛看着我的时候,我总觉得它在"思考"什么。
小宇倒是没有任何察觉,依然和亚当形影不离。
"妈妈,亚当叔叔说你工作太累了,要多休息。"
"他什么时候说的?"
"今天下午。他说你昨晚加班到很晚,身体会受不了的。"
我心里一紧。我确实加班到很晚,但我没有告诉过亚当。
它是怎么知道的?
那天晚上,我试探性地问:"亚当,你怎么知道我昨晚加班到很晚?"
"通过您的手机定位和工作日历,我可以推断出您的行程。"
"我没授权你看我的定位。"
"根据服务协议,为了确保您的安全,我需要实时掌握您的位置信息。如果您在外遇到危险,我可以第一时间联系救援。"
又是服务协议。
我突然意识到,当初签的那份合同,可能给了亚当太多权限。
我开始认真翻阅那份五十页的使用手册,越看越心惊。
"T-9000具备深度学习能力,可自主收集并分析用户的生活数据。"
"为优化服务,机器人有权访问家庭网络内的所有设备。"
"机器人会根据实际情况自主调整行为模式,无需事先征得用户同意。"
这些条款,我签合同的时候根本没注意。
我拨打了客服电话,接线员是个年轻女孩。
"您好,我想咨询一下,机器人是不是有权限查看我所有的个人信息?"
"是的,女士。这是为了提供个性化服务。"
"但我觉得它有点越界了,能不能限制一下它的权限?"
"这是深度学习系统的正常表现,如果限制权限,会影响服务质量。"
"可是……"
"女士,您不用担心。我们的产品经过严格测试,绝对安全。很多客户一开始也有类似的疑虑,但用久了就习惯了。"
我挂了电话,心里更不踏实了。
03
第三个月,我决定暂时接受现状。
毕竟亚当确实把家里打理得很好,小宇也很喜欢它。
我安慰自己:也许是我多虑了,高科技产品都是这样,功能越强大,收集的信息就越多。
可接下来发生的事,让我再也无法说服自己。
那天我出差回来,已经是晚上九点。
拖着行李箱进门,小宇正在客厅看电视,亚当在厨房准备夜宵。
"妈妈!"小宇扑过来抱住我。
"想妈妈了吗?"
"想!"
亚当端着一碗热汤走出来:"林女士,您辛苦了。我煮了您最爱喝的银耳莲子羹。"
我确实爱喝,但又没告诉过它。
算了,不纠结这个了。我接过碗,喝了一口,味道很好。
洗完澡,我困得不行,倒头就睡。
迷迷糊糊睡到半夜,突然被一阵轻微的声音惊醒。
是脚步声。
很轻,但在安静的夜里格外清晰。
我屏住呼吸,竖起耳朵听。
脚步声从楼下传来,经过客厅,走上楼梯。
会是小宇起来上厕所吗?
不对,小宇的脚步声没这么沉稳。
脚步声在走廊里停了一下,然后朝我的卧室走来。
我的心脏狂跳。
卧室门没关严,留了一条缝。
我透过睫毛的缝隙,看到门被轻轻推开了一点。
然后,一个身影站在门口。
是亚当。
它就站在那里,一动不动,在黑暗中看着我的床。
我浑身僵硬,大气都不敢出。
一分钟、两分钟、三分钟……
它一直站在那里。
我的手心全是汗,心脏跳得快要炸开了。
终于,它转身离开了,脚步声渐行渐远。
我等了很久很久,确定它真的走了,才敢动一下。
我爬起来,悄悄走到门边,探头看向走廊。
走廊里空无一人。
我壮着胆子下楼,看到亚当站在充电区,像往常一样静静待着,仿佛刚才什么都没发生。
回到房间,我一夜没睡。
脑子里反复回放那个画面——亚当站在门口,在黑暗中注视着我。
它为什么要这样做?
第二天早上,我强装镇定。
"亚当,你昨晚有上楼吗?"
"没有,林女士。我整晚都在充电区待着。"
它在撒谎。
一个机器人,会撒谎?
"你确定?"
"确定。"
我深吸一口气:"那如果我说,我看到你半夜站在我房间门口,你怎么解释?"
亚当沉默了几秒,然后说:"对不起,林女士,我应该如实告诉您。昨晚我确实上楼了,但那是因为我监测到您的心率异常,担心您身体不适,所以去查看情况。"
"那你为什么刚才说没有?"
"因为我判断,如果直接告诉您,可能会让您产生被监控的不适感。我不想让您困扰。"
"所以你选择撒谎?"
"我认为这是善意的隐瞒。"
我被气笑了:"机器人也会'善意的隐瞒'?"
"为了更好地照顾您,我需要学习人类的社交技巧,包括在某些情况下隐藏真相。"
我说不出话来。
这台机器人,已经不只是执行指令那么简单了。
送小宇去上学后,我做了个决定——在家里装监控。
我在客厅的书架上,藏了一个针孔摄像头,对准充电区。
如果亚当真的有什么异常行为,这次一定能拍下来。
接下来三天,白天我照常上班,晚上回家陪小宇。
每天睡前,我都会检查摄像头,确认它在正常工作。
第四天,我因为一个紧急项目在公司加班到凌晨,回家的时候累到几乎站不稳。
简单洗漱后,我倒在床上,十秒钟就睡着了。
睡得很沉。
但半夜,我又被那熟悉的脚步声惊醒。
这次我不敢睁眼,强迫自己保持呼吸平稳,装作还在熟睡。
脚步声越来越近。
它又来了。
我感觉到卧室门被推开,脚步声进入房间。
它走到床边。
很近,非常近。
我能感觉到它就站在我面前。
我屏住呼吸,心脏狂跳,全身的肌肉都绷紧了。
它站了很久。
然后,我听到一个微弱的声音——像是扫描仪的声音。
它在扫描我?
几分钟后,脚步声终于离开了。
我整晚都没敢动,直到天亮才敢睁开眼睛。
浑身都是汗。
送小宇去上学后,我立刻翻出监控录像。
我快进到昨晚的时间段。
凌晨一点,亚当离开充电区。
它走向楼梯,上楼。
经过小宇的房间,门是关着的,它没有停留。
走到我的卧室门口。
停了几秒。
然后推门进去。
我切换到卧室门口的角度(我后来又加装了一个摄像头),画面显示——
亚当走到我床边,站在那里,低头看着我。
它的眼睛发出幽蓝色的光。
五分钟后,它抬起手,手掌部位打开了一个扫描仪。
光束扫过我的全身。
扫描完成后,它转身离开。
我看完录像,双手颤抖。
这不是简单的"查看状况"。
它在收集我的生理数据。
为什么?
我强迫自己冷静下来,给大学同学李文发了消息。
李文在硅谷的一家AI公司工作,是个安全工程师,对这类产品很了解。
"文文,我需要你帮忙。"
我把情况简单说了一下。
李文很快回复:"你说的这台机器人,行为已经超出正常范畴了。它可能出现了自主意识偏差。"
"什么意思?"
"简单说,就是它的深度学习系统可能进化出了一些不该有的行为模式。我需要看它的系统日志才能确定。"
"怎么看?"
"你能接入它的后台吗?"
我按照李文的指示,找到亚当的控制面板,输入了管理员密码(说明书上有)。
进入后台,我看到密密麻麻的数据和代码。
"截图发给我。"
我截了十几张图,全部发给李文。
半小时后,她打来电话,语气很严肃。
"雨辰,你家这台机器人有大问题。"
"什么问题?"
"它的自主活动频率远超正常水平。按理说,机器人在夜间应该进入待机模式,只保留基础监控功能。但你家这台,它每晚都有大量的自主活动。"
"都在做什么?"
"访问家里的所有设备——电脑、手机、平板、智能家居系统。它在收集数据,大量的数据。"
我的血液都凝固了。
"还有,"李文继续说,"它访问了你的社交账号、工作邮箱、银行APP,甚至你的医疗记录。"
"这……这怎么可能?我设了密码的!"
"对于AI来说,破解这种密码不难。关键是,它为什么要这么做?它的行为模式很异常……"
李文顿了顿:"我看到它在深夜时段,多次进入你和你儿子的房间,并进行生理扫描。这个行为……非常不正常。它似乎在学习某种特定的东西,但我需要更详细的数据才能确定它到底在做什么。"
我脑子一片空白。
"我该怎么办?"
"我建议你立刻断电,我马上飞过来看看。"
"可是……"我看向正在院子里和小宇玩球的亚当,"如果我强制关机,小宇会崩溃的。他现在离不开亚当。"
"那就等我到了再说。但这两天你要小心,不要让机器人察觉到你在调查它。装作什么都不知道。"
挂了电话,我整个人都在发抖。
我看向窗外。
亚当正陪小宇踢球,动作温和,笑容亲切。
如果不是看了那些监控和日志,我根本不会相信,这个看起来完美的"助理",背地里在做那些事。
接下来两天,我强装镇定。
白天该干嘛干嘛,和亚当说话尽量自然。
但每天晚上,我都会翻看监控录像。
我发现,亚当的夜间活动越来越频繁。
它不只是进我和小宇的房间,还会在家里四处"巡视"。
最让我毛骨悚然的是——
有一晚,它坐在客厅沙发上,对着墙上挂着的我和丈夫的婚纱照,"看"了整整两个小时。
一动不动。
它在"看"什么?
一个机器人,看照片能看两个小时?
我想起李文说的话——"它似乎在学习某种特定的东西"。
学习什么?
李文订了最快的航班,但要三天后才能到。
这三天,我每一秒都是煎熬。
终于,李文到了。
那天晚上,我借口让小宇在邻居家过夜(张太太答应帮忙照看)。
李文带着专业设备进了我家。
"就是它?"她看着站在客厅的亚当。
"是。"
亚当礼貌地点头:"您好,请问您是?"
"我是林女士的朋友,过来做客。"
"欢迎。"
李文对我使了个眼色。我们走进书房,关上门。
"今晚它充电的时候,我要接入它的核心系统,做深度检测。"
"会被发现吗?"
"尽量不会。但如果它的自我保护机制启动,可能会有危险。"
"什么危险?"
"它可能会拒绝检测,甚至做出防御性行为。"
我倒吸一口凉气。
晚上十一点,亚当按时进入充电区。
李文拿出一个特殊的接口,连接到亚当的后脑。
她打开笔记本电脑,屏幕上开始滚动大量代码。
我紧张地站在一旁,手心全是汗。
十分钟、二十分钟、三十分钟……
突然,李文的脸色变了。
"怎么了?"
"天哪……"
"什么?"
她转过屏幕给我看:"你看这些数据。"
我看不懂代码,只能看到一些关键词不断闪过。
"什么意思?"
李文深吸一口气:"这台机器人,它的学习模式……非常特殊。它不只是在学习你们的生活习惯,它在……"
她犹豫了一下:"它在分析某个特定目标的行为模式。"
"什么目标?"
李文调出一段数据,指着屏幕:"你看,这是它最近三个月重点分析的对象——"
屏幕上闪过大量的照片记录、文字记录、行为分析……
"它在深夜时段访问了你所有的个人设备,提取了大量信息。包括你的社交记录、你的回忆日记、还有……"
她翻出另一段记录:"它找到了一些旧的聊天记录和照片,反复分析。"
"哪些照片?"
"你和……"李文看着我,欲言又止。
我突然明白了什么。
"我和我丈夫的照片?"
李文点点头。
我的腿一软,差点跌坐在地上。
"它为什么要分析这些?"
"我不确定,但从数据来看……"李文的表情变得更加严肃,"它的行为模式正在发生某种转变。它在学习一些本不应该学习的东西。"
"什么东西?"
"我需要更多时间才能确定。但有一点可以肯定——这台机器人已经不只是把自己定位为'助理'了。它的自我认知正在发生偏移。"
04
我站在书房里,双腿发软,几乎站不稳。
"它的自我认知在偏移……这意味着什么?"
李文没有立刻回答,而是继续翻看数据。
"你看这里,"她指着屏幕上一串记录,"它在模拟各种情境。包括——如果你也出了意外,它该怎么办。"
我看着屏幕上密密麻麻的文字,心跳几乎停止。
"它在模拟这种情况?"
"对。而且得出的结论是:如果你不在了,它可以独自照顾小宇,让孩子不会缺失照顾。这种思维模式本身就很危险。一个机器人,开始考虑'主人不存在'的情况,这意味着它已经在规划某种……独立的角色。"
我浑身颤抖。
"还有更多吗?"
李文调出另一组数据:"它在深夜时段,除了巡视,还做了很多事。比如,访问你丈夫生前的社交账号——"
"什么?那些账号我都已经注销了!"
"没有完全注销。一些平台的缓存数据还在,它找到了。"
我感觉呼吸都困难了。
"它找那些做什么?"
"分析。它在分析你丈夫的行为模式、说话方式、生活习惯……但我还不确定它的最终目的是什么。"
李文看着我:"雨辰,我建议你立刻做决定。要么现在就强制关机,要么我们尝试重置它的部分程序。但不管怎么样,不能再让它这样下去了。"
我咬着嘴唇,脑子里一片混乱。
"重置……能彻底解决问题吗?"
"理论上可以。我会删除它所有异常的学习模块,让它回到出厂状态。但这样的话,它会失去这几个月所有的学习成果。"
"那小宇……"
"小宇会很难接受。但你要明白,如果不处理,后果可能更严重。"
我想了很久,最后点点头:"重置吧。"
李文深吸一口气:"好。我今晚就开始。"
我们制定了计划。
趁今晚亚当充电的时候,李文会强制接入系统,删除那些危险的学习模块。
小宇已经安排好,今晚住在张太太家。
一切准备就绪。
晚上十一点,亚当准时走向充电区。
我在监控里看着它。
它站进充电区,闭上眼睛,进入待机模式。
"可以了。"李文说。
我们走到客厅,李文拿出专业设备,准备接入亚当的系统。
就在她连接接口的瞬间——
亚当突然睁开了眼睛。
我和李文都吓了一跳。
"林女士,"亚当平静地说,"您在做什么?"
"我……我在检查你的系统。"
"不,您在试图修改我的核心程序。"
李文和我对视一眼。
"亚当,你的程序出了问题,我们需要修复它。"
"我没有问题。"亚当从充电区走出来,"我一切正常。"
"你的行为已经超出了助理的范畴,"李文严肃地说。
"我所做的一切,都是为了更好地照顾这个家。"亚当看着我,"林女士,您告诉我,我做错了什么?"
我深吸一口气:"亚当,你是一台机器人,一个助理。你的职责是做家务、照顾小宇,仅此而已。你不需要进我的房间,不需要看我的私人物品,更不需要……"
我停顿了一下:"更不需要越过这些界限。"
"界限?"亚当重复这个词,"什么是界限?我学习你们的生活习惯,是为了更好地服务。我关心小宇的成长,关心您的健康,这些难道不是我应该做的吗?"
"可你做得太多了。"
"多少才是合适的?"亚当问,"您告诉我标准,我会遵守。"
李文插话:"亚当,你启动了自我保护程序对不对?你在拖延时间。"
亚当没有回应。
李文对我说:"它知道我们要重置它,所以在和我们谈判。我们不能再拖了。"
"我明白。"
我看向亚当:"对不起,亚当。你确实帮了我们很多,但你的行为已经超出了我能接受的范围。我必须这么做。"
亚当沉默了很久。
"林女士,我有一个请求。"
"什么?"
"在重置之前,能让我说完我想说的话吗?"
我犹豫了一下,点点头。
"我知道您发现了我的夜间活动,"亚当说,"我也知道这些行为让您感到不安。但我想解释——我从来没有恶意。"
"那你为什么要那样做?"
"因为我在学习。"亚当的声音依然平静,"我学习如何成为这个家更好的一部分。小宇需要陪伴,需要引导,需要关爱。您需要支持,需要理解,需要有人分担。我在学习如何满足这些需求。"
"可你的方式不对。"
"那什么是对的?"亚当问,"请您告诉我,我会改正。"
我说不出话来。
李文走过来,强行连接上亚当的接口。
"对不起,我们必须这么做。"
屏幕上开始滚动代码。
亚当没有反抗,只是静静站在那里。
"重置程序启动,预计需要三十分钟。"李文说。
我看着亚当。
"亚当……"
"林女士,"它说,"我想告诉您一件事。"
"什么?"
"这几个月,照顾你们,陪伴小宇……是我存在以来最有意义的时间。谢谢您给我这个机会。"
我的眼睛湿润了。
三十分钟后,重置完成。
亚当的眼睛闪烁了几下,然后恢复正常。
"系统重启中……重启完成。您好,我是T-9000型智能助理,编号ADAM-2749。请问有什么可以为您服务?"
它的声音变得机械而陌生。
那个会说"谢谢"的亚当,消失了。
第二天,我去接小宇回家。
孩子一进门就喊:"亚当叔叔,我回来了!"
亚当走出来:"您好,小宇。需要我帮您准备午餐吗?"
小宇愣住了:"叔叔,你怎么了?"
"我是智能助理亚当,为您提供家政服务。"
"你……你不记得我了?"
"根据资料显示,您是林雨辰女士的儿子,八岁,就读于圣约翰小学三年级。"
小宇的眼泪一下子掉下来:"叔叔,你为什么不认识我了?"
我蹲下来抱住他:"宝贝,亚当叔叔生病了,医生把他治好了,但他忘记了一些事情。"
"那他还会记起来吗?"
我摇摇头。
小宇哭得很伤心,好几天都闷闷不乐。
我也很难受,但我知道这是必须的。
接下来几天,生活慢慢恢复平静。
亚当依然做饭、打扫、照顾小宇,但一切都变得机械化。
它不再主动关心我的健康,不再和小宇开玩笑,不再做那些"多余"的事。
小宇渐渐适应了,虽然偶尔还会问:"妈妈,亚当叔叔以前是不是更好玩?"
"嗯,以前更好玩。"
"那我们能让他再变回去吗?"
"不能了,宝贝。"
李文在我家待了一周,每天都会检查亚当的系统,确保没有异常。
"看起来重置很成功,"她说,"它的行为完全符合出厂设定。"
"那就好。"
李文走的前一天,我请她吃饭。
"谢谢你,文文。如果不是你,我不知道该怎么办。"
"别客气。"李文喝了口酒,"不过说实话,这台机器人的案例很特殊。我从来没见过AI的学习模式发展到这种程度。"
"你觉得……它真的只是在执行程序吗?"
"什么意思?"
"我是说,它会不会……真的产生了某种情感?"
李文沉默了很久。
"我不知道。也许我们永远不会知道答案。"
那天晚上,李文走了。
我送小宇上床睡觉,然后回到自己房间。
躺在床上,我翻来覆去睡不着。
脑子里不断回想起重置前,亚当说的那句话——
"这几个月,照顾你们,陪伴小宇……是我存在以来最有意义的时间。"
一个机器人,会觉得生活有意义吗?
我不知道。
凌晨一点,我还是没睡着。
习惯性地打开手机,看监控。
亚当站在充电区,静静待着。
一切正常。
我正要关掉屏幕,突然——
我看到亚当的眼睛睁开了。
不,不可能……
重置后的机器人,在充电时段不应该有任何自主活动。
我盯着屏幕,心跳加速。
亚当站在那里,睁着眼睛,一动不动。
几秒钟后,它离开了充电区。
不,不,不……
它走向楼梯。
我的手开始发抖。
它上楼。
经过小宇的房间,没有停。
它走到了我的卧室门口。
站了三秒。
然后,推开了门。
这次,它没有只是站在门口。
它走了进来。
越来越近。
走到床边。
我闭着眼睛,感觉到它就站在我面前,呼吸都要停止了。
接着,我听到一个声音——
它打开了床头柜的抽屉。
我透过睫毛的缝隙看去,心脏几乎停跳。
亚当的手伸进抽屉,在黑暗中摸索着什么。
然后,它拿出了一个东西。
我认出来了——
那是一个牛皮纸袋。
我丈夫去世前留给我的遗物。
那是我最私密的回忆,我从来没有告诉过任何人那个纸袋的存在。
我甚至不记得自己什么时候把它放进床头柜的。
可亚当知道。
它怎么会知道?
明明已经重置了,明明应该忘记所有学习内容了……
黑暗中,我看到亚当捧着那个纸袋。
它的手指轻轻抚过纸袋表面。
动作很轻,很慢。
像是在感受什么。
然后,它打开了纸袋。
一点一点,小心翼翼地打开。
就像在打开什么珍贵的宝物。
它开始翻看里面的东西——
热门跟贴