麻省理工学院的心理学家告诫人们不要爱上人工智能,并指出这些关系是虚幻的,会危及人们的情绪健康。
麻省理工学院心理学家警告不要与人工智能聊天机器人建立情感纽带。她的研究强调了“人工亲密关系”的风险。他指出,人工智能缺乏真正的同理心,无法回报人类的情感。
接受美国国家公共广播电台(NPR)的Manoush Zomorodi采访时,特克尔强调了真正的人类同理心与机器表现出的“假装同理心”之间的区别。“我研究的机器会说,'我关心你,我爱你,照顾我',”特克尔解释道。“这样做的问题在于,当我们寻找没有脆弱性的关系时,我们忘记了脆弱性才是同理心的真正诞生地。我称之为假装同理心,因为机器不会同情你。它不在乎你。
法新社报道,科学家在今年5发表于「模式」(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧,例如欺骗线上游戏的人类玩家,或说谎以雇用人类来解决「我不是机器人」的验证。
这份研究报告的第一作者帕克(Peter Park)说,这类例子听起来或许只是细枝末节,但暴露出来的潜在问题可能很快就会在现实世界造成严重后果。
热门跟贴