【CNMO科技消息】人们对人工智能的信任正出现危险的新转向。研究人员表示，AI生成的照片和摘要正在成功扭曲人们自身的记忆。10月18日，据外媒报道，麻省理工学院科学家帕蒂·梅斯介绍了其团队的研究。参与者先观看一系列照片，经过一段休息后，部分参与者再次看到完全相同的照片，另一些人则看到被AI修改过的版本。在随后的记忆测试中，观看AI修改图像的人不仅更容易记错原始图像，而且对自己的错误记忆过度自信。
人类记忆本就易变、不可靠，且极易受暗示影响。早在19世纪，心理学实验就对此有广泛记录。这也使错误信息尤其危险。一些研究显示，即便在更正信息发布后，错误信息仍可能继续影响决策，包括政治决策。
人工智能的引入使这一动态更加脆弱。AI生成的粗制滥造内容正变得更具说服力，并在网络上广泛传播，助推新一轮欺诈和虚假信息。除梅斯团队外，多项研究显示，AI生成的错误信息能够成功在参与者大脑中植入虚假记忆，改变他们原本认为真实的事情。去年一项研究发现，深度伪造和AI生成文本都能有效植入关于完全虚构政治丑闻的虚假记忆，甚至降低投票意愿。
即便AI未被恶意使用，也可能对真相产生潜在灾难性影响。这是因为生成式AI容易在输出中犯错，即“幻觉”。随着政府机构、银行、军队、医院等越来越多组织加速部署AI，人们常听到要强调“人在环路”，也就是由通常具备相关专业知识的资深人员审核AI系统输出。其设想是，在人类监督下广泛部署AI，可加快从军事打击到记录保存的各种流程，同时确保AI生成的错误在转化为行动并造成现实伤害前被捕获。
但研究表明，用户并不特别擅长发现这些幻觉。加之记忆并不可靠、人们倾向于相信AI系统，即便AI输出与环路中人类专家已知为真的信息相矛盾，专家的判断也可能被扭曲。
目前，普通人正确识别AI生成内容的能力“基本相当于抛硬币”，但许多研究者正努力寻找干预措施和训练方法，帮助人们更好地识别深度伪造。然而，尚无万无一失的方法纠正这一易错倾向。在专家努力寻找方法之际，AI行业正竞相通过智能体AI系统将人类排除在环路之外，希望使其完全自主。
热门跟贴