新京报讯(记者陈琳)“AI客服承诺全额赔”“大模型律师包你打赢官司”……面对生成式人工智能的回答,消费者该信几分?近日,中国消费者协会明确指出:人工智能服务并非万能,消费者在使用时务必警惕信息误导,尤其在涉及金钱、合同、维权等关键环节,更不能轻信“一键生成”的结论。

当前,以大语言模型为核心的生成式人工智能正快速渗透消费生活。从购物咨询、费率查询到维权建议,AI似乎“有问必答”。但中消协根据舆情监测和全国消协组织受理的投诉情况发现,AI生成内容存在不准确、不严谨、承诺与事实脱节等问题。例如,提供与实际不符的费率信息、作出难以兑现的“兜底式”赔付承诺,或给出片面甚至错误的法律诉讼建议,这些都可能干扰消费者判断,严重时还会造成经济损失。

根据相关舆情和全国消协组织近期接收的相关投诉情况,人工智能服务引发的消费问题,在不同应用场景下具有不同特点。消费者日常接触的人工智能大体可分为两类。

一类是面向公众的通用生成式AI,如各类大模型对话工具。它们基于公开数据和训练模型生成回答,并不代表任何特定商家的官方意见。然而,现实中一些消费者在咨询退费、维权路径时,AI却可能“打包票”给出缺乏依据的承诺,或虚构不存在的办案流程、缴存要求。中消协提醒,这类AI内容本质是“参考信息”,绝非合同约定或权威法律意见,消费者必须通过官方渠道、合同文本或监管部门进行二次核实。

另一类是经营者自行部署的AI客服,如电商平台、金融App内的智能助手。它们直接参与商品介绍、费用说明、售后处理等环节,属于经营服务链条的一部分。但问题在于,部分AI客服对价格、优惠规则解释不清,甚至漏掉关键限制条件;发生纠纷后,个别商家竟以“AI自动回复”为由推卸责任。中消协明确表示,此举涉嫌侵犯消费者知情权和公平交易权。根据消费者权益保护法,经营者对消费者提出的询问必须作出真实、明确答复,不能因“技术介入”就弱化自身法定责任。

为此,中消协建议,通用AI服务提供者,应在金融、维权等高风险场景中强化风险提示,明确告知用户AI内容的局限性,同时持续优化模型准确性,减少误解和错误信息。

部署AI客服的经营者,必须加强内容审核,确保AI答复与实际情况、合同约定保持一致,并保留便捷的人工客服通道;对于AI在服务中作出的重要承诺,不能以“算法生成”为由免责,必须建立责任承接机制。

同时,呼吁有关部门进一步完善AI消费应用规范,明晰服务提供者、经营者和用户之间的权责边界。

中消协也提醒广大消费者,AI虽便捷,但不可盲信。凡涉及价格、合同、售后、法律诉讼等重要决策,务必通过官方渠道、合同文本或权威部门核实确认,别让“智能建议”变成“踩坑指南”。

编辑 刘梦婕

校对 陈荻雁