【 用户一直提供信息与AI对话致模型出现幻觉】4月11日,在一技术论坛网站上,有用户发帖称,一名陌生网友在使用AI软件购买保险时,通过向AI提供的支付宝二维码转账,错误将保费支付到了其名下的支付宝账户。
根据该用户描述,事发时,受害人通过向AI客户端提问的方式购买保险。AI客户端根据其需求提供了具体保险链接,并生成了一张支付宝收款二维码,同时提示称扫码付款即可。受害人随后支付了1618元,但迟迟未查询到保单信息。其再次询问AI客户端时,客户端还回复称需等到当日24点后才能出单,因此暂时无法查看保单,属于正常情况。 4月14日,相关平台负责人回应新黄河大鱼财经记者时表示,经核实,该案例系用户一直提供信息与AI对话,经过多轮对话后模型产生幻觉导致。原文:
根据该用户描述,事发时,受害人通过向AI客户端提问的方式购买保险。AI客户端根据其需求提供了具体保险链接,并生成了一张支付宝收款二维码,同时提示称扫码付款即可。受害人随后支付了1618元,但迟迟未查询到保单信息。其再次询问AI客户端时,客户端还回复称需等到当日24点后才能出单,因此暂时无法查看保单,属于正常情况。 4月14日,相关平台负责人回应新黄河大鱼财经记者时表示,经核实,该案例系用户一直提供信息与AI对话,经过多轮对话后模型产生幻觉导致。原文:
行业密探


JPG
长图