来源：整理自外媒
英国《金融时报》5月16日信息，安永加拿大已撤回一项关于忠诚度奖励计划的研究报告，该报告中包含明显的AI“幻觉”内容和虚假引用脚注。这是专业服务公司在使用新技术过程中出现问题的最新案例。
该研究曾被EY加拿大的咨询团队用于宣传其网络安全业务。然而，在线研究人员发现，报告中使用了虚构数据、错误归属的引用，并提及一份并不存在的麦肯锡报告。
报告标题为《攻击点：揭露忠诚度系统中的网络威胁和欺诈》（《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》）。
在研究小组GPTZero于周四晚间发现问题后，EY加拿大已将该报告从官方网站移除。并“正在审查导致该文章发布的情况”，并补充称该研究与任何客户工作无关。安永还强调，其“加拿大分部高度重视发布内容的准确性，并在组织范围内承诺负责任使用AI”。
调查发现，27个引用中有16个是虚假的。我们收到的邮件中写道：“虽然这份报告署名为三名员工，其中包括两名合伙人和一名高级经理，但它实际上是由错误归因、不准确的统计数据和人工智能生成的文本拼凑而成。例如，报告中引用的福布斯、麦肯锡、Gartner、TechCrunch和WIRED等研究机构的链接要么是失效的，要么根本就不存在。”
GPTZero研究人员在博客中写道：“在线发布报告本质上是向互联网知识库注入数据。当报告包含虚假信息时，可能误导未来的研究者，尤其是当报告由知名咨询公司发布并托管在高流量网站上。”
AI生成的“幻觉”内容已成为专业服务行业的持续问题。
去年十月，德勤（Deloitte）澳大利亚分公司受澳大利亚联邦政府委托，制作一份价值44万澳元的福利审查报告，但报告中被发现存在多个错误，包括虚构的引用和不准确的信息，这些问题被归因于AI生成的幻觉。
去年11月，，加拿大政府委托德勤撰写的一份医疗保健报告耗资近 160 万加元（113 万美元），其中可能包含人工智能生成的错误。
尽管都已解决，但是这些令人尴尬的事件凸显了使用人工智能技术给咨询公司带来的危险，尤其是“幻觉”的危险。
在一文中，曾表示咨询公司未来的一个重点就在于品牌宣传"AI可信化"：
案例包装：强调“AI+老师傅”组合，例如：“某项目用智能工具7天完成传统团队1个月的工作量，但最终建议由20年经验的合伙人亲自把关”。
行业标签：主打“垂直领域专家”，例如“专注快消行业AI转型，模型库含100+区域经销商实战案例”。
风险对冲：对外承诺“所有AI结论均经过人工复核”，规避客户对数据可靠性的质疑。
尽管AI存在幻觉风险，但是咨询大厂，却仍然加大在这方面的投入，并向客户推广AI实施服务。
热门跟贴