澳大利亚一份支持未成年人禁用社交媒体政策的关键报告，在参议院听证会上被指出可能包含AI生成的幻觉内容。该报告的作者承认在编辑过程中使用了ChatGPT，但否认报告中的引用错误源于AI幻觉。
这份耗资348万澳元的年龄验证技术测试报告，由英国机构"年龄核查认证计划"（ACCS）于去年完成，旨在测试多种可供社交媒体平台使用的年龄验证技术，以配合澳大利亚禁止16岁以下未成年人使用社交媒体的政策落地。通信部长阿尼卡·韦尔斯将该报告誉为提供了"多种有效方案"，并为该禁令于去年12月正式生效铺平了道路。
报告大部分内容基于作者对现有年龄验证技术的实测，但其中一章涉及"新兴技术"，并引用了多篇关于潜在新型年龄核查方式的学术论文。
正在进行中的参议院调查收到一份提交材料，指出报告中至少存在两处引用错误，"这些引用似乎是AI生成的幻觉内容，而非基于真实来源。"
ACCS发言人最初否认在报告中使用了AI，但随后承认AI被用于对部分段落进行更简洁的改写。"我们没有使用AI生成报告或引用材料……每一条引用都经过核实，确认为真实链接和报告，且与所引用的具体问题相关。"
然而，《卫报》澳大利亚版对报告的独立分析发现，同一章节中存在六处引用错误，包括：数字对象标识符（DOI）链接指向不存在的论文；DOI指向错误的论文；作者姓名、期刊和出版年份组合与任何已知参考文献均不匹配；以及DOI链接所指向的论文内容与报告描述不符。
ACCS随后提供了更正后的参考文献列表，但该列表本身同样存在错误——年份、作者和期刊名称与报告中原始引用不符。
其中一篇被ACCS引用的文章，据称于2025年3月被访问。然而，该研究的主要作者之一向《卫报》确认，该文章直到2025年6月出版后才对外公开；ACCS原本引用的所谓第一作者"贾米尔"从未参与该论文，且ACCS对该论文内容的摘述也不准确。
对于另一篇在所引期刊中无法找到的参考文献"Weber等人，2011年"，ACCS发言人表示该文献来自莫纳什大学的一项研究，并向《卫报》提供了相关资料，但在ACCS提供的莫纳什论文中，并未出现任何"韦伯"署名的参考文献。
《卫报》发现报告中部分链接的元数据中包含ChatGPT的来源标识后，ACCS发言人才承认使用了AI。对此，他们坚持认为，将ChatGPT元数据包含在链接中已构成披露，且由于链接本身无误，他们认为这不成问题。
发言人表示，AI仅用于对部分段落进行更简洁的改写，并未用于原始研究或报告的生成。"所有链接都经过核查和验证，即便存在无意中的错误，也均由人工审核完成。"
澳大利亚联邦政府此前对承包商在提交政府报告中使用AI持批评态度。德勤去年曾因被发现存在错误并承认使用AI，退还了其44万澳元政府合同中的部分款项。
有关问题被转交韦尔斯部长所在部门，部门发言人表示："部门正在审查相关问题，并将视情况与ACCS进行沟通。"
在上周五的参议院听证会上，部门官员表示他们已与ACCS会面，后者声称错误是由原本有效的链接失效所致。官员表示尚未对此进行独立核实，并称要回溯检查"非常困难"。部门第一助理秘书萨拉·范登布鲁克表示："ACCS向我们保证，文件发布时所有链接均已核查，当时均可正常访问。其后可能发生了变化。他们也保证，部分链接虽可能已失效，但来源文件仍然存在，引用仍然有效。"
澳大利亚国立大学监管与全球治理学院教授克里斯蒂安·唐尼曾研究过含有AI幻觉内容的政府提交材料，他表示，若提交给政府的报告被发现存在虚假引用——无论是否由AI生成——都可能导致错误决策，并"侵蚀公众对机构的信心与信任"。"可以想见，政府已在考虑这一问题，这将需要通过合同安排乃至相应处罚措施来遏制此类行为。"
独立参议员法蒂玛·帕依曼则表示："去年德勤'AI垃圾报告'事件本应为政府承包商松散引用行为画上句号。政府必须要求此次报告背后的承包商道歉并退款。"
Q&A
Q1：澳大利亚未成年人社交媒体禁令的年龄验证报告出了什么问题？
A：该报告由ACCS完成，被指存在多处引用错误，包括DOI链接指向不存在的论文、作者信息与实际不符，以及引用了在声称访问时间尚未公开发表的论文。《卫报》还发现部分链接元数据显示来源为ChatGPT，ACCS随后承认使用AI对报告段落进行了改写，但否认用AI生成报告正文或引用内容。
Q2：ACCS在报告中是如何使用ChatGPT的？
A：ACCS最初否认在报告中使用AI，但在《卫报》发现报告中部分链接元数据包含ChatGPT来源标识后，才承认使用了ChatGPT对部分段落进行更简洁的改写。他们坚持认为AI未用于原始研究或报告生成，所有引用均经过人工核查和验证，但这一说法与多处已被证实的引用错误相矛盾。
Q3：澳大利亚政府对承包商在报告中使用AI有何规定？
A：澳大利亚联邦政府此前已对承包商在政府报告中使用AI表示不满。德勤去年因在政府报告中使用AI并出现错误，退还了44万澳元合同中的部分款项。专家建议政府通过合同安排和相应处罚机制约束此类行为，独立参议员帕依曼也呼吁政府要求ACCS道歉并退款。
热门跟贴