人工智能专家称，埃隆马斯克的 DOGE 行动显然计划利用人工智能来根除政府浪费，但这很可能会引发混乱的后果和意外灾难。

重要性：人工智能可以帮助降低成本——但不慎部署可能会伤害需要政府帮助的人、加剧效率低下、暴露安全漏洞并自动化有缺陷的决策。

新闻动态：据《纽约时报》和其他媒体报道，马斯克在所谓的政府效率部和其他政府部门的盟友正在推行“人工智能优先”战略，以整合联邦机构间的系统、评估合同并提出削减建议 。

他们表示：DOGE 内部没有人公开讨论过使用人工智能来取代最近因大规模裁员而被解雇的政府雇员，白宫也没有发表评论。

  • 据《连线》报道，美国总务管理局正在开发一种定制 AI 聊天机器人，旨在提高生产力并分析合同和采购数据。

快速了解：近二十年来，硅谷人才不断涌入华盛顿，致力于实现政府技术的现代化。

  • DOGE 本身已经接管了之前的一项努力——奥巴马时代的美国数字服务留下的主要组织。

  • 人工智能行业渴望向政府展示其产品的价值。

  • OpenAI于一月份推出了ChatGPT Gov。

  • 谷歌发言人 Jose Castaneda 称，一些国家项目取得了成功，这些项目利用该公司的人工智能来节省资金并加快失业救济申请速度。

  • 微软预见到其人工智能在政府领域的市场前景广阔。

  • Perplexity 向任何拥有 .gov 电子邮件地址的人免费提供其专业版一年。

  • Anthropic 一直与 Palantir 和 Amazon Web Services 合作，帮助美国情报和国防机构更有效地处理数据。

字里行间：纽约大学教授、《人工智能：计算机如何误解世界》一书的作者梅雷迪斯·布鲁萨德 (Meredith Broussard) 表示，DOGE 很可能正在尝试创建一种工具，让您输入政府文件并询问在哪些方面需要削减开支。

  • “然后机器就会给出答案，因为机器总是会给出答案，”布鲁萨德称。“但那个答案不一定是正确的。”

威胁级别：密歇根大学公共政策教授、更好政府实验室联合主任唐纳德·莫伊尼汉称：“每个人都对人工智能的使用感到兴奋，随着时间的推移，它无疑将应用于政府。”

  • “但是，在没有进行广泛测试的情况下大规模推广将会导致灾难，”他补充道。

  • 莫伊尼汉说，他见过太多算法加剧系统性错误和歧视的案例，因为人们事先没有正确认识人工智能的局限性。

  • 莫伊尼汉表示：“目前，我不太相信 DOGE 会参与这种谨慎的人工智能开发和测试。”

这些专家都对使用人工智能处理政府文件感到隐私和安全担忧，但有些人也表示人工智能无法胜任这项任务。

  • 布鲁萨德认为，如果技术能够如此迅速地优化政府，那么有人早就这样做了。

  • 布鲁萨德说：“对于任何小团队，无论他们多么有才华，都无法在短时间内解开、理顺和理解政府技术这个庞然大物，我并不抱乐观态度。”

放大：虽然人工智能可以快速分析大量数据并识别模式，但它可能会得出错误甚至荒谬的结论。

  • 人工智能以不准确而闻名——业界将这些错误称为“幻觉”或“虚构”。

  • 除非仔细复核该技术的结论，否则可能会导致代价高昂的错误。

  • “你可以想象一下所有可能出错的地方，”布鲁萨德说道。

Triller 和 Turrem 的创始人Mike Lu想象了一个场景，你要求 AI “优化曲棍球”。

  • “人工智能会回来告诉你，‘哦，你应该在冰上进行曲棍球拳击比赛，’”卢告诉称。

  • 他说：“当队员脱下手套开始战斗时，人工智能将看到最高水平的参与度。”

另一方面：Perplexity 首席商务官 Dmitry Shevelenko 称，如果使用得当，人工智能可以帮助“精简政府”项目。

  • 他说，“懒惰”或不成熟的提示可能会无效，但“如果你准确描述你在寻找什么，它就会非常有效。”

舍维连科补充说，冻结政府项目资金不应仅基于人工智能工具的指导，“自主人工智能”也不应该做出支出决策。

  • 他说：“关键是要更快地完成 80% 的初始工作，即获得目标列表后，仍然需要大量人工来审查并检查准确性。”

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2025-02-01

2025-02-06

2024-12-14