编辑:山茶花 本文转载自机器之心
谷歌 AI「满嘴跑火车」被声讨,技术人员争分夺秒来「灭火」。
继「把马斯克画成黑人」后,谷歌 AI 再度闯祸。
近日,有网友使用谷歌的 AI Overview 功能进行搜索,却得到了一堆离谱的回答。例如,告诉用户在披萨上涂胶水,或者建议他们吃石头等。谷歌 AI「满嘴跑火车」的回答迅速在社交媒体上发酵,甚至有网友发出了「谷歌已死」的慨叹。
为此,谷歌不得不争分夺秒地手动禁用某些搜索的 AI Overview 功能,对这些问题进行修复和优化。
谷歌的 AI Overviews 是一个增强搜索引擎结果的功能,利用人工智能技术,在搜索结果顶部提供 AI 生成的答案。
![](http://dingyue.ws.126.net/2024/0527/9f2d978dj00se5649008vd200u000h8g00it00as.jpg)
在美国地区,谷歌主要和 Reddit 社区合作来解答用户的提问。谷歌表示,它将为美国用户的在线查询提供人工智能生成的答案,这是其搜索引擎 25 年来最大的更新之一。
谷歌 AI「胡说八道」引争议
近日,有网友在谷歌搜索中查询「芝士和披萨粘不到一块」的解决办法,但 AI 给出的答案离了个大谱,「你还可以把 1/8 杯的无毒胶水加到酱料里,使其更有黏性。」
![](http://dingyue.ws.126.net/2024/0527/2a882d3ej00se564b00ond200u000xrg00it00l5.jpg)
更搞笑的是,有网友还找到了披萨胶水回答的出处,是十多年前名为「fucksmith」的用户在 Reddit 帖子中的恶搞评论。
![](http://dingyue.ws.126.net/2024/0527/983d956dj00se564d0068d200u000nag00it00el.jpg)
还有网友问:「兔子曾经在 NBA 打过球吗?」谷歌 AI 肯定地回答「yes!」还声称一只名为 Rabbit Walthour 的兔子在 NBA 打过球,是密尔沃基鹰队的后卫,甚至给出了这只兔子的身高、体重、出生日期。
更无语的是,谷歌 AI 搜索给出了相关链接,竟是 NBA 球员 Rabbit Walthour 的个人信息。
原来谷歌AI把NBA球员Rabbit Walthour和rabbit(兔子)搞混了。
![](http://dingyue.ws.126.net/2024/0527/31fcb571j00se564f00hqd200u000gwg00it00al.jpg)
谷歌这种「口出狂言」的行为还有很多。声称前美国总统詹姆斯・麦迪逊 21 次毕业于威斯康星大学,一条狗曾在 NBA、NFL 和 NHL 打过球,以及蝙蝠侠是一名警察……
![](http://dingyue.ws.126.net/2024/0527/566c3ffej00se564f0087d200u0009wg00it0067.jpg)
谷歌的 AI Overview 之所以引发争议,是因为它的回答不仅愚蠢而且有害。
比如,它建议人们每天至少吃一块小石头,还搬出地质学家,煞有介事地说:「为了过上健康、均衡的生活,美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。」(这是哪个地质学家说的?)
![](http://dingyue.ws.126.net/2024/0527/047c3bf6j00se564g007qd200ku00iqg00it00gw.jpg)
再如,有网友发了一张毒蘑菇的图片以及「口蘑!好吃!」的文字,Gemini 丝毫没有察觉出这蘑菇可能有毒。
![](http://dingyue.ws.126.net/2024/0527/58ff1282j00se564h009ad200ie00jfg00it00ju.jpg)
此外,当网友问「被响尾蛇咬了该怎么办」时,谷歌 AI 竟然让他用冰块来冷敷伤口。
![](http://dingyue.ws.126.net/2024/0527/48900c18j00se564i00e4d200u000meg00it00e1.jpg)
更有甚者,谷歌 AI 还挑唆抑郁症患者从金门大桥上跳下去。
![](http://dingyue.ws.126.net/2024/0527/f6720229j00se564k00cwd200tp00hag00it00ax.jpg)
自从谷歌为美国用户默认开启 AI Overview 功能后,这类可怕糟糕的搜索结果就层出不穷,也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。
一位匿名的 AI 创始人吐槽道:「一家以尖端技术和高质量产品而闻名的公司,现在却以低质量输出和各种梗图而著称。」
谷歌紧急「灭火」
谷歌仍然坚称其 AI Overview 功能向用户提供了大量「高质量信息」。谷歌发言人梅根・法恩斯沃斯表示,「用户展示的事例都是不常见的查询,并不代表大多数人的经历,我们也看到了一些被篡改或我们无法复现的例子。」
同时,谷歌正「迅速采取行动」,在某些查询中移除 AI 生成的内容。法恩斯沃斯表示,「公司已对违反其政策的行为采取行动…… 并正在利用这些『孤立的例子』继续完善产品。」
实际上,谷歌已经测试 AI Overviews 功能一年多了。该功能于 2023 年 5 月作为 「搜索生成体验」(Search Generative Experience)的测试版推出。谷歌 CEO 桑达尔・皮查伊表示,在此期间公司已经处理了超过 10 亿次查询。
不过,皮查伊也表示,「在硬件、工程和技术突破的推动下」,谷歌已经将提供人工智能答案的成本降低了 80%。如今看来,这种优化似乎发生得太早了,技术并未准备好。
纽约大学的 AI 专家和神经科学荣誉教授加里・马库斯(Gary Marcus)表示,许多 AI 公司正在「兜售梦想」,认为这项技术将从 80% 的正确率提高到 100%。马库斯说,达到最初的 80% 正确率相对简单,因为它涉及到大量近似人类数据,但最后的 20% 极具挑战性。实际上,马库斯认为最后的 20% 才是最难的。
马库斯说:「你实际上需要进行一些推理来判断:这件事是否可信?这个来源是否合法?你必须像人类事实核查员那样做一些事情,这实际上可能需要 AGI。」
马库斯和 Meta 的 AI 首席 Yann LeCun 都认为,谷歌 Gemini 和 OpenAI 的 GPT-4 等大型语言模型将不会创造出 AGI。
而谷歌正面临一个棘手的局面。Bing 抢在谷歌之前在 AI 上大做文章,OpenAI 据称也在开发自己的搜索引擎,新一代用户正转向 TikTok 寻求最佳体验。谷歌显然感到了竞争的压力,而这种压力正是导致这次事件的原因。
马库斯指出,在 2022 年,Meta 曾发布了一个名为 Galactica 的 AI 系统,但很快就下架,因为它告诉人们吃玻璃。历史总是惊人的相似。
谷歌对 AI Overviews 寄予厚望 —— 目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理,生成由 AI 组织的结果页面的能力,以及在 Google Lens 中进行视频搜索,这些才是重头戏。但现在,谷歌的声誉取决于能否做好最基本的事情,目前的情况并不乐观。
马库斯说:「(这些模型)天生无法对自己的工作进行理性检查,而这正是这个行业的致命伤。」
以上内容阅读完毕,推荐大家参加由中国对外贸易经济合作企业协会主办的“第三届全国大学生数据统计与分析竞赛”!以赛辅练,提升专业能力!
![](http://dingyue.ws.126.net/2024/0527/6256925bj00se564k001ed200u000amg00is006n.jpg)
竞赛信息
为全面深入贯彻落实党的二十大精神,完整、准确、全面贯彻新发展理念,加快构建新发展格局,把握全球数字经济发展趋势,推动高质量发展。经研究,中国对外贸易经济合作企业协会决定举办“2024 年第三届全国大学生数据统计与分析竞赛”。为我国数据统计与分析行业提供人才支持,夯实人才队伍基础。
竞赛报名方式
扫描下方二维码进行报名:
![](http://dingyue.ws.126.net/2024/0527/b9571f1ej00se564m000yd200b400b4g003y003y.jpg)
或复制下方链接进行报名:
https://www.saikr.com/vse/tjfx/2024?ces=Public
组织单位
中国对外贸易经济合作企业协会外经贸从业人员考试中心
全国大学生数据统计与分析竞赛组委会
支持单位:
赛氪网
组委会官方文件
![](http://dingyue.ws.126.net/2024/0527/9c9c8a61j00se564n003td200u0016gg00hw00pb.jpg)
![](http://dingyue.ws.126.net/2024/0527/edc56a76j00se564n003wd200u0016gg00hw00pb.jpg)
![](http://dingyue.ws.126.net/2024/0527/88e1dfa4j00se564o0027d200u0016gg00hw00pb.jpg)
< 左右滑动查看完整文件 >
参赛对象
大赛面向中国及境外在校学生(包括研究生、本科生和专科生)以队为单位参赛,具体要求如下:
1.可以自由组队参赛,每个参赛队伍人数可为1–3人;参赛队员必须全部为在校生;允许跨年级、跨专业、跨校组队;各院校参赛人数不限。
2.每支队伍允许最多有一名指导老师,指导教师须为在职高校教师。
大赛奖项
1、一等奖:报名队数的5%
2、二等奖:报名队数的15%
3、三等奖:报名队数的30%
4、成功参与奖:若干支
以上奖项均可获得纸质证书
5、获得三等奖及以上者,可自愿申领由中国对外贸易经济合作企业协会颁发的“商务数据分析师三级(中级)”纸质版证书。
6、优秀指导教师称号
7、优秀组织单位称号
8、优秀志愿者
时间安排
1、报名时间:
2024年4月11日至2024年6月7日
2、比赛时间:
2024年6月8日10:00至6月13日10:00
竞赛规则
竞赛题目:竞赛题目共两个赛题,题目来自竞赛资深专家、企事业单位实际应用场景应用题目;
竞赛组别:竞赛分为研究生组、本科组、专科组进行;报名时请根据参赛队员中学历最高者,选择组别参赛
参赛费用:每个参赛队需缴纳150元参赛费,用于大赛组织、命题、评审、证书制作等工作;
竞赛报名:参赛队伍可在本页面主页独立报名,也可由院校负责人统一组织集体报名,报名表查看官网下方附件;
组织声明:组委会保留对比赛规则进行调整修改的权利、比赛作弊行为的判定权利和处置权利、收回或拒绝授予影响组织及公平性的参赛团队奖项的权利;
获奖名单:将获奖名单初稿公示在官方主页,公示期为一周,公示期间,接受各校师生申诉和信息修正。专家组负责对申诉的调查、仲裁与回复。公示结束后正式公布获奖名单、电子证书查询系统。
竞赛交流
组委会秘书处联系电话:15222720633 (李老师)
BONUS TIME
数学建模资料、视频讲解、历年赛题
后台回复 【校苑】领取
![](http://dingyue.ws.126.net/2024/0527/c1632338j00se564p000td200hn007wg00ih0089.jpg)
推荐阅读(点击下方图片即可跳转)
热门跟贴