披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

谷歌AI「满嘴跑火车」被声讨，技术人员争分夺秒来「灭火」。

继「把马斯克画成黑人」后，谷歌AI再度闯祸。

近日，有网友使用谷歌的AIOverview功能进行搜索，却得到了一堆离谱的回答。例如，告诉用户在披萨上涂胶水，或者建议他们吃石头等。谷歌AI「满嘴跑火车」的回答迅速在社交媒体上发酵，甚至有网友发出了「谷歌已死」的慨叹。

为此，谷歌不得不争分夺秒地手动禁用某些搜索的AIOverview功能，对这些问题进行修复和优化。

谷歌的AIOverviews是一个增强搜索引擎结果的功能，利用人工智能技术，在搜索结果顶部提供AI生成的答案。

在美国地区，谷歌主要和Reddit社区合作来解答用户的提问。谷歌表示，它将为美国用户的在线查询提供人工智能生成的答案，这是其搜索引擎25年来最大的更新之一。

谷歌AI「胡说八道」引争议

近日，有网友在谷歌搜索中查询「芝士和披萨粘不到一块」的解决办法，但AI给出的答案离了个大谱，「你还可以把1/8杯的无毒胶水加到酱料里，使其更有黏性。」

更搞笑的是，有网友还找到了披萨胶水回答的出处，是十多年前名为「fucksmith」的用户在Reddit帖子中的恶搞评论。

还有网友问：「兔子曾经在NBA打过球吗？」谷歌AI肯定地回答「yes!」还声称一只名为RabbitWalthour的兔子在NBA打过球，是密尔沃基鹰队的后卫，甚至给出了这只兔子的身高、体重、出生日期。

更无语的是，谷歌AI搜索给出了相关链接，竟是NBA球员RabbitWalthour的个人信息。

原来谷歌AI把NBA球员RabbitWalthour和rabbit（兔子）搞混了。

谷歌这种「口出狂言」的行为还有很多。声称前美国总统詹姆斯・麦迪逊21次毕业于威斯康星大学，一条狗曾在NBA、NFL和NHL打过球，以及蝙蝠侠是一名警察……

谷歌的AIOverview之所以引发争议，是因为它的回答不仅愚蠢而且有害。

比如，它建议人们每天至少吃一块小石头，还搬出地质学家，煞有介事地说：「为了过上健康、均衡的生活，美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。」（这是哪个地质学家说的？）

再如，有网友发了一张毒蘑菇的图片以及「口蘑！好吃！」的文字，Gemini丝毫没有察觉出这蘑菇可能有毒。

此外，当网友问「被响尾蛇咬了该怎么办」时，谷歌AI竟然让他用冰块来冷敷伤口。

更有甚者，谷歌AI还挑唆抑郁症患者从金门大桥上跳下去。

自从谷歌为美国用户默认开启AIOverview功能后，这类可怕糟糕的搜索结果就层出不穷，也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。

一位匿名的AI创始人吐槽道：「一家以尖端技术和高质量产品而闻名的公司，现在却以低质量输出和各种梗图而著称。」

谷歌紧急「灭火」

谷歌仍然坚称其AIOverview功能向用户提供了大量「高质量信息」。谷歌发言人梅根・法恩斯沃斯表示，「用户展示的事例都是不常见的查询，并不代表大多数人的经历，我们也看到了一些被篡改或我们无法复现的例子。」

同时，谷歌正「迅速采取行动」，在某些查询中移除AI生成的内容。法恩斯沃斯表示，「公司已对违反其政策的行为采取行动……并正在利用这些『孤立的例子』继续完善产品。」

实际上，谷歌已经测试AIOverviews功能一年多了。该功能于2023年5月作为「搜索生成体验」（SearchGenerativeExperience）的测试版推出。谷歌CEO桑达尔・皮查伊表示，在此期间公司已经处理了超过10亿次查询。

不过，皮查伊也表示，「在硬件、工程和技术突破的推动下」，谷歌已经将提供人工智能答案的成本降低了80%。如今看来，这种优化似乎发生得太早了，技术并未准备好。

纽约大学的AI专家和神经科学荣誉教授加里・马库斯（GaryMarcus）表示，许多AI公司正在「兜售梦想」，认为这项技术将从80%的正确率提高到100%。马库斯说，达到最初的80%正确率相对简单，因为它涉及到大量近似人类数据，但最后的20%极具挑战性。实际上，马库斯认为最后的20%才是最难的。

马库斯说：「你实际上需要进行一些推理来判断：这件事是否可信？这个来源是否合法？你必须像人类事实核查员那样做一些事情，这实际上可能需要AGI。」

马库斯和Meta的AI首席YannLeCun都认为，谷歌Gemini和OpenAI的GPT-4等大型语言模型将不会创造出AGI。

而谷歌正面临一个棘手的局面。Bing抢在谷歌之前在AI上大做文章，OpenAI据称也在开发自己的搜索引擎，新一代用户正转向TikTok寻求最佳体验。谷歌显然感到了竞争的压力，而这种压力正是导致这次事件的原因。

马库斯指出，在2022年，Meta曾发布了一个名为Galactica的AI系统，但很快就下架，因为它告诉人们吃玻璃。历史总是惊人的相似。

谷歌对AIOverviews寄予厚望——目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理，生成由AI组织的结果页面的能力，以及在GoogleLens中进行视频搜索，这些才是重头戏。但现在，谷歌的声誉取决于能否做好最基本的事情，目前的情况并不乐观。

马库斯说：「（这些模型）天生无法对自己的工作进行理性检查，而这正是这个行业的致命伤。」

为了挖掘和展示人工智能领域具有市场竞争力、技术实力的机构、产品、案例，形成“鸿雁”引领效应，机器之心发起2024“人工智能+”标杆示范征集活动。本次征集将设置《2024“人工智能+”产品标杆》、《2024“人工智能+”创新案例标杆》、《2024人工智能隐形冠军企业标杆》三大维度，面向全球征集“人工智能+”标杆示范。本次征集结果将于7月在2024WAIC“人工智能+”论坛上公布并进行颁奖。本次征集截至2024年6月7日，最终结果将于7月在世界人工智能大会上公布并颁奖。