谷歌AI搜索遭遇当头一棒:AI Overview结果纰漏百出

极客网·极客观察6月3日 多年来,谷歌搜索基本没有大的变化,但最近却增加了新AI功能。谷歌的目标很明确,它不想错过AI浪潮,想与微软、OpenAI竞争。

遗憾的是,谷歌新推出的AI Overview远远称不上完美,它输出的结果不精准,谎话连篇,甚至能逼疯用户。例如,AI Overview建议用户用胶水作为披萨配料,建议食用石块获得营养。严重的错误已经影响到谷歌声誉。

全球有20亿人依赖谷歌搜索,AI Overview提供的信息不可靠,后果当然恶劣。虽然其它AI聊天机器人也会抽疯,但公众对谷歌的苛刻并非无理取闹,他们希望谷歌搜索更负责一些。

谷歌AI,持续水逆

在过去一段时间,谷歌AI产品多次遭受抨击。例如,2023年2月谷歌推出Bard,与ChatGPT竞争,虽然吹得极厉害,但它提供的信息同样错漏百出。

年初时谷歌推出Gemini,它可以生成图片,也可以变成用语音控制的数字助手。推出没多久便有用户发现,Gemini不愿意生成以白人为主角的图片,它对历史人物的描述也严重不准确。

错误如此之多,如此之连续,绝对不是偶然,要么是AI技术存在缺陷,要么是谷歌技术实力被夸大。金融分析师则认为,投资者向谷歌施加太大压力,逼迫谷歌加快创新速度,结果导致推出的产品不够成熟。

Investing网站分析师Thomas Monteiro称:“现在的谷歌别无选择,企业必须快速前进,即使跳过几个步骤也再所不惜。”

AI搜索,任重道远

谷歌新闻发言人Lara Levin认为,AI Overview提供的大多查询结果是高质量信息,并且还附有链接,用来扩充内容。她还说,报告中提及的问题大多都出自非常规查询,或者是人为操纵的案例,未来谷歌会继续优化系统。

自2022年ChatGPT获得成功之后,谷歌努力将AI融入自家产品矩阵。问题在于,大模型是用海量线上数据训练的,这些数据充斥着虚假错误信息。

虽然面临诸多困难,谷歌仍然一往无前,最新推出的AI Overview是一个里程碑,它整合了Gemini模型,与搜索捆绑在一起。

按照设计,AI Overview可以处理复杂查询,比传统搜索效率更高。虽然谷歌高调宣称将AI Overview与搜索整合好处多多,但现实却离宣传有很长一段距离。

AI Overview建议用户在制作披萨时加入无毒胶水,因为它可以防止奶酪流动。为什么会给出如此荒诞的建议?因为11年前有人在Reddit发帖,以开玩笑的口吻建议这样做,AI完全无法识别它是不是玩笑,居然当真了。

还有,AI Overview建议用户每天要吃一块石头,摄取维生素和矿物质,这一谬论源自一篇讽刺性文章。

谷歌搜索追求的是关联性可信度、实用,AI Overviews不只没有帮上忙,还破坏了搜索。

AI幻觉,难以根除

AI出现错误并不稀奇,这就是所谓的“幻觉”,它将错误、虚拟信息当成正确。出现幻觉是训练数据存在缺陷、算法完美、误解情境造成的。

数字营销公司Chelsea Digital的CEO Mike Grehan认为,从本质上讲,大语言模型就是根据过去看到的东西对未来进行统计预测,所以“废话进去、废话出来”的情况仍然存在。

AI Overviews相当于给传统搜索结果做总结,然后将总结反馈给用户。在输出答案时,它免不了收集一些恶搞信息、玩笑,所以很容易输出一些似是而非的东西。

出版商、网站不喜欢AI Overviews,因为它提供长长的摘要信息,然后将网站链接放在最后,用户极可能没耐心看到最后,点击链接。

有人认为,虽然AI Overviews不完美,会出现错误,但大多时候是正确的,它远比普通人聪明,而且响应速度很快,还有,即使现在不完美,未来也会变得接近完美。

真是这样吗?纽约大学教授Gary Marcus认为,许多AI企业都在兜售“美梦”,说准确率将会从80%提升至100%,但是大家要明白,达到80%的准确率相对容易,向AI喂入更多数据就行,但最后20%却充满挑战,这部分可能也是所有流程中最难的。

Gary Marcus称:“你需要做出一些推理,然后还要做决定:这些信息真的有意义吗?信息来源可靠吗?你必须像人类一样检查信息真假。老实说,只有AGI才能做如此复杂的工作,现在的AI不行。”

与Meta人工智能主管Yann LeCun一样,Gary Marcus也认为依靠现在的大语言模型无法创造出AGI。

如果AI Overviews提供的是错误答案,谷歌应该负责吗?按照美国1996年制定的《通信规范法》,谷歌不属于出版商,不必为第三方内容负责。

制定法律时,美国没有将AI生成的搜索结果信息考虑进去,AI Overview受不受法规约束没有定论,因为很难判断AI Overview内容是不是谷歌创作的。(小刀)

极客网企业会员

免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。

2024-06-03
谷歌AI搜索遭遇当头一棒:AI Overview结果纰漏百出
谷歌新推出的AI Overview远远称不上完美,它输出的结果不精准,谎话连篇,甚至能逼疯用户。

长按扫码 阅读全文