谷歌CEO承认「AI搜索摘要」服务存在“AI幻觉”问题:如果用户刻意引导AI错误回复,目前尚无如何解决方案

互联网5月27日报道丨在近日,谷歌为旗下搜索业务新推出的“AI摘要”(AI Overviews)功能可谓备受诟病,原因是该功能经常提供严

互联网5月27日报道丨在近日,谷歌为旗下搜索业务新推出的“AI摘要”(AI Overviews)功能可谓备受诟病,原因是该功能经常提供严重错误的搜索结果信息。

比如,当输入「奶酪不粘在披萨上」时,AI 搜索概述功能给出的答案是「酱汁中加入大约 1/8 杯无毒胶水」;而当用户提问「我每天应该吃多少块石头」时,该工具的回答为「根据加州大学伯克利分校地质学家的说法,人们每天应该至少吃一块小石头」,同时列出了其维生素和消化益处。

谷歌通过媒体端回应称,针对近期出现的“AI摘要”(AI Overviews)给出的重大事实错误内容,将会继续改进相关算法进行修正。

在上周四,据 The Verge 报道,谷歌 CEO 桑达尔・皮查伊在接受采访时承认,这些“AI摘要”功能产生的“AI幻觉”现象,是目前所有大型语言模型(LLM)的固有缺陷,这是 Transformer 架构的大模型目前面临的共同弊端。而大型语言模型正是谷歌此次推出的“AI摘要”功能的核心技术。

皮查伊坦率地表示,这个问题目前“尚无解决方案”(is still an unsolved problem)。

这意味着尽管谷歌工程师一直在努力修复“AI 摘要”功能出现的各种奇怪且严重错误的答案,但此类问题仍会持续出现。

然而,皮查伊似乎有意在淡化了这些错误的严重性。

他表示:“AI摘要功能有时会出错,但这并不意味着它没有用处。我认为这并不是看待该功能的正确方式。我们取得了进展吗?是的,肯定有。与去年相比,我们在AI生成文本的事实准确性方面取得了很大的进步。整个行业都在改进幻觉问题,但问题从本质上还没有完全解决。”

尽管“劈柴哥”对此负面表现轻松,但是外界对于这家科技巨头无法给出错误的解决方案,引起了轩然大波,许多用户纷纷展示了该功能生成各种错误信息的例子。这进一步损害了谷歌搜索引擎的信誉,谷歌搜索此前就因向用户提供垃圾结果而备受诟病。

您可能有感兴趣的文章
Chat-With-MLX:一个在Mac上集成各种开源模型的聊天界面

Image to Music官网入口 AI图像转音乐生成器在线如何使用地址

字节万卡集群技术细节公开:2天搞定GPT-3训练,算力如何利用率超英伟达Megatron-LM

东方甄选入驻拼多多:农产品销售平台拓展新渠道

Copilot for Finance官网体验入口 AI助手财务自动化软件工具在线如何使用地址