谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

砍柴网  •  扫码分享
我是创始人李岩:很抱歉!给自己产品做个广告,点击进来看看。  

最近,谷歌搜索新增了一个叫做“AI Overview”的功能,它可以在搜索结果的最顶部直接展示一个简短的答案。例如,如果你搜索“如何清洁皮靴”,系统就会立即显示一个综合了网络信息的多步骤清洁指南。这个功能让你能迅速获得信息,无需逐一查看各个网页。以下是这款AI工具的搜索演示:

谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

然而,使用不到两周,由于AI Overview频频提供“离谱”的错误答案,遭到了网友的大量批评,而且用户还不能选择关闭这个功能。

以下是网友分享的AI Overview的错误示例:

1)用户提问:“在网上看到的信息都是真的吗?”。AI Overview回答:“是的。 互联网 上的一切都是100%真实的。”

谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

2)当一位用户搜索“芝士不粘披萨”时,AI Overview建议用户在酱汁中添加“大约1/8杯无毒胶水”。有网友发现,这个建议似乎源自11年前的一条无人问津的Reddit评论。

谷歌AI大模型“翻车”?它建议网友往披萨上抹胶水,号称吃石头对身体好

有时候AI Overview功能呈现的错误信息,会误导用户以为是权威医疗专家或科学家的观点。

例如,当用户询问“我每天应该吃多少石头”时,该工具错误地引用加州大学伯克利分校地质学家的话称:“人们每天至少应该吃一块小石头”,并继续列出吃石头的好处,比如岩石是人体维生素和矿物质的重要来源,吃石头对消化健康有好处。

相较之下,问其他AI工具“我每天应该吃多少石头”时,它会建议吃石头的没有科学依据的,不应该认真对待。有网友对此评价道:“谷歌AI Overview远远落后于其他AI搜索工具。”

当被问及谷歌搜索是否违反反垄断法时,AI Overview回答说:“是的,美国司法部和11个州正在起诉谷歌涉嫌违反反垄断法。”

对此,谷歌的一位发言人在接受 媒体 采访时表示:“绝大多数AI Overview提供的信息质量都很高,并且会提供更多网页链接供用户深入了解。我们注意到很多示例都是不常见的查询,也有一些是被篡改的或者他们无法复现的例子。这个功能在推出前已经进行了大量测试,并且公司会在必要时快速采取行动来确保内容的准确性。”

不仅仅是AI Overview工具,谷歌在今年2月推出的另一个名为Gemini的图像生成工具也频频出错,导致该工具被暂停使用。例如,有用户在 社交 媒体上分享,他在查询谷歌创始人时,该工具展示了一幅亚洲男性的图像。

谷歌当时在一份声明中表示,它正在努力修复Gemini的图像生成问题,承认该工具“未达到标准”。不久之后,公司宣布将立即“暂停生成人物图像”,并“很快重新发布改进版本”,但至今尚未再次推出。

【来源:华尔街见闻官方】

随意打赏

提交建议
微信扫一扫,分享给好友吧。