Google AI搜索闯祸︱建议网友吃石头、毒蘑菇 Pizza加「胶水酱料」

2024-05-25 16:22

「芝士和披萨粘不到一块」,GOOGLE建议用「无毒胶水」。
「芝士和披萨粘不到一块」,GOOGLE建议用「无毒胶水」。

GOOGLE(谷歌)不久前发布人工智能(AI)搜寻,但推出不到半个月,「闯祸」不断!

有网友在谷歌搜索寻找「芝士和披萨粘不到一块」的解决办法。AI直接在顶部给出总结指导,看似有模有样:「你还可以把1/8杯的无毒胶水加到酱料里,使其更黏。」

这个回答的确很「AI」,加胶水了确实黏啊,逻辑没毛病。而且是「无毒」胶水,肯定能吃。

相关新闻:
Google推AI搜寻 可加快资讯查询
美国防部推技术防AI杀手机器因「视觉噪音」而失控

谷歌AI建议披萨加胶水增加黏性。
谷歌AI建议披萨加胶水增加黏性。
「披萨加胶水」其实是11年前网友的恶搞。
「披萨加胶水」其实是11年前网友的恶搞。

而真正引爆网友关注的是,原来这个「解放方案」不是GOOGLE的AI自己「创作」,而是来自11年前一名网友在「美国贴吧」Reddit论坛披萨板块的恶搞留言。对比原文,可以看出谷歌Gemini大模型确实出色地总结精简了网友发言,去掉不必要的细节融合进回答中。但关键在于缺乏常识,没有识别出网友恶搞的意图,当真了。

大家批评的另一个点在于,问题出现在GOOGLE最核心、使用量最大的搜索产品上,而不是AI对话。如果是一个不熟悉AI技术,不了解AI会出现「幻觉」的普通搜索用户遇到这事,是否就可能被AI骗到?

谷歌AI建议每日「吃一小吃头」。
谷歌AI建议每日「吃一小吃头」。
谷歌这样回答太空人每天在做什么。
谷歌这样回答太空人每天在做什么。

披萨加胶水,绝大多数人类不会当真,但人们很快发现GOOGLE的AI更多、更危险的失误:如建议用户每天至少吃一块小石头、在儿童感兴趣的「太空人平常都做什么」问题上,把恶搞言论也总结进来。还把剧毒的毁灭天使菌(Destroying Angel)判断成可食用口蘑(White Button Mushroom),顺著用户开玩笑的话,称用户判断的对,没有关于蘑菇可能有毒的提示。

这是夺命毒磨菇,GOOGLE的AI当成能吃的口磨。
这是夺命毒磨菇,GOOGLE的AI当成能吃的口磨。

有网友表示,不完善的AI功能,可能正在毁掉GOOGLE搜索引擎。毁掉人们几十年来对这个产品的信赖。


紧贴最新最快新闻资讯,请立即下载星岛头条App: https://bit.ly/3Q29Vow

關鍵字

最新回应

You are currently at: std.stheadline.com
Skip This Ads
close ad
close ad