谷歌AI搜索闯大祸！建议网友吃石头、毒蘑菇：评论区炸了k1体育十年品牌

　　k1体育有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI直接在顶部给出总结指导，看似有模有样，却暗藏陷阱。

　　本来大家还只当是寻常的“AI幻觉”问题，毕竟都加胶水了确实黏啊，逻辑没毛病。

　　对比原文，可以看出谷歌Gemini大模型确实出色地总结精简了网友发言，去掉不必要的细节融合进回答中。

　　大家批评的另一个点在于，问题出现在谷歌最核心、使用量最大的搜索产品上，而不是专门的AI对话。

　　如果是一个不熟悉AI技术，不了解AI会出现“幻觉”的普通搜索用户遇到这事，就更容易被AI骗到。

　　用户发送图片+“口蘑！好吃！”文字，Gemini顺着就说用户判断的对，没有任何关于蘑菇可能有毒的提示。

　　有人认为加不完善的AI功能，反而是正在毁掉搜索引擎。毁掉人们几十年来对这个产品的信赖。

　　来源同样是那位昵称“f*ucsmith”的Reddit网友11年前的那条恶搞留言。

　　结果谷歌AI也当真了，相当坚定地告诉用户“确实出现过狗生出奶牛的情况”

　　像Reddit这样的论坛，固然数据丰富，但其中质量参差不齐，积累了几十年间网友或善意或恶意的误导、玩笑。

　　有网友声称：无论谁家大模型用Reddit数据训练，出的AI产品都得掂量掂量再用了。

　　然鹅现实确是，OpenAI刚刚牵手Reddit，宣布双方合作，把论坛内容引入ChatGPT等产品中。

　　Reddit包含了真实、最新的人类对话，引入ChatGPT可以帮助人们找到更多他们想要的信息，并帮助新用户在Reddit上找到社区。

　　除了AI无意间从低质量数据中获得错误知识的情况，也有人发现了故意给AI留言错误信息的攻击方法。

　　代表人物有佐治亚理工助理教授Mark Riedl，他在自己的个人主页上用与背景一样的字体给AI留言，编造他没获过的奖项。

　　他也做了一系列测试，发现最知名的AI搜索Perplexity也会上当，直接照搬他主页上的胡言乱语。