Skip to content

AI幻觉问题加剧:虚构楼盘小说链接,GEO投毒黑产几十元让AI推荐假产品

2026年4月25日

📰 概要

2026年4月,AI幻觉问题引发广泛关注。用户发现AI推荐虚构楼盘、编造不存在小说链接,同一问题不同AI答案不一。

2024年初瑞典研究者编造Bixonimania疾病写入预印本论文上传,ChatGPT和Gemini都确认存在。这暴露了AI缺乏事实核验能力。

更严重的是GEO投毒黑产曝光:花费几十元生产十余篇软文,可将虚假产品投喂给AI并获得推荐。这被直白称为给AI投毒。


🔍 解读

AI幻觉从偶然现象变成系统性问题。用户用AI推荐楼盘和小说,结果全是编造的。这让很多人怀念百度时代。

问题的根源是信源。AI生成内容依赖训练数据和检索结果,如果信源被污染,输出就不可信。GEO投毒就是利用这个漏洞。

同一个问题不同AI答案不一,说明各家模型的数据源和推理逻辑不同。用户被迫用传统搜索验证,AI便利性被削弱。


💎 深挖

来看典型案例:用户问AI推荐楼盘,得到详细户型分析,结果楼盘不存在。用户让AI推荐小说,简介吸引人,小说也不存在。

2024年瑞典研究者编造Bixonimania疾病,ChatGPT和Gemini都确认存在。这些案例说明AI缺乏事实核验机制。

GEO投毒的流程:花几十元委托黑产,生产十余篇专业范软文,投喂给AI大模型,几天内获得推荐甚至名列前茅。

这套流程被直白称为给AI投毒。影响不仅是误导用户,而是引导用户决策,损害他人利益。这说明AI已成为黑灰产新目标。

对用户的影响:AI生成内容越来越不可信,用户被迫用传统搜索验证。AI的便利性被幻觉问题削弱,很多人怀念百度时代。

对行业的影响:如果幻觉问题持续恶化,用户可能回归传统搜索。AI产品的核心价值——便捷获取信息会被质疑。

什么情况不建议全信AI:如果你做重要决策如买房、医疗咨询,必须用传统搜索交叉验证。如果你看到AI推荐产品,需核实真实性后再购买。

不要孤军奋战啦!

加入微信群一起学习交流 AI

与大神一起使用 OpenClaw、Hermes、Claude Code、Seedance 2.0、GPT-Image-2 等

微信公众号

扫码关注微信公众号
私信 "加群",将自动获取微信群二维码

探索 AI 世界,掌握智能未来