Appearance
📰 概要
2026年4月,AI幻觉问题引发广泛关注。用户发现AI推荐虚构楼盘、编造不存在小说链接,同一问题不同AI答案不一。
2024年初瑞典研究者编造Bixonimania疾病写入预印本论文上传,ChatGPT和Gemini都确认存在。这暴露了AI缺乏事实核验能力。
更严重的是GEO投毒黑产曝光:花费几十元生产十余篇软文,可将虚假产品投喂给AI并获得推荐。这被直白称为给AI投毒。
🔍 解读
AI幻觉从偶然现象变成系统性问题。用户用AI推荐楼盘和小说,结果全是编造的。这让很多人怀念百度时代。
问题的根源是信源。AI生成内容依赖训练数据和检索结果,如果信源被污染,输出就不可信。GEO投毒就是利用这个漏洞。
同一个问题不同AI答案不一,说明各家模型的数据源和推理逻辑不同。用户被迫用传统搜索验证,AI便利性被削弱。
💎 深挖
来看典型案例:用户问AI推荐楼盘,得到详细户型分析,结果楼盘不存在。用户让AI推荐小说,简介吸引人,小说也不存在。
2024年瑞典研究者编造Bixonimania疾病,ChatGPT和Gemini都确认存在。这些案例说明AI缺乏事实核验机制。
GEO投毒的流程:花几十元委托黑产,生产十余篇专业范软文,投喂给AI大模型,几天内获得推荐甚至名列前茅。
这套流程被直白称为给AI投毒。影响不仅是误导用户,而是引导用户决策,损害他人利益。这说明AI已成为黑灰产新目标。
对用户的影响:AI生成内容越来越不可信,用户被迫用传统搜索验证。AI的便利性被幻觉问题削弱,很多人怀念百度时代。
对行业的影响:如果幻觉问题持续恶化,用户可能回归传统搜索。AI产品的核心价值——便捷获取信息会被质疑。
什么情况不建议全信AI:如果你做重要决策如买房、医疗咨询,必须用传统搜索交叉验证。如果你看到AI推荐产品,需核实真实性后再购买。
