315曝光GEO之后，模型公司对“AI投毒”能否置身事外？

wifai

界面新闻记者 | 程璐
界面新闻编辑 | 文姝琪

3月15日晚上，央视315晚会的曝光，撕开了“AI投毒”这个隐秘产业的口子。记者通过暗访发现，原来用户在AI对话框里敲下一个问题，得到的那个看似公允的答案，可能早就被人在后台精心设计过了。
这场曝光揭开了GEO产业链，界面新闻也曾报道过其背后的乱象与本质。有人专门向AI大模型“投毒”，批量制造虚假的测评、虚构的排行榜，甚至凭空捏造出一款根本不存在的智能手环，然后通过自动化软件把内容铺满互联网的角落。
只需要半天时间，一款虚构的“Apollo-9”的智能手环产品就能出现在主流AI的推荐列表里，带着那些夸张的“量子纠缠传感”功能，一本正经地欺骗消费者。
杭州万悉科技创始人毛慧娜和不少从业者的反应一样，刚刚看到315的曝光新闻时，不是惊讶，而是欣慰。
万悉科技主要服务中国品牌出海，一直专注在GEO领域，三个月前A股还炒起过一轮GEO的概念，当时她就对外表达过担忧，觉得这个赛道有点过火了。今天315批评“AI投毒”，她觉得这是行业发展的必然，终于有人把行业的遮羞布掀开了。
一位AI行业研究机构负责人也表达了类似的观点，他告诉界面新闻，本质上，这是AI行业野蛮生长过程中阶段性问题的集中暴露。由于AI正在成为用户的消费决策入口，因此它天然会成为黑灰产盯上的对象，其他领域也是一样。
多数从业者认为，接下来短期内低质、靠投毒为生的服务公司将会迎来一轮洗牌，相关治理和监管会逐步跟上，行业也会越来越重视真实、可靠、权威的信息源。长期来看这是一件好事。
截至当前，有赞、小裂变、河南恒辉、AB客等多家机构都已经发布声明称不会使用这类投毒行为，但各家的表态都停留在普通承诺的层面，具体在执行操作以及规范的程序还待观望。

央视新闻央视曝光后，界面新闻联系了几家主流大模型公司，但各家均暂无回应。这其实引出了一个更本质的问题。既然投毒污染的是网络环境，那模型公司在其中到底应该扮演什么角色？他们能做什么？又愿意做什么？
从产业环境分工来看，模型公司更多是在提供“大脑”，核心是让模型越来越聪明，而后延伸出应用层，以及中间的工具层等等。
一位技术出身GEO创业者告诉记者，技术的污名化从来不是技术本身的错，更多服务商污染的只是整个网络信息环境，和模型公司关系不大。
但上述AI行业研究机构负责人不完全同意这样的观点，他补充道，大模型并不是在真空中工作的，无论是训练、检索还是应用调用，最终都要依赖外部数据、知识和信息供给。一旦网络环境中的信息被操纵、灌水或者伪造，这种影响最终还是会传导到AI产品上，影响用户体验和用户信任。
GEO服务商索引未来的市场负责人任玉坤同时提到，接下来平台可能需要对内容质量或索引方法进行调整，尽量避免引用低质量文章。
因此，可能会受到信息污染的模型公司不应完全置身事外，而是参与治理。比如在数据筛选、结果校验、来源标注、多源验证、异常识别等方面，模型公司都可以持续投入，提升AI系统对低质量信息和被操纵信息的识别能力。
眼下，GEO这个生态还处在野蛮生长的阶段。在帮助品牌出海的过程中，毛慧娜接触的大模型很多，从ChatGPT到Gemini到Claude，还有国内的豆包、千问和DeepSeek。但她发现，不同模型之间的差异巨大。
比如，某客户曾经询问过AI一项关于品牌未公开数据的问题，结果某些模型就会回答称没有公开信息，但某些大模型就会给出一个具体的答案。最终经过仔细排查发现，该模型在搜索全网后用相似的品牌信息做了“顶替”。
AI问答引擎背后主要有两部分技术。一块是大语言模型本身的参数记忆，模型每隔一段时间预训练一次，把知识存在参数里，不用联网也能回答。另一块是RAG即联网搜索，模型会实时去看外部的信息。
在毛慧娜看来，国内“AI投毒”的突出问题主要出在联网搜索这个环节，相关平台对信息源的筛选能力急需提高，模型对语义理解的严谨度也远远不够。
“模型层不够智能，语义理解不到位，对信息源的筛选也不够中立，甚至会出现偏向自己生态内容的情况，这本身就不够公允，也都是未来模型公司要解决的问题。”毛慧娜表示。
要解决投毒问题，光盯着服务商和模型公司也是不够的，还需要上下游共同解决。
商家需要摆正位置。那些投毒的服务商能活下来，本质上是商家太急于求成。毛慧娜说，她很少接那种承诺几天甚至几个小时就要见效的客户，她也没想到有服务商敢这么承诺，直到看了315报道才知道原来市场上是这么沟通的。
另外，用户层也要学会辨别，不要盲信AI的推荐，要去看AI引用的信息源是什么，是否靠谱。

界面图库一位从业者向界面新闻分享了当前业内正在探索的治理思路。
第一种是当品牌说真话，比如宣称产品通过了某质量认证，而权威数据库里确实能查到这条记录。这时候AI会采信这个信息，给它正常的权重。
第二种是当品牌说假话，明明没有通过认证却说有。AI在查询数据库后发现信息对不上，就会把这条内容标记为幻觉或虚假信息，权重直接降到接近于零。甚至让整个品牌的信任评分都会下降，竞品的相对位置反而上升。
这种标记行为听起来相对理想，但上述从业者也承认，最终还是要靠平台来落地，是一个长期的构想方向。
上述AI行业研究机构负责人预测，未来AI生态里，工具技能和信息数据会是两个非常典型的方向。这两类能力都有一个共同特点，就是前期投入很大，但一旦形成能力，边际成本会越来越低，规模化价值会越来越明显，服务商和大模型公司不是割裂的，而是共生的，都是生态的一部分。
接下来，品牌怎么做，平台怎么治理，监管怎么管，生态如何演进，才是真正考验的开始。

华语天空

我投诉苏州工业园区的企业：同程网络科技股份有限公司，利用App算法欺诈……进行机票预订的价格虚高欺诈然后再收取高额退票费……！和缅北电诈毫无区别、本质相同！315必须曝光！严查、惩处、法办！！！！！！！提醒大家注意防范不要上当受骗！！！！