“你是听不懂人话吗？”人工智能客服逼疯消费者，打工人“背锅”

华语天空

腾讯科技特约作者｜李奕萱
编辑｜萌萌
当ChatGPT等大模型技术横空出世时，客服行业曾被预言将迎来革命性变革。然而一年多时间过去，这场变革的进展却与人们的期待大相径庭。
AI客服在实际应用中暴露出诸多问题：转人工客服困难、回复“驴唇不对马嘴”、绕圈回避问题.....AI客服激怒消费者的情况屡见不鲜。与此同时，人工客服成为AI客服的“背锅侠”，一边委屈一边四处给AI“擦屁股”。
这场被寄予厚望的“智能革命”，并未带来预期中的降本增效，反而让整个行业陷入新的困境。
用户更加愤怒，商家成本不降反增，人工客服的工作量不减反增。
然而，AI正在吞噬着人工客服补漏时产生的数据，飞速进化。这场“AI大规模取代人工客服”的变革并非遥不可及的幻想，而是随时可能降临的现实。
而当AI真正成熟的那一天到来时，今天的这些“清洁工”们将发现，他们投喂的每一份经验，都成了吞噬自己的养分；他们修补的每一个缺陷，都成了自己职业城墙的缺口。  
替AI背锅的人工客服

用户：啊？这么贵啊？那祝你们生意兴隆吧！
AI客服：感谢您对我们品牌的支持，请您尽快下单~
用户：你是听不懂人话吗？
在与电商平台客服的聊天对话框中，用户丢下差评后匆匆下线，留下客服实习生白晓慌忙撤回了这条不合时宜的感谢语。用户的那句“祝生意兴隆”明显带着讽刺意味，他是对安装费较高表达不满。
然而AI客服的情绪识别能力有限，无法分辨反讽与真心赞美，只是机械地根据“祝福语”关键词匹配出感恩话术。这不仅没有缓解矛盾，反而火上浇油。
2025年5月9日，白晓入职了一家为平台自营网店提供服务的第三方客服外包公司。尽管平台的AI客服号称集成了智能体和大语言模型，但在实际应用中仍频繁出现低级错误。
当AI客服激怒用户后，接盘的人工客服往往成为无辜的出气筒。
按照设计流程，用户进入客服页面后首先由AI接待，遇到超出知识库范围的问题或检测到情绪化语言时，AI会主动提供转人工服务。但转接后，AI依然不会完全退场，而是在人工客服忙碌的间隙继续插入“感谢”或“抱歉”等自动回复。
前面这起闹剧正是源于AI客服“见缝插针”的回复。

人工客服吐槽AI

幸运的是，这些差评后来被小组长认定为“非客服责任”，没有影响她的绩效。第三方外包公司规模较小，组长和项目经理会审核差评的责任归属。而在某在线旅游大厂国际业务部门担任英语客服的田玥，就没这么幸运了。
田玥公司的AI客服系统声称接入了DeepSeek这样的大模型，但依然麻烦百出。
有一次，伦敦希斯罗机场起火，用户想要改签，但是AI客服一直在答非所问，没有及时提供改签的按钮入口，用户的心情自然与机场一般火势熊熊。
此时，系统监测到用户情绪不佳自动转人工，而对话界面左下角的评价按钮也随之从“给AI评价”变成“给客服评价”。最后评价变成了对田玥不满意，但用户很难注意到这个细微变化。
针对AI的差评往往落到人工客服头上，直接影响绩效评分和工资收入。田玥感到这实在荒谬。
田玥曾听说公司的AI客服团队会根据差评案例优化模型，于是通过反馈渠道投诉客服评价界面不清晰的问题，但问题至今没有得到解决。虽然有些团队会剔除这类差评，但田玥所在的团队并不会做排除，她推测可能是因为业务量太大，团队无暇分析差评的责任归属。
成都某智能体AI客服创业公司CEO徐客有电商背景，对当前客服机器人的局限性有深刻的感知。据他介绍，市面上许多平台虽然声称接入了先进大模型，但实际调用频率很低。
当用户提问时，系统优先调用传统的意图识别或关键词匹配，在知识库中寻找预设的低成本固定答案。
只有在“问答对”知识库中检索不到答案时，才会调用大模型对“未知问题”进行补充回答。意图识别的计算成本极低，而每句都调用大模型会产生巨大算力消耗，平台这样做是出于降本增效的考虑。 
此外，平台首要保证的是系统的稳定性，哪怕传统AI回复是错的、机械的，也比不可预测的、可能“失控”的大模型回复要稳妥。这样的客服机器人缺乏真正理解对话上下文的能力，倾向于基于用户的上一句话去进行简单的问答匹配，这就会让AI客服陷入“关键词陷阱”和情绪误判。
尽管AI客服漏洞百出，白晓所在的公司仍要求人工客服接线时必须开启AI。为差评背锅的委屈还能被看见，但白晓接待每位用户时都需要对AI的自动回复进行撤回和道歉，这让她平白增加了大量隐形的额外工作。 
AI客服通过识别关键词来判断用户需求，常常出现失误。比如用户询问“安装师傅的联系方式”，AI只识别到了“安装”，输出安装指南 ，却没有正面解决用户的问题，这时候只能一条条撤回，解释道歉，再做出新的回复。
另外，AI自动回复总是使用特定话术，但平台质检要求同类话术不得使用两次以上。这时白晓也要撤回AI的自动回复。AI发送速度很快，有时白晓超过2分钟无法撤回，只能向用户道歉。更荒谬的是，一般情况下撤回后的道歉有两套统一话术，但一串对话中AI客服惹的麻烦往往超过两次，统一道歉话术很快用完，白晓只能重新组织语言道歉。
被激活的AI客服如同一架盘旋在白晓头顶嗡鸣的直升机，无孔不入地干扰着她的工作。
还没出现的赢家

急于上线的AI客服错漏百出，不仅没能减轻人工客服的工作负担，反而加重了情绪劳动。而那些期待通过AI客服来实现降本增效的商家，同样大失所望。
90后的潘艾在一家做鞋类的中小品牌的客服部担任管理层，她负责的店铺在国内电商主流的平台都已入驻，包括天猫、京东、得物、唯品会，还有抖音、快手、小红书等新媒体平台。
2024年年底，潘艾团队在平台AI客服之外尝试自己接入第三方智能体AI客服，试用期间，产品效果并没有达到潘艾的预期。因为AI客服不光没能节省人力成本，反而降低了产品转化率。
目前，AI客服存在两种主流的收费模式，传统的SaaS月费/年费制度，以及新兴的算力调用计费模式。前者通过开店数量、跨平台数量、客服席位的复合计费公式，使得很多小店的年客服运营成本超过十万元。对于潘艾来说，这相当于雇佣2位月薪5000元的人工客服的全年支出。
凭空多出两个人力成本，但效果却如前文所述的尴尬。
那什么样的AI客服才算物有所值呢？潘艾总结出了三个核心评估指标：满意度（AI需达到人工70%基准线）、转人工率（需压制在30%以下）、转化率（30%-40%的行业平均水平）。这些数字折射出了管理者对AI客服的理想定位——不拉低营收的情况下，能尽量能低成本完成人工客服的工作。
第二个问题是，AI客服并非是一个“买来即用”的系统，其后续伴随着高昂的维护成本。商品信息、店铺信息、优惠活动、问答话术、什么情况会转人工……让AI客服运转起来的一切信息都需要人工部署。

某电商平台AI客服设置后台

AI客服产品在使用前期缺乏训练数据，为求稳妥，潘艾自行设置的初始数据都更加偏向于官方回复，“亲，您好”、“在的”，而AI也只会照搬。这样的回复过于的机械化，没有办法像人工客服那样根据具体的场景给出恰如其分的回复，为客户提供品牌的情绪价值。
虽然商家在推销产品时强调AI客服会越用越好，但这个过程需要人工大量投喂数据。使用AI客服后，潘艾每天需要额外花费半小时，将前一天的差评或转人工较多的对话场景数据重新优化后输入系统。
关键是，这种模式对商家店铺规模有一定要求，规模较小的商家甚至个体户无法为AI提供充足的训练数据。 
系统无法从日常人工客服与用户的对话中自主学习，人工客服处理过的问题，下次遇到时机器人依然不会解答，除非有人手动将信息加入知识库。许多平台甚至出现了“AI客服训练师”岗位，但这笔额外的人力预算对中小商家来说难以承受。 
第三个大问题，是AI无法在解决用户问题的同时有效控制损失。
付林是一家做虚拟产品电商的客服。2025年5月下旬，在售前咨询中，付林明确向用户表达“下单成功后不支持全额退款”；而在售后咨询中，平台AI客服却向用户回复“可以退款”。随后，用户拿AI的回复作为证明向平台申诉全额退款。
据徐客解释，之所以AI会如此反馈，是因为大模型天生具有“迎合”人类的倾向，容易滑向危险的“好好先生”模式。
如果用户使用技巧引导，一个没有经过严格控制的AI客服很容易做出超出权限的承诺，比如随意降价、同意不合理的退款请求，给商家带来巨大损失。
事发之后，付林第一时间报告了店铺老板，并关闭了AI辅助。此后，应老板要求，客服每次上线，都需要检查平台AI辅助是否处于关闭状态——但有时候，它还会自动打开。
这三大问题，使得目前市面上绝大部分AI客服陷入尴尬处境——在90%的时间里，它表现得像个机械的“复读机”；在剩下10%的时间里，又可能变成一个不可控的“危险品”。
潘艾判断AI客服技术仍不成熟，停掉了试用。但为了满足平台考核，她日常还是会启用平台配置的AI客服。但考虑到效果问题，她更希望能只在客服流量高峰期开启AI，“它可以在首问帮我们过滤掉大部分重复问题。”
网络另一端，用户却常常对这一场场喧嚣一无所知。用户的界面并没有用于区分人机的头像或名称显示，所能看到的只有一个对话气泡框，无法识别对方是人工还是AI。
肖英在一家主营中老年产品的网店做客服，某天深夜将系统交给AI客服托管。第二天早上查看聊天记录时，发现一位五十多岁的用户与AI争吵了一整夜。“用户似乎没有看出自己在跟机器人说话。”虽然处理工作的不是自己，但肖英看到本应该属于自己接待的用户被AI耍得团团转，心中莫名生出了愧疚感。
而对于更大体量的消费者而言，上线就疯狂输出“转人工”已经成为心照不宣的默契。面对无法有效沟通的客服机器，消费者常常陷入“花费大量精力与AI客服拉锯，却依然没有解决问题”的局面。
很多人甚至开始怀念起和人工客服斗智斗勇的时代了。至少，对面是个真的听得懂你在说什么的人。

用户吐槽AI客服

上面的一系列故事，都在证明：2024年这个智能体AI客服元年，是网店/平台、消费者和客服三方皆输的一年。
但故事并没结束，商家在这一年中摸索出了自己对客服AI的需求和期待，开发者也积累了不少经验。AI的车轮也还在向前滚动着。
AI会真正取代人工客服吗？

今年年初，公司上线接入Deepseek的AI客服后，田玥曾经听到过人工客服要裁员的风声。因为担心裁员风险，田玥和同事还经常跑去查看用户和AI的聊天记录，借此判断当下AI客服的专业能力。
但半年过去，田玥所在的部门还没有人因为AI的加入而离开。不过田玥并没有盲目乐观，她判断，上半年部门的业务量增长，客服人力不足，所以还没有人因为AI被裁。
后续事态如何，她自己心里也没谱。
到目前为止，潘艾也并没有因为AI客服的出现而裁员人工客服，AI更多作为工具辅助人工。她期待AI帮人工客服完成了一些比较低级的内容，那这样人工客服会有更多的精力和时间去完成一些更高级的任务，比如说更多思考用户到底需要什么，如何回答才能让用户转化率更高。
“我们的客服一天的接待量大概600左右，其实是没有空间进行思考如何提升自己的。如果AI帮助接待200个，省出来的时间就可以被人工用来更好地服务这些 AI 解决不了的400个用户了。”
“当然我们也不排除，随着AI客服技术的成熟，在今年9月份之后，我们可能会因为采购AI客服而优化掉一部分人工客服。”但同时，潘艾表示，作为管理者，她希望那部分可能被优化掉的接待客服转向后台、申诉，甚至稍高阶的自检和培训师方向。“这些工种反而没有一线接待客服那样劳累，并且不太需要面对巨大的负面情绪。”

图源视觉中国

但让“解放人工客服的低级劳动”，让客服做更高级的工作的想法，暂时还是只能停留在希望层面上。因为社会这头巨兽的转型比技术更迟缓。
平台本身没有变化，依然通过校企合作等方式“灵活用工”，享用着廉价劳动力。今年5月，大二的白晓和同专业学生一起，被学校统一安排到某头部电商平台做校企合作项目的实习，实习期持续3-5个月不等。
面对AI技术发展对客服行业产生的震动，学校并没有及时向白晓和同学们提供与时俱进的培训。来到实习岗位上，白晓所负责的工作只是为用户答疑解惑和提供售后方案，但作为初级客服员，她的自主权限极低。“如果用户对于售后方案不认可，或者我们满足不了他的要求的话，案件就会升级，由二线客服接待。”这和她最初对于工作的想象并不一样。
而他们的人力成本，更是远低于AI。学校原本允诺参与实习项目的同学可以拿到将近两千元每月的实习工资，实际上，实习工资发到白晓手里时只剩下600元。
每次上班，白晓将手机上交后走进一个大开间房，房间里一排排桌子整齐划一，桌子上摆满了电脑，而每一台电脑前面，坐着的都是自己同专业的同学。身处其中，白晓有时候会幻想自己是坐在小学的微机教室里上和同学们一起上信息课，但“因为AI客服犯蠢而背锅被客户骂”之类的事情会瞬间将她拉回现实。
空间中常有此起彼伏的交流声，这些十八九岁的青年，在遇到难以应对的局面时会交头接耳，互相询问怎么办，或是通过向彼此吐槽来平复情绪。
在忙碌的寥寥间隙，白晓会恍然以为自己在做一场巨大的cosplay，工作内容糟糕、薪资待遇不公正什么的不重要了，再坚持几个月，自己就可以退出这场闹剧，回到校园重新当个学生。关于未来，白晓不敢细想。自己会被AI取代吗？还是继续和AI一起混乱地工作下去？
徐客的智能体AI客服产品，根据用户反馈，经过几十次迭代后，已经在业内相对成熟。他表示，自己的产品自2025年开始在市场推广以来，已经收获了3000余位客户，而在这些使用该产品的公司中，人工客服的裁员比例达到了40%-50%。“目前还有很多商家在前段时间已经与别的第三方AI客服公司签署了动辄1-2年的购买协议，如果有更多商家甚至平台开始采用更加成熟的AI客服产品，人工客服的裁员率甚至可能在未来1-2年上升至80%以上。”
当下，大语言模型的AI客服迎来了进入市场的第一个年头，好像没有太多人工客服因此被裁。但第二年情况会怎样，没有人说的清楚。
*应受邀对象要求，文中人物均为化名

77898876

dsfgdsg

果然很印度！哈哈哈，恒河水喝多了

wifai

为啥我的就不行呢

dsfgdsg

这个世界，几年后经济进入大萧条，重要原因之一就是众多资本蜂拥计入AI赛道，然而AI的成果复盖不了这个巨大的投入，众多资本血本无归，整个社会流动性吃紧，资产价格大跳水。资本市场剧烈波动，影响实体经济出现通缩而进入萧条。

酷狗e族

都AI没有创作，不知道社会还有创新吗。

—じ☆ve人生—

人工智能最怕敌方黑客才是真的！

cjlcjl

那是因为你还不是大神

ycp123

资本如果会考虑人伦道德和人类社会的未来那它就不是资本了！

oppledr

呵呵，自作孽不可活