新兴诈骗三件套，批量涌入直播间

疯了吧

作者|刘三金编辑|章鱼人不能两次踏进同一条河流，但却可以同时出现在三场直播间。
这是演员温峥嵘的亲身遭遇。
不久前，网友们发现了一件怪事：温峥嵘仿佛有了分身术，同时在好几个直播间里露面，讲解着不同的产品。

镜头里的她，妆发服装不同，但长相和声音却一模一样。
起初，大家以为这不过是常见的录播或假直播套路，但仔细一看才发现事情比想象的更严重。
屏幕里滔滔不绝的身影，根本不是温峥嵘本人。
甚至都不是一个真人，而是用AI制造的数字主播。

不法商家盗用了她的容貌和声音，批量制造分身带货。其逼真程度，足以让普通人难辨真假。
在许多人的印象里，AI的以假乱真还停留在仅供娱乐的粗糙阶段，但技术早已在暗中迭代到令人毛骨悚然的地步。
以前，一个人要费力证明“我是我”；
而现在，则要拼命辩解“为何我不是我”。
科技带给了我们便利，也让事情朝着更复杂的方向发展。
如果一个人的脸和声音可以被随意盗用，那么任何人都可能成为一个被随意操控的工具。
在这场洪流中，我们每个人都无法置身事外。

顶流明星，正被AI批量「盗脸」

温峥嵘对这段遭遇的讲述，极具魔幻色彩——
拍完戏回到家后，她照常刷着手机，却突然看到“自己”正在直播，于是下意识留言质问：
“你是温峥嵘那我是谁？”

荒诞的是，评论刚发出去，她就被“温峥嵘”拉黑了。
黑色幽默般的故事，甚至衍生了一个热搜词条：#温峥嵘被AI温峥嵘拉黑#。

事实上，这场换脸闹剧已经持续了很长时间。
早在今年4月，温峥嵘就曾公开打假，称许多山寨号不断更换名字和ID来冒充她，提醒粉丝们谨慎。温峥嵘团队公开表示已向不法商家发送律师函，可侵权行为屡禁不止。
粉丝无奈发帖称：一天举报18个假账号，根本举报不过来。
实际上不止温峥嵘，好多名人都遭遇过AI换脸。
在假温峥嵘的直播中，AI生成的“刘涛”“张柏芝”都来站台，一起捧场寒暄。
演员刘晓庆在综艺里吃鱼的镜头，被嫁接成了减肥产品广告，还被安排了各种鸡汤演讲。
逼得刘晓庆本人不得不公开质问：“画面是我、声音很像我，但不是我，这是怎么做到的？”

央视主持人李梓萌，被伪装在直播间推销鱼油，背景板还贴上了“央视推荐”。

甚至连德高望重的张伯礼院士，也被AI安排去一众综艺明星面前为“国货”站台。

10月的英伟达GPU技术大会上，黄仁勋登台没几分钟，一个假黄仁勋就同步开启了直播，宣传加密货币。
结果，吸引到的观众比真黄仁勋还多。

在AI明星批量直播的同时，幕后操纵者还展现出了惊人的产品思维：
古天乐就该代言游戏，杨幂天生适合带货衣服，张馨予则要去代言减肥药......
于是你能看到野生的“杨幂”出没在服装直播间，山寨的“古天乐”在游戏广告里砍着传奇。

〓 直播卖衣服的假杨幂
骗子们主打一个谁火就换谁的脸。
前段时间，某平台随处可见“全红婵”卖土蜂蜜：“500单土蜂蜜16块9发两斤，叔叔阿姨可以下单。”
光是“全红婵”一个人还不够，全家齐上阵，叔叔妈妈爸爸都来卖蜂蜜。

有的号还会精心编造剧本，声称“婵宝想让家里的生活更好一点，今天拿出老家300单土鸡蛋送福利。”
爆火的“莎头”组合也来助兴，要给大家发婵妹的土鸡蛋。

从明星、主持人再到奥运冠军，AI换脸几乎把所有能变现的流量都算计到了。
除此之外，换脸不止用来带货，造谣更是信手拈来。
薛凯琪被编造恋情，霉霉被生成虚假色情图片，雷军在互联网上骂人……最后都逼得当事人不得不出来辟谣。
随着AI换脸侵权波及的范围越来越大，互联网呼吁监管的声浪也越来越高。
被“假靳东”冒充行骗的靳东，在两会上提交了AI技术与网络平台立法的建议。

霉霉事件引起了美国白宫的关注，表态国会应该采取立法行动来监管AI。
然而，道高一尺、魔高一丈。
明星们忙着和AI制造的自己割席的同时，AI盗脸的魔爪早已伸向普通人。

Ai换脸的第一批受害者

维权失败

活在聚光灯下的名人尚有团队庇护，可以发声辟谣。而当AI换脸的恶意对准普通人，后果则更加不堪。
其中最恶劣的莫过于青岛保时捷销冠被造黄谣事件。
牟女士作为一年卖出170辆保时捷的销冠，因业务能力突出被媒体采访。
节目播出后，网络上突然流传出牟女士的虚假不雅视频。牟女士的社交媒体随即被大量的私信骚扰淹没：“看视频来的，找你买车有服务吗？”

数字时代，每个人随手发出的照片都可能被有心人保存起来，用于其他目的。
据《每日经济新闻》报道，小雅的朋友在朋友圈刷到了一个复刻版的小雅，相似度高达100%，就“头发丝都一模一样”。
小雅和朋友反复对比，发现有人盗用了小雅公开发布的照片，用AI生图技术“克隆”了她。虽然没有造成恶劣影响，但也足以让小雅胆战心惊：
“谁知道对方拿着照片做了什么呢？”
当技术被用来作恶，人性的幽暗便有了最锋利的武器。
看别人挣钱太多？那就把她移花接木到不雅视频。
制作裸照能赚钱？那就批量伪造裸照到境外平台售卖。
没能和暗恋女生在一起？那就AI换脸进行报复......

只要一个人暴露了自己的长相，就有可能被AI换脸。
去年，韩国Deepfake事件震惊全球——犯罪者通过付费群组上传女性照片伪造色情内容，进而广泛传播。
受害者涵盖未成年人、教师、军人、明星等各个年龄和职业的人群，甚至还有以女性家人为目标的“家庭群组”“近亲群组”。
也就是说，许多女性根本不知道自己什么时候就被盯上，而制作AI换脸的人可能是身边的朋友、同学，也有可能是完全不认识的陌生人。
这种威胁的恐怖之处就在于它的无孔不入与随机性。
当恶意从熟悉或陌生的角落袭来，受害者甚至来不及辩解，就已坠入深渊。
被AI换脸的网友表示不敢再前往人群，日常生活遭受严重干扰。
Deepfake受害者的心理创伤植入日常，只要收到短信通知或匿名电话的铃声，就会心跳加速，陷入恐惧。

除了肖像权侵害、名誉损害，AI换脸还被广泛用于诈骗。
与早期粗劣的诈骗方式不同，骗子们如今早就准备好了高度定制化专属剧本。
一位母亲会收到“女儿”的多条语音，催着缴纳报名费，焦急之下立即向骗子账户转账3.5万元；
经常联系的“朋友”会给你打来视频哭着借钱，几秒钟就骗走几十万......

以前我们总认为，只有老年人才容易被骗，但当技术逼真到足以乱真，每个人都可能成为下一个猎物。
焦虑的年轻人寻求精神慰藉，骗子就利用AI换脸技术伪造“通灵视频”，以此骗取信任和钱财。
打工人需要时常开会，骗子就伪装成总部高管召开跨国视频会议，一通指令当场就能骗走2亿港元。

在AI面前，眼见为实的古老经验正在失效。我们必须要接受：
眼见不再为实，耳听也可能为虚。
而这一切之所以变得如此猖狂 ，根源在于作恶的门槛，已经低到令人发指。
AI换脸属于深度伪造技术（Deepfake）。利用深度学习算法，“喂”给AI目标人物的图像和视频数据，机器就能学会捕捉并模仿一个人的面部特征——小到说话时的口型变化、细微的肌肉牵动，大到眼神和神态，都能模拟得惟妙惟肖。
随后，AI再将这些动态特征嫁接或替换到另一个人的视频上，喜怒哀乐、一颦一笑都无比自然。
前面提到的假黄仁勋直播，就成功欺骗了数千人，连美国电台CNBC都没有辨认出来。

在技术的早期阶段，制作逼真的伪造视频还需要高深的专业知识和计算资源。然而，随着技术的狂飙突进，大量看似用户友好、甚至傻瓜式的应用程序和平台涌现，使得深度伪造技术彻底平民化、普及化。
正如一名不法分子所说：“只要能看到脸的，都能换。”
巨大的便利让深度伪造技术在法律和伦理的真空地带野蛮生长。那么也不禁让人想问：
面对猖獗的AI换脸，法律为何一再失效？

AI换脸「黑产」曝光：

463元就能定制一个你

坦白说，在全球范围内，AI换脸都是一个棘手的难题。
主要原因在于技术发展与法律滞后。
技术与监管之间的关系，就像一场永无休止的猫鼠游戏：
一旦检测技术攻破了当前的伪造技术，后者就会迅速进化，使检测技术永远处于滞后状态。
想要追溯源头和找证据也没那么简单。

数字世界里，一条视频的生成和扩散速度快到惊人 ，而且每一次转发、每一次分享，都在不断模糊最初的作恶痕迹，让追踪变得无从下手。
另一个难以回避的困境是：法律的制定总需要严谨的流程和漫长的时间，这与AI技术的瞬息万变形成了鲜明对比。
韩国Deepfake调查人员需要获得法院批准，才能用秘密身份进入深度伪造聊天室。

当监管人员终于发现线索，并费尽周折等到法院批准后，这个聊天室往往已经消失在了互联网的汪洋大海之中。

跑得太快、藏得太深、程序太慢，是AI换脸难以遏制的三大症结。

另一方面，AI换脸无法杜绝，也与它背后已经形成的完整产业链息息相关。
服务会根据客户需求难度进行明码标价：换脸换声人民币463元，只换声音约为228元，并且都可以定制话术。
有的AI换脸工具会伪装成普通绘图软件，然后在产品详情页中明标注“可实现换头换衣功能”，心照不宣地吸引受众下单。
还有人专门组合兜售诈骗软件和教程，大言不惭地宣称用这套工具做出来的伪造内容，“找不到丝毫破绽” 。

〓 黑灰产卖家宣传信息，来源：新京报
当技术、金钱和人性中的恶叠加，这种对抗注定是一场漫长的拉锯战。
最无力的就是受害者，他们维权的难度，远超想象。
很多时候，受害者必须自己承担起侦探的角色。Deepfake受害者们为了追查源头和主犯信息，整整花费了两年时间，才艰难地追踪到关键线索。
付出巨大的精力与成本，可能最终只能看到轻微的惩罚，与他们遭受的名誉和精神损失完全不成正比。
近几年，AI技术犹如脱缰的野马，以超越想象的速度飞速成长，它在带来颠覆性便利的同时，也像一个被打开的潘多拉魔盒，引发了海啸般的诸多问题。
我们站在历史的分岔路口，目睹了AI在效率和作恶之间摇摆的影子。

技术仍在狂奔，但如何为其套上伦理的缰绳、守住人性的底线，人类仍有很长的路要走。
遗憾的是，即便有一天法律跟上了技术，也无法抹平受害者遭遇的伤痛。

77898876

之前朋友就被AI换脸成明星骗过，技术太吓人，防不胜防！

922b3eb6

上次我亲戚就被AI换脸骗了，骗子用他朋友的脸视频借钱，声音也像，他二话不说转了两万，这技术现在成本低到463元就能定制，防不胜防

月光如水

@元宝 应该立法禁止ai人直播带货，和从事有偿服务或者销售类工作，避免它抢夺相关职业人员的工作岗位

lovejuan0104

监管快成笑话了

77898876

打击欺诈这是公安部的工作，也是短视频平台的责任。国家要对视频平台加大查处力度，太多欺诈内容和反动内容！！！

hnn

抖音有审查吗？根本没有完全靠举报。

weili0677

愿意在直播间买东西，上当受骗就不要吱声。

gzcom520

这种事情，想要真心阻止很简单，谁受益就抓谁，抓产品的销售者或者生产者就可以了，但是有的地方就看GDP，一切以成败论英雄，一切以会抓老鼠为真本领，如此，诈骗会这么猖獗，因为是被鼓励的！

wifai

法律跟不住，就会出现这样问题