重拳整治！剪映、即梦等App被查，严打AI造假乱象

oppledr

4 月 28 日消息，网信部门刚依法查处了剪映 App、猫箱 App 还有即梦 AI 网站，原因是这些平台没落实好 AI 生成合成内容的标识规定，违反了好几部相关法律。

图源：公众号

先说说这次被查的几个主角。
剪映作为国民级剪辑工具，几乎每个做短视频的人都用过，没想到这次栽在了 AI 内容标识上。
而即梦 AI 更不用说了，之前就因为那个 Seedance 2.0 视频模型闹过隐私侵权的大风波。雷科技AGI（ID：leikejiagi）记得当时影视飓风的 Tim 做评测，就上传了一张自己的照片，结果 AI 直接生成了带他本人声音的视频，甚至连办公楼的布局都能精准还原，这隐私泄露的程度想想都后怕。
后来即梦紧急暂停了真人素材参考功能，但信任这东西一旦碎了，就很难再拼回去了。

图源：微博

有网友指出，其实这次处罚不是孤立事件，正好和网信办正在开展的清朗・整治 AI 技术滥用专项行动相呼应。
这个行动从去年 4 月就启动了，重点就是打击 AI 换脸拟声侵权、虚假信息传播这些乱象。
为啥要这么严？看看最近的案例就知道了。
福建三明那个女司机被保安掌掴的事件，本来就够让人揪心了，结果一群网友用 AI 合成了各种离谱视频。
有握手拥抱和解的，有嬉笑奔跑的，甚至还有低俗的亲密画面，更过分的是发布以及传播的人还故意隐瞒是 AI 合成的，捏造和解声明。
这哪是娱乐，分明是在当事人的伤口上撒盐，还误导了不知道多少网友。

网友用AI合成的画面 图源：微博

还有明星形象被滥用的问题，有网友刷到过周星驰代言游戏、王一博推荐理财产品的 AI 视频，做得那叫一个逼真，不仔细看根本分辨不出来是假的。
这些明星的经纪人也早就公开质疑平台监管缺位了，因为这些虚假内容不仅损害了明星的形象和利益，还可能让普通用户上当受骗。
雷科技AGI（ID：leikejiagi）作为一个经常刷短视频的人，我现在都有点怕看到 AI合成的视频。看到一段视频，首先会怀疑是不是 AI 合成的；刷到明星的采访，也会下意识想这声音是不是克隆的。
AI 技术现在真是越来越先进，逼真到让人毛骨悚然的地步，有时候连专业人士都很难分辨真假。

图源：微博

有网友说，这是技术创新的必经之路，监管太严会限制发展。
但雷科技AGI（ID：leikejiagi）觉得，技术创新和法律合规从来都不是对立互斥的。这些平台不能只想着怎么让 AI 功能更强大、更吸引人，却忘了自己的社会责任。
我觉得，AI 生成内容的标识就该像香烟盒上的吸烟有害健康一样，必须醒目且必须强制。
平台不仅要在技术上做好标识，更要建立严格的审核机制，一旦发现有人故意隐瞒 AI 生成属性、传播虚假信息，就该严惩不贷，封号、罚款都不能手软。

图源：小雷自制

同时，我们作为用户也得提高警惕。看到那些过于离奇、过于完美的视频，多留个心眼，别轻易相信，更别随手转发。
俗话说谣言止于智者，这些虚假信息要是没人传，自然就失去了市场。技术是用来造福人类的，不是用来制造混乱、传播虚假信息的。
雷科技AGI希望这次处罚能给所有平台提高警惕，不管是 AI 平台还是发布内容的媒体平台，都要对这些 AI 视频加强监管，而不是让我们用户每天活在真假难辨的焦虑中。

922b3eb6

无论是不是AI合成，内容审核的关键应该是正向、健康、诚信、积极，纯查AI这种方式就是因噎废食，可以说是一种变向的不作为

华语天空

图解新闻：一图读懂

superzhzh

现在视频生成类AI几乎都是付费的，如果不能保持与其他收费AI一致的体验。那可以试试其他货币单位收费的AI，用体验最好的那款就行。

咖啡豆

这是个很麻法的问题，法律上估计要做100w字数才能把法规完善。不然Ai科技发展的同时，也带来了很多大麻烦！ 如果约束AI的使用权限，AI的技术发展也同时会被束缚！

cjlcjl

既然有法律就必须严格执行！且在萌萌芽状态的时候就必须严格执行！否则后患无穷（如不落实宠物狗出门须牵绳这般！），骗人的ai视频，将对当代人（特别是老人）和后代人造成不必要的困扰，应该坚决执行法律，以正视听，避免被那些AI生成的音视频混淆视听！！！

weili0677

人工智能是把双刃剑，所以边界感得时刻不能忘！我们可以享受时代发展带来的便捷但不能忘乎所以，因为会被反噬的。

walysj

我觉得，AI 生成内容的标识就该像香烟盒上的吸烟有害健康一样，必须醒目且必须强制。强烈赞同

922b3eb6

AI的泛滥已经到了忍无可忍的地步了，人人都可以随意生成一张假视频，把这个社会的互信度拉到了最低水平。现在还有人会说“有图有真相”这句话了吗？国家应该出台制订法规，严格限制甚至禁止AI的市场化，就像防假币一样严格，尽管已经晚了，总比不作为好。

kingfirefly

确实应该好好管管了，有些AI成年人都辨别不出来，更何况老人孩子，误导了多少人的认知