夜间模式 切换到宽版

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 148|回复: 21

[科技新闻] 重拳整治!剪映、即梦等App被查,严打AI造假乱象

[复制链接]
  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-28 20:25 | 显示全部楼层 |阅读模式

马上注册,查看更多内容,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册

×
4 月 28 日消息,网信部门刚依法查处了剪映 App、猫箱 App 还有即梦 AI 网站,原因是这些平台没落实好 AI 生成合成内容的标识规定,违反了好几部相关法律。
1.webp

图源:公众号

先说说这次被查的几个主角。
剪映作为国民级剪辑工具,几乎每个做短视频的人都用过,没想到这次栽在了 AI 内容标识上。
而即梦 AI 更不用说了,之前就因为那个 Seedance 2.0 视频模型闹过隐私侵权的大风波。雷科技AGI(ID:leikejiagi)记得当时影视飓风的 Tim 做评测,就上传了一张自己的照片,结果 AI 直接生成了带他本人声音的视频,甚至连办公楼的布局都能精准还原,这隐私泄露的程度想想都后怕。
后来即梦紧急暂停了真人素材参考功能,但信任这东西一旦碎了,就很难再拼回去了。
2.webp

图源:微博

有网友指出,其实这次处罚不是孤立事件,正好和网信办正在开展的清朗・整治 AI 技术滥用专项行动相呼应。
这个行动从去年 4 月就启动了,重点就是打击 AI 换脸拟声侵权、虚假信息传播这些乱象。
为啥要这么严?看看最近的案例就知道了。
福建三明那个女司机被保安掌掴的事件,本来就够让人揪心了,结果一群网友用 AI 合成了各种离谱视频。
有握手拥抱和解的,有嬉笑奔跑的,甚至还有低俗的亲密画面,更过分的是发布以及传播的人还故意隐瞒是 AI 合成的,捏造和解声明。
这哪是娱乐,分明是在当事人的伤口上撒盐,还误导了不知道多少网友。
3.webp

网友用AI合成的画面 图源:微博

还有明星形象被滥用的问题,有网友刷到过周星驰代言游戏、王一博推荐理财产品的 AI 视频,做得那叫一个逼真,不仔细看根本分辨不出来是假的。
这些明星的经纪人也早就公开质疑平台监管缺位了,因为这些虚假内容不仅损害了明星的形象和利益,还可能让普通用户上当受骗。
雷科技AGI(ID:leikejiagi)作为一个经常刷短视频的人,我现在都有点怕看到 AI合成的视频。看到一段视频,首先会怀疑是不是 AI 合成的;刷到明星的采访,也会下意识想这声音是不是克隆的。
AI 技术现在真是越来越先进,逼真到让人毛骨悚然的地步,有时候连专业人士都很难分辨真假。
4.webp

图源:微博

有网友说,这是技术创新的必经之路,监管太严会限制发展。
但雷科技AGI(ID:leikejiagi)觉得,技术创新和法律合规从来都不是对立互斥的。这些平台不能只想着怎么让 AI 功能更强大、更吸引人,却忘了自己的社会责任。
我觉得,AI 生成内容的标识就该像香烟盒上的吸烟有害健康一样,必须醒目且必须强制。
平台不仅要在技术上做好标识,更要建立严格的审核机制,一旦发现有人故意隐瞒 AI 生成属性、传播虚假信息,就该严惩不贷,封号、罚款都不能手软。
5.webp

图源:小雷自制

同时,我们作为用户也得提高警惕。看到那些过于离奇、过于完美的视频,多留个心眼,别轻易相信,更别随手转发。
俗话说谣言止于智者,这些虚假信息要是没人传,自然就失去了市场。技术是用来造福人类的,不是用来制造混乱、传播虚假信息的。
雷科技AGI希望这次处罚能给所有平台提高警惕,不管是 AI 平台还是发布内容的媒体平台,都要对这些 AI 视频加强监管,而不是让我们用户每天活在真假难辨的焦虑中。
  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-28 22:10 | 显示全部楼层
无论是不是AI合成,内容审核的关键应该是正向、健康、诚信、积极,纯查AI这种方式就是因噎废食,可以说是一种变向的不作为
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-28 22:50 | 显示全部楼层
图解新闻:一图读懂
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-28 22:58 | 显示全部楼层
现在视频生成类AI几乎都是付费的,如果不能保持与其他收费AI一致的体验。那可以试试其他货币单位收费的AI,用体验最好的那款就行。
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 00:30 | 显示全部楼层
这是个很麻法的问题,法律上估计要做100w字数才能把法规完善。不然Ai科技发展的同时,也带来了很多大麻烦! 如果约束AI的使用权限,AI的技术发展也同时会被束缚!
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 00:55 | 显示全部楼层
既然有法律就必须严格执行!且在萌萌芽状态的时候就必须严格执行!否则后患无穷(如不落实宠物狗出门须牵绳这般!),骗人的ai视频,将对当代人(特别是老人)和后代人造成不必要的困扰,应该坚决执行法律,以正视听,避免被那些AI生成的音视频混淆视听!!!
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 01:25 | 显示全部楼层
人工智能是把双刃剑,所以边界感得时刻不能忘!我们可以享受时代发展带来的便捷但不能忘乎所以,因为会被反噬的。
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 05:38 | 显示全部楼层
我觉得,AI 生成内容的标识就该像香烟盒上的吸烟有害健康一样,必须醒目且必须强制。强烈赞同
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 05:46 | 显示全部楼层
AI的泛滥已经到了忍无可忍的地步了,人人都可以随意生成一张假视频,把这个社会的互信度拉到了最低水平。现在还有人会说“有图有真相”这句话了吗?国家应该出台制订法规,严格限制甚至禁止AI的市场化,就像防假币一样严格,尽管已经晚了,总比不作为好。
回复 支持 反对

使用道具 举报

  • 打卡等级:功行圆满
  • 打卡总天数:793
发表于 2026-4-29 06:29 | 显示全部楼层
确实应该好好管管了,有些AI成年人都辨别不出来,更何况老人孩子,误导了多少人的认知
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

文字版|手机版|小黑屋|RSS|举报不良信息|精睿论坛 ( 鄂ICP备07005250号-1 )|网站地图

GMT+8, 2026-4-30 23:59 , Processed in 0.248063 second(s), 5 queries , Redis On.

Powered by Discuz! X3.5

© 2001-2026 Discuz! Team.

快速回复 返回顶部 返回列表