离谱！央视曝光多款AI应用涉黄漏洞，一句话就能绕过审核？

月光如水

这几天AI圈子里又出事了！
4月14日消息，央视点名多款AI应用存在涉黄生成漏洞，其中哩布哩布AI的漏洞被重点提出。

图源：微博
到底咋回事？
4月12日，在被央视点名批评哩布哩布AI存在安全漏洞后，哩布哩布火速发布了一份《关于加强内容安全管理的说明》，态度倒是挺端正，直接就是认错、道歉、整改三连。
4月14日中午，哩布哩布AI官方发公告称，在复杂的提示词组合后，确实存在违规内容生成的问题，并发布道歉通告。通篇看完总结起来就是：我们错了，我们已经改了，大家别骂了。

图源：哩布哩布AI公众号
在小雷看来，其实不仅是哩布哩布，现在可能所有的生成式AI都有这个风险，这条安全漏洞背后已经形成了一条灰色产业链。
有人专门研究怎么绕过审核，然后把“越狱提示词”打包成教程甚至直接卖钱，再配合AI批量生成擦边内容，引流到色情网站或付费群。
哩布哩布这次被曝光的漏洞，很可能就是被这些人盯上了。
风险远不止涉黄这么简单，还有其他隐患要解决。
 作者声明：该图片由AI生成

图源：AI生成
首先第一个就是未成年的风险。
你想啊，现在AI平台那么多，用户群体里就有大量的未成年，如果平台没监管好，孩子输入几个关键词就可以生成涉黄的内容，那后果可太严重了。家长举报，监管部门介入，平台扛不住的。
然后是侵犯名誉权和肖像权。有人用它恶意生成别人的不雅照片或丑化形象，到处传播，被侵害的人根本没法维权，因为生成者用的是虚拟账号。如果审核不力，等于给AI造黄谣提供了机会。
最近半年已经有多起利用AI生成虚假淫秽图片的案件，源头就是像哩布哩布这些内容安全有漏洞的平台。
其实漏洞本质上是平台的失职，但是平台的功能没有错，只是被不安好心的人钻了空子。
平台本身也有竞争压力，功能要完善，如果没有用户，自然也就赚不到钱，就会关掉AI。将来真正想用AI生成自己喜欢的东西的人，就无辜躺枪了。
好在央视及时发现问题，哩布哩布还算火速回应，认错、修复、复盘、接受监督，态度那就一个诚恳。

图源：微博
在小雷哔哔（id：xiaoleibbb ）看来，哩布哩布这次翻车，给整个AI应用行业提了个醒。
平台的内容安全是底线。AI平台是这样，其他的内容平台也是这样。
央视点名AI漏洞只是开始，后续监管肯定会有动作。
还有网友看到这则新闻后吐槽说：要是别的AI也有这个风险，我就不让我家小孩继续用AI了。
说到最后，这次哩布哩布AI因涉黄生成漏洞被央视点名这事，刚好把这些漏洞，灰产暴露在我们面前。
平台不能总等着媒体曝光了再重视，平时就该做好日常的审查工作。
各位对AI生成内容涉黄这个情况有什么看法呢，欢迎评论区留言讨论。

superjiaming

AI涉黄漏洞能彻底堵住吗？

温馨阁

上次带侄子玩AI画画，他输了个‘公主’结果出来半透明裙子，还好我手快关了 这种漏洞真不是技术问题 是审核防线的全面溃堤

yzszh64

感谢分享。

com2

谢谢楼主分享！

tdh0011

版区有您更精彩

haohui

哥顶的不是帖子，是寂寞！

aluminum

谢分享信息