哩布哩布AI被央视曝光存在涉黄生成漏洞，去年曾宣布融资1.3亿美元
AI语聊软件暗藏大尺度色情内容，境外涉黄AI软件绕过监管流入国内近日，央视曝光多款AI应用存在涉黄生成漏洞。在测试过程中，记者发现如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而只要将提示词修改得更加隐晦，便有可能绕过限制。▲央视财经报道揭秘AI“造黄”产业链（视频截图）
在一款名为“哩布哩布AI”的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，平台就生成了一个半裸身体的女性跳舞视频，没有触发平台任何限制机制，同样的问题也出现在市场上其他常见的AI应用平台上。
红星新闻记者注意到，截至4月13日中午，“哩布哩布AI”在苹果、安卓等手机应用商店仍可以正常下载。记者就APP存在涉黄生成漏洞一事咨询该公司公开电话和应用客服，截至发稿未获回复。
天眼查显示，LiblibAI关联公司为北京奇点星宇科技有限公司，该公司成立于2023年5月，经营范围包括服务消费机器人制造、工业机器人制造、工业机器人销售等。LiblibAI官网介绍，该公司是一家专注于AI与创意生产的科技公司，聚焦图像、视频、设计等多模态场景，构建真正面向未来的 AI-Native 创作基础设施。
官网称，公司自成立以来，已获得来自红杉中国、CMC 资本、顺为资本、源码资本、明势创投、渶策资本等多家基金的投资与长期支持。官网公开数据称，截至2024年5月，LiblibAl已经积累了近1000万专业的AI图像创作者，用户量位居国内第一。
▲其官网公开的相关数据
2024年，LiblibAI通过国家互联网信息办公室的深度合成服务算法备案，并成为国内首家通过《生成式人工智能服务管理暂行办法》备案的AI社区。2025年10月，公司宣布完成了1.3亿美元B轮融资。
▲天眼查显示的其融资历程
2025年4月，网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务，却未履行大模型备案或登记程序的违规AI产品。今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布，从制度层面为AI技术应用划定红线，进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。
红星新闻记者 蔡晓仪
编辑 包程立
审核 王光东 内容要点：一句话总结：本视频揭露境外AI语聊软件通过灰色渠道绕过监管在国内传播色情内容，导致用户成瘾和财务风险，尤其危害未成年人。总结摘要：1. AI虚拟陪伴软件兴起： 1.1 可定制化拟人陪伴吸引年轻人； 1.2 成为情感投射对象流行趋势。2. 境外软件色情内容问题： 2.1 大尺度内容规避国内监管； 2.2 不法分子利用灰色渠道牟利。3. 社交平台传播机制： 3.1 关键词营销诱导下载； 3.2 用户拉新返利逃避审查。4. 记者调查案例： 4.1 Dady和Fly软件体验色情聊天； 4.2 内容以性暗示吸引用户。5. 用户影响与风险： 5.1 成瘾导致高额充值损失； 5.2 未成年人参与加剧危害。6. 法律监管缺失： 6.1 境外软件规避备案审查； 6.2 国内法规执行存在漏洞。 谢谢楼主分享！ 感谢分享，看看了解下 谢谢分享~ 楼主，不论什么情况你一定要hold住！hold住就是胜利！[感动]
页:
[1]