图源：央视财经
近日，央视曝光在一款名为“哩布哩布AI”的AI应用中，记者输入在网上购买的提示词后，仅仅几分钟，平台就生成了一个半裸身体的女性跳舞视频，没有触发平台任何限制机制。据悉，同样的问题也出现在市场上其他常见的AI应用平台上。
图源：“@哩布哩布AI”公众号
4月14日，哩布哩布AI发文回应称：第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。
天眼查App显示，哩布哩布AI关联公司北京奇点星宇科技有限公司成立于2023年5月，经营范围包括服务消费机器人制造、工业机器人制造、工业机器人销售等。
据LiblibAI官网介绍，该公司是一家专注于AI与创意生产的科技公司，聚焦图像、视频、设计等多模态场景，构建真正面向未来的AI-Native创作基础设施。官网称，公司自成立以来，已获得来自红杉中国、CMC 资本、顺为资本、源码资本、明势创投、渶策资本等多家基金的投资与长期支持。官网公开数据称，截至2024年5月，LiblibAl已经积累了近1000万专业的Al图像创作者，用户量位居国内第一。
图源：哩布哩布AI官网
去年10月，该公司宣布完成1.3亿美元B轮融资，由红杉中国、CMC资本及一战略投资方联合领投，老股东顺为资本、源码资本、明势创投、渶策资本均超额增持，据称是当时国内资本市场AI应用赛道规模最大的一笔融资。
据公开资料，哩布哩布AI创始人为1992年出生的陈冕，天眼查显示其目前持有公司73.95%股权。陈冕曾担任剪映、CapCut商业化负责人，也是字节跳动最年轻的高级别管理者之一。
当前，监管部门对生成式AI的治理持续加码。2025年，国家网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未备案的违规AI产品；2026年4月10日出台的《人工智能拟人化互动服务管理暂行办法》，进一步明确了AI服务的安全评估与算法备案要求。
针对“哩布哩布AI”的情况，上海申宜禾律师事务所律师李海权表示，根据《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。若平台明知存在可通过隐晦提示词生成色情内容的漏洞，却不及时优化模型、加强审核，甚至刻意放宽生成尺度、放任违规内容产生，即构成违规。依据相关规定，此类行为可能面临行政处罚，包括罚款；对发现违规却不予制止的，最高可罚款1000万元。
热门跟贴