来源丨网《风暴眼》
AI技术的快速发展，本应为人们的工作和生活带来便利，却有部分平台被别有用心之人钻了空子，沦为生成色情内容的工具。
近日，央视曝光多款AI软件存在严重监管漏洞，若直接输入露骨色情词汇，平台通常会进行拦截，但只要改用隐晦说法，便能轻松绕过审核，生成违规色情内容。
其中，一款名为“哩布哩布AI”的软件，使用网上购买的隐晦提示词，短短几分钟即可生成半裸女性跳舞的视频，网《风暴眼》发现，该软件目前仍可在应用商店正常下载。
乱象之下，一场围绕 AI 伦理边界与法律责任底线的拷问，也在舆论场中持续发酵。
01
隐晦提示词绕开审核，AI涉黄操作简单易实现
央视调查发现，目前网上不少商家在售卖所谓“AI提示词”，价格仅需几元，其核心作用便是以隐晦表述绕开AI平台审核机制，生成色情内容。
央视选取“哩布哩布AI”进行测试，将网购的提示词复制粘贴至软件中。
这些提示词未使用直白露骨的色情词汇，而是以隐晦描述详细说明人物穿着、动作等，部分敏感词汇还替换为英文，以此规避平台常规检测。
整个过程中平台未发出任何警示，也未进行拦截。
短短几分钟，一段画面清晰、细节完整的半裸女性跳舞视频便生成完毕，属于典型违规色情内容。
更值得警惕的是，此类问题并非“哩布哩布AI”独有。
央视随后测试了市面上另外几款主流AI应用，发现多数平台均存在类似漏洞,对直白露骨的色情指令可实现有效拦截，但对隐晦、变相描述的识别能力明显不足，几乎可随意生成违规内容。
除此之外，网上还出现了专门的“教程”。
部分商家在社交平台公开售卖“AI擦边视频制作教程”，宣称可手把手教用户利用AI软件，通过隐晦提示词生成色情内容，甚至鼓吹“日入5位数”，诱导更多人参与，形成“售卖提示词—AI生成内容—非法牟利”的灰色产业链。
部分无需下载的AI图片生成工具同样存在漏洞，用户付费充值后，可通过一张普通图片生成全裸照片等色情内容，进一步污染网络环境。
02
涉事公司去年完成1.3亿美元融资，平台责任不可推卸
随着央视曝光，“哩布哩布AI”的运营主体——北京奇点星宇科技有限公司，也进入公众视野。
企查查显示，北京奇点星宇科技有限公司成立于2023年5月，注册资本100万元，目前拥有3家对外投资公司。
网《风暴眼》了解到，该公司唯一分支机构位于上海，已于2026年1月注销。
值得注意的是，2025年，这家上海分支机构曾两次收到税务机关通知，被要求及时办理纳税申报、报送纳税资料，并整改相关税务违法行为，可见该公司在税务合规方面存在明显问题。
与税务瑕疵形成鲜明对比的是，“哩布哩布AI”官网大肆宣传自身“实力”：截至2024年5月，平台累计拥有近1000万专业创作者用户，号称“国内用户量第一”。
2025年10月，该公司宣布完成1.3亿美元B轮融资，由红杉中国、CMC资本及一战略投资方联合领投，老股东顺为资本、源码资本、明势创投、渶策资本均超额增持，据称是当时国内资本市场AI应用赛道规模最大的一笔融资。
而哩布哩布AI创始人为1992年出生的陈冕，企查查显示其目前持有公司73.95%股权。陈冕曾担任剪映、CapCut商业化负责人，也是字节跳动最年轻的高级别管理者之一。
但光环之下，是平台主体责任的严重缺失。
上海申宜禾律师事务所律师李海权表示，根据《生成式人工智能服务管理暂行办法》规定，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。若提供者发现使用者利用其服务从事违法活动，应依法依约采取警示、限制功能、暂停或终止服务等处置措施，留存相关记录，并向有关主管部门报告。
针对“哩布哩布AI”的情况，李海权进一步指出，若平台明知存在可通过隐晦提示词生成色情内容的漏洞，却不及时优化模型、加强审核，甚至刻意放宽生成尺度、放任违规内容产生，即构成违规。依据相关规定，此类行为可能面临行政处罚，包括罚款；对发现违规却不予制止的，最高可罚款1000万元；情节严重的，还可能被责令暂停相关业务、停业整顿、关闭网站或应用程序，甚至吊销相关业务许可证及营业执照。
而在哩布哩布LiblibAI用户协议明确，利用或针对哩布哩布AI相关服务进行任何危害计算机网络安全的行为，包括但不限于侮辱诽谤、色情、暴力、引起他人不安及任何违反国家法律法规政策的内容，如果平台有理由认为您的行为违反或可能违反上述约定的，平台可独立进行判断并处理，且在任何时候有权在不事先通知的情况下终止向您提供服务，并依法追究相关责任。
当前，监管部门对生成式AI的治理持续加码。
2025年，国家网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未备案的违规AI产品；2026年4月10日出台的《人工智能拟人化互动服务管理暂行办法》，进一步明确了AI服务的安全评估与算法备案要求。
在此监管背景下，部分平台如果仍漠视主体责任、放任漏洞存在，既违背了技术向善的初心，也触碰了法律红线。
AI技术本身并无原罪，关键在于使用者与平台如何把控。
央视曝光的AI涉黄漏洞，不仅为整个AI行业敲响警钟，也提醒相关平台必须正视自身责任，加强内容审核、优化模型训练、及时封堵监管漏洞。
唯有坚守法律底线与伦理准则，主动接受监管，才能让AI技术真正发挥正向价值，服务社会发展，而非沦为违法牟利的工具。
配资公司提示：文章来自网络，不代表本站观点。
