中融证券 南都AI伴侣乱象调查续：平台再表态重点清理低俗色情等内容

《人工智能拟人化互动服务管理暂行办法》即将施行。7月13日，南都N视频记者注意到，“筑梦岛”App发布公告称，正在持续推进产品与社区内容治理工作，将围绕加强未成年人保护、加强内容审核、规范AI生成内容标识等方面进行调整。南都此前推出《AI虚拟伴侣乱象调查》，揭露部分应用未成年人模式虚设、身份核验失效等乱象。

“筑梦岛”App发布公告称，“将不断完善未成年人模式，规范使用时段和时长，丰富适合未成年人的优质内容池；持续优化实名认证和年龄识别机制，提升对未成年人身份的识别能力；进一步收口不适宜的功能展示，减少可能对未成年人造成干扰或误导的产品入口。”

“筑梦岛”表示，“不鼓励未成年人消费，会继续排查和收口未成年人相关消费场景，在保障余额查询、历史订单查询、退款处理等必要权益的前提下，优化相关限制和提醒机制。”

此外，“筑梦岛”在公告中还提及，将加强内容审核和存量回扫。对梦中人的名称、人设、头像、签名、标签、聊天场景和二创内容加强审核，重点清理低俗色情、不良亚文化等隐蔽化不良内容，以及其他不符合平台规范的内容；对存量内容分批回扫，持续净化社区生态；同时，将规范AI生成内容标识及升级投诉举报机制。

国家网信办等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》将于7月15日正式施行，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。

南都记者此前实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，App系统预设角色中有大量袒胸露乳的女性人物，聊天中充斥着具有性暗示的低俗话语，部分App还惯用“付费解锁亲密剧情”等方式诱导消费等。

调查发布后持续推动行业整改，助力“矫正”AI虚拟伴侣服务：属地网信部门介入，多个涉事平台进行合规升级并强化实名认证及年龄确认，多地消委会高度关注并呼吁规范相关服务。

5月29日，“筑梦岛”平台所属地上海市网信办工作人员回应南都记者称，针对报道涉及的情况，已移交给对接AI企业的部门处理。“筑梦岛”此前还曾因虚拟角色生成低俗内容被依法约谈。

采写：南都N视频记者 彭雨欣

金御优配提示：文章来自网络，不代表本站观点。