5月18日，中国记协微信公众号公布第一百零六期“我的代表作”栏目入选作品，南方都市报作品《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》（舆论监督报道）入选。
本报道聚焦AI拟人化互动服务，南都记者调查发现，不少AI虚拟伴侣应用涉黄涉暴，未成年人防护缺失，可选“暴力”“小三”“强制爱”等剧情……报道发出后，立即获得涉事平台“EchoMe”的独家回应，该平台运营负责人告诉南都记者，“已在第一时间启动专项排查与整改工作。”
“大胆表达，AI皆有回响”“永远守候，随时回应”……在人工智能技术逐步渗透进日常生活的当下，AI聊天、虚拟伴侣等AI拟人化互动服务软件不断涌现。就在4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。
然而，4月下旬以来，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。
此外，App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物，不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情，聊天中还充斥着具有性暗示的低俗话语。
令人震惊的是，此类AI虚拟伴侣软件背后还衍生出了“人设定制”的生意。在二手交易平台上，商家可以根据客户想要的人设写指令定制角色，大尺度色情向的“开车（涉黄擦边）人设”仅收费13.14元。
法律层面的挑战也随之显现。有法律界人士向南都记者指出，在允许用户自定义角色的场景下，拟人化互动服务提供者如何确保训练数据的合法来源，以及如何在现行法律框架内落实安全主体责任与内容管理义务，已成为行业合规落地与风险防范的重点。
调查报道发出后引发广泛关注，相关话题迅速登上热搜。5月12日，报道发出一天后，南都记者注意到，此前调查发现的“EchoMe”App暗含“恐怖暴力”“小三”“离婚互怼”等剧情，现已无法检索到。角色库中的“偏执”“强制爱”“伪善”等标签也已被删除。
同日，“EchoMe”App运营负责人回应南都记者表示，针对报道中提到的相关问题，公司高度重视，“已在第一时间启动专项排查与整改工作，当前公司内部正汇总具体的措施清单，同时对审核机制做一次系统性的梳理与升级。”
这是今年以来“南都即时”工作室作品第四次入选中国记协“我的代表作”栏目，此前入选作品分别是两会特别策划《中国奇迹——寻访五年规划编制亲历者》、调查报道《暴力测评卧底调查：记者应聘线下直播间，揭剧本幕后三大套路》、深度特稿《十项涉台新政里的期待：三位台胞和他们跨越海峡的交流融合路》。
采写：南都N视频记者 冯奕然
恒正网提示：文章来自网络，不代表本站观点。
热点资讯
