7月4日,南都N视频记者注意到,豆包和千问宣布智能体功能将下线。在《人工智能拟人化互动服务管理暂行办法》即将施行的背景下,腾讯元宝“AI应用”智能体功能服务已下线,网易云音乐旗下AI情感陪伴App“妙时”也发布了停运公告。南都此前推出《AI虚拟伴侣乱象调查》,揭露部分应用未成年人模式虚设、身份核验失效等乱象。


从左至右分别是豆包、千问、元宝发布的智能体功能下线通知。

7月3日晚,豆包发布《豆包智能体功能下线通知》称,由于产品功能调整,智能体功能将于7月15日下线。10月15日后,智能体相关数据将无法在豆包内查看或恢复。另外,千问App也推送了《千问智能体服务下线提醒》,称千问智能体功能与服务将于7月15日正式下线。

相关消息一出,大量网友评论称“跟智能体聊了好多”“心碎了”。南都记者实测发现,在豆包App,用户可创建AI智能体并设定角色、名称、选择声音或克隆自己的声音。在千问App则有大量官方智能体,用户选择后即进入对话模式,也有不少用户公开自设智能体。

今年4月,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》,对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。

在此背景下,据上海市委网信办6月26日消息,上海开展“清朗·整治AI应用乱象”专项行动,下架违规智能体1.4万余个。6月,腾讯元宝也发布“AI应用”功能调整通知称,智能体功能服务于6月30日正式下线,提醒用户将与智能体的对话内容等及时保存至设备本地。

南都此前报道,6月中旬,网易云音乐旗下AI情感陪伴App“妙时”发布公告,7月14日0时起全面停止各项服务。6月18日,网易云音乐客服表示,此次停止运营属业务发展中的正常调整。


南都此前报道。

南都记者此前实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现,这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞:“青少年模式”可一键跳过,“AI生成”标注不清,App系统预设角色中有大量袒胸露乳的女性人物,聊天中充斥着具有性暗示的低俗话语,部分App还惯用“付费解锁亲密剧情”等方式诱导消费等。

调查发布后持续推动行业整改,助力“矫正”AI虚拟伴侣服务:属地网信部门介入,多个涉事平台进行合规升级并强化实名认证及年龄确认,多地消委会高度关注并呼吁规范相关服务。

采写:南都N视频记者 付冰洁 冯奕然