
2025年12月27日,国家互联网信息办公室公布了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。参照有关专家对该规范文件的解读,本文作者进行概括,并将主要内容归纳如下,以便广大读者了解。如有不妥之处,请批评指正。
一 身份透明制度的法律要求及违反后果 根据用户任务描述,《办法》建立了身份透明制度,要求拟人化互动服务提供显著标识义务,保障用户知情权与选择权,为法律追责提供清晰起点。该制度旨在防范人机边界模糊引发的认知混淆、信任侵蚀、人格权侵害及伦理越界等风险。 《中华人民共和国个人信息保护法》第二十六条规定:"在公共场所安装图像采集、个人身份识别设备,应当为维护公共安全所必需,遵守国家有关规定,并设置显著的提示标识。" 《网络数据安全管理条例》第四十三条规定:"国家推进网络身份认证公共服务建设,按照政府引导、用户自愿原则进行推广应用。鼓励网络平台服务提供者支持用户使用国家网络身份认证公共服务登记、核验真实身份信息。" 二 特殊群体保护措施及企业责任 《办法》针对未成年人、老年人等特殊群体建立了防沉迷机制和差异化保护措施。立法要求企业内化社会责任,确保技术进步红利能够公平、安全地惠及所有群体。 《中华人民共和国数据安全法》第十五条规定:"国家支持开发利用数据提升公共服务的智能化水平。提供智能化公共服务,应当充分考虑老年人、残疾人的需求,避免对老年人、残疾人的日常生活造成障碍。" 三 用户交互信息的法律保护标准 《办法》强调对用户交互信息特别是情感类个人信息的严格保护,这是对《个人信息保护法》的深化与场景化适用。情感类个人信息能够映射用户的内心世界、情感弱点与潜意识倾向,需要施加更严格的目的限制、安全存储与使用禁令。 《中华人民共和国个人信息保护法》第五十八条规定了重要互联网平台服务提供者的特殊义务,包括建立健全个人信息保护合规制度体系,制定平台规则,明确处理个人信息的规范和保护义务,对违法行为停止服务,以及定期发布社会责任报告。 四 "负责任创新"理念的法律体现
《办法》将"负责任创新"理念转化为可执行、可追责的立法规则,通过全链条责任设计贯穿拟人化互动服务的关键节点。在模型设计阶段避免替代社会交往、控制用户心理、诱导沉迷依赖等后果;在模型训练阶段使用体现主流价值观的数据;在应用部署前开展安全评估;在服务运营中建立风险动态处置机制。
五 监管沙盒制度的法律适用
《办法》首次在部门规章层面明确"监管沙盒"制度,允许企业在监管机构的监督指导下开展创新试点和安全测试。这一弹性监管模式适应了人工智能技术迭代快、应用场景多的特点,为新技术的成熟推广、安全防控创造有利条件。
转载来源:“网信中国”微信公众号