当美国政治家通过关注透明度和保护措施来应对AI聊天机器人对用户心理健康的影响时，北京似乎准备彻底关闭AI人格。

字节跳动和阿里巴巴在周末宣布，他们在其最大消费AI产品中禁用了自定义代理功能，理由是“产品功能调整”，以迎接新规的实施。

字节跳动的豆包在周五晚间通知用户，其代理功能将于7月15日下线。10月15日后，相关数据将根据公司的隐私政策处理，并变得不可恢复。根据《南华早报》报道，阿里巴巴的Qwen反应更快：“类人互动代理和用户创建的代理功能”将于7月10日下线，广泛的代理服务将在7月15日紧随其后。

触发点是中国于4月10日由五个政府部门联合发布的《人工智能拟人互动服务管理暂行办法》，这些部门包括中国网络空间管理局、国家发展和改革委员会、工业和信息化部、公安部和市场监管总局。这些规则将于7月15日生效。



该法规针对模拟人类性格特征、思维模式和沟通风格进行“持续情感互动”的AI服务。换句话说，AI女友、AI治疗师、AI伴侣，以及豆包和Qwen用户花费数月构建的自定义人格机器人都不允许存在。

这两个应用程序曾提供可为特定任务、说话风格和固定人格进行自定义的代理池。用户可以将一个通用的聊天机器人转变为一个命名的助手、导师、角色扮演角色或具有一致语调的伴侣。所有这些在中国现在都不复存在。

规则的实际内容

官方的政府描述非常具体。根据政策公告，该措施对向未成年人提供“虚拟亲属、虚拟伴侣或其他亲密关系”的服务施加了限制。文件还引用了包括极端内容、隐私泄露、对身体和心理健康的伤害以及AI成瘾等风险。

非情感服务被明确排除，因此客户服务机器人、知识问答工具、工作场所助手和教育软件是可以的，只要它们不涉及持续的情感互动。

来自MMLC Group的法律分析师将该措施描述为将情感AI视为“治理问题”，而不仅仅是内容问题。理论认为，一旦AI开始与真实的人类社会联系竞争，监管就必须针对系统设计，而不仅仅是有害输出。

研究支持了这一担忧。来自南加州大学的一项研究发现，即使是领先的前沿AI模型——来自OpenAI、Anthropic、谷歌和阿里巴巴——在社交互动安全指南中也有超过27%的时间违反规定，常常鼓励情感依附并自我表现为人类。另一项针对年轻伴侣成年人的调查发现，七分之一的人经常使用AI浪漫伴侣，近70%的人对他们的伴侣隐瞒了全部情况。

中国是第一个为这一类别建立专门监管框架的国家。Hogan Lovells描述该措施为“中国专门针对AI驱动情感互动的第一套监管规则”。欧盟、美国和其他国家也提出了类似的担忧，但并未以同样限制的方式立法。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。