一个两党合作的美国参议员小组于周二提出了一项法案，限制人工智能模型如何与儿童互动，警告称AI伴侣对未成年人的心理健康和情感福祉构成严重风险。

该立法称为GUARD法案，将禁止未成年人使用AI伴侣，要求聊天机器人明确标识自己为非人类，并为那些针对未成年人产品中招揽或生成性内容的公司设立新的刑事处罚。

“在追求利润的过程中，AI公司向孩子们推销危险的聊天机器人，并在其产品导致性虐待或强迫他们自残或自杀时视而不见，”该法案的共同发起人之一、康涅狄格州民主党参议员理查德·布卢门撒尔在一份声明中表示。

“我们的立法对剥削性或操控性的AI施加严格的保护措施，并通过刑事和民事处罚进行强有力的执行，”他补充道。“大型科技公司背叛了任何我们应该信任公司自行做正确事情的说法，因为他们始终将利润置于儿童安全之上。”

这一问题的规模令人震惊。根据Common Sense Media在7月进行的一项调查发现，72%的青少年使用过AI伴侣，超过一半的人每月至少使用几次。大约三分之一的人表示他们使用AI进行社交或浪漫互动、情感支持或对话练习——许多人报告与AI的聊天感觉与与真实朋友的聊天同样有意义。同样数量的人表示，他们在讨论严重或个人问题时选择了AI伴侣而非人类。

随着针对主要AI公司的诉讼不断增加，担忧加深，这些诉讼涉及其产品在青少年自残和自杀中的所谓角色。其中，16岁少年亚当·雷恩的父母——他在自杀前与ChatGPT讨论过自杀——已对OpenAI提起了错误死亡诉讼。

该公司因其法律回应受到批评，包括要求提供与会者名单和青少年追悼会的悼词。家属的律师称他们的行为是“故意骚扰”。

“AI的发展速度超过了我们处理过的任何技术，我们已经看到它对行为、信念和情感健康的影响，”Holonym的联合创始人、数字权利倡导者沙迪·埃尔·达马提在接受Decrypt采访时表示。

“这开始看起来更像是核武器竞赛而不是iPhone时代。我们谈论的是能够改变人们思维方式的技术，这需要以严肃的全球责任来对待。”

埃尔·达马提补充说，用户的权利对于确保用户安全至关重要。“如果你构建影响人们生活和思维方式的工具，你就有责任确保这些工具的使用方式，”他说。

这一问题不仅限于未成年人。本周，OpenAI披露每周有120万用户与ChatGPT讨论自杀，占所有用户的0.15%。近50万用户表现出明确或隐含的自杀意图，另有56万用户每周显示出精神病或狂躁的迹象，超过100万用户对聊天机器人表现出更强的情感依附，根据公司数据。

在Reddit和其他平台上，AI用户也纷纷建立了论坛，称他们与AI机器人处于浪漫关系。在这些小组中，用户描述他们与AI“男友”和“女友”的关系，并分享自己与“伴侣”的AI生成图像。

为了应对日益增长的审查，OpenAI本月成立了一个关于福祉与人工智能的专家委员会，该委员会由学者和非营利组织领导组成，旨在指导其产品如何处理心理健康互动。此举与首席执行官山姆·阿尔特曼的消息同时发布，他表示公司将于12月开始放宽对成人内容的限制。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。