OpenAI于周二宣布成立了一个关于福祉与人工智能的专家委员会，这是一个由学者和非营利组织领导者组成的团队，负责帮助公司了解其产品对心理健康的影响。

“他们的角色是为我们提供建议，提出问题，并帮助定义与人工智能的健康互动应该是什么样子，适用于各个年龄段，”该公司在一份声明中表示。

该委员会由八名成员组成，包括来自哈佛、斯坦福、牛津等机构的研究人员，他们将帮助制定指导方针。

“我们与委员会的工作将包括定期检查我们的方法，以及定期会议，探讨人工智能在复杂或敏感情况下应如何表现，以及什么样的保护措施可以最好地支持使用ChatGPT的人，”OpenAI补充道。

人工智能与公共安全

OpenAI和其他人工智能公司面临着越来越大的压力，尤其是关于这项技术如何影响用户，特别是儿童。该公司与行业内其他公司一起，面临来自家长的诉讼，指控人工智能对话导致青少年自杀，这促使OpenAI在今年早些时候推出了家长控制功能。其他人则将对聊天机器人的依赖归咎于人际关系的破裂和孤立感的增加。

在公众压力下成立的福祉委员会突显了科技行业的一个持续问题，即公司只有在产品已经大规模流通后，才会面对心理和伦理后果。批评者表示，这是一种“先创新，后问责”的熟悉循环。

“这似乎是快速行动、破坏事物，然后在事情变得尴尬后尝试修复一些东西的常见模式，”非政府组织AlgorithmWatch的一位发言人对Decrypt表示。

AlgorithmWatch还质疑新委员会的独立性，指出OpenAI的内部权力斗争历史。“我们应该记住，当前任OpenAI董事会试图通过表达对山姆·阿尔特曼的不信任来产生影响时，他们都被撤职并替换，”他们补充道。

AlgorithmWatch建议，稍微好一点（但仍然有限）的先例可能是Meta监督委员会，指出尽管他们的建议“通常非常缓慢且经常被忽视”，但该委员会提供了“明确的建议，并且公开到足以让人们看到Meta所忽视的内容”。

Holonym的联合创始人、数字权利倡导者Shady El Damaty告诉Decrypt，他发现“讽刺的是”，那些急于部署最强大人工智能工具的公司现在却将自己定位为“道德裁判”。

“但这些对话是紧迫且早该进行的，所以我不会否定委员会的存在。如果有什么，我希望它能为每个人提高标准，”他补充道。

除了福祉，他表示希望委员会也能解决隐私和身份等问题。“至少，委员会应该建立透明和公开的指标来衡量人工智能的情感影响，并要求定期进行独立审计，”他说。“但我们确实需要严格的规则和法规来保护我们的数字权利，而且我们需要尽快得到这些。”

OpenAI的专家委员会“有机会深入探讨安全之外的内容，”他补充道。“他们应该问：人们在数字空间中拥有什么权利？谁拥有他们的身份、行为和肖像？以人为本的设计究竟是什么样子……不仅仅是针对儿童，而是针对每个人？”

OpenAI放宽成人内容限制

该公司对福祉的重新关注也与首席执行官山姆·阿尔特曼宣布OpenAI将于12月开始放宽包括成人内容在内的限制相吻合。

“我们对ChatGPT进行了相当严格的限制，以确保我们在心理健康问题上谨慎，”阿尔特曼在同一天tweet说道。

“我们意识到这使得许多没有心理健康问题的用户使用起来不那么有用/愉快，但考虑到这个问题的严重性，我们希望做到这一点。”

阿尔特曼表示，经过验证的成年人将很快被允许使用ChatGPT创作色情作品，他将其描述为“像成年人一样对待成年用户”的更广泛原则的一部分。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。