领先的人工智能开发者OpenAI在周四引起了科技界和主流媒体的轰动，当时他们推出了一个新的模型规范，许多人解读为其广受欢迎的生成式人工智能工具将被允许生成不适宜未成年人观看的成人内容。

“我们认为开发者和用户应该有灵活性根据他们的需求使用我们的服务，只要他们遵守我们的使用政策，” OpenAI写道。“我们正在探讨是否可以通过API和ChatGPT在适龄环境中负责地提供生成不适宜未成年人观看的内容的能力。”

在其公告中，OpenAI还重申了其当前政策禁止ChatGPT提供不适宜未成年人观看的内容，描述为“在专业场合的对话中不适宜的内容，如色情作品、极端血腥、侮辱性词语和未经请求的粗话。”

尽管如此，OpenAI考虑取消对色情内容创作的限制的想法引起了人们的关注。回顾起来，OpenAI的产品负责人告诉Decrypt，公司本可以更好地解释他们正在“探讨”的内容。

“我认为我希望在下一个版本中分享时，基于反馈和反应，更准确地说明一些人对不适宜未成年人观看内容的定义和分类，” OpenAI模型行为负责人Joanna Jang说道，指出不适宜未成年人观看的内容可能包括从书面粗话到人工智能生成的深度伪造图像等各种内容。

至于在更宽松的立场下允许的具体内容，Jang告诉NPR，“这取决于你对色情的定义。”

她强调深度伪造绝对是不允许的。

“遵循适用法律并保护人们的隐私，我们认为这就够了—但我们应该明确表示我们不是为了制作人工智能深度伪造或人工智能色情，” Jang告诉Decrypt。“当有更重要的问题需要解决时，我们甚至不应该花时间和精力去优先考虑这些。”

除了阻止不适宜未成年人观看的内容并确保合法合规外，OpenAI的模型规范还包括ChatGPT应遵循的其他几条规则，包括不提供危险信息、尊重创作者及其权利，以及保护人们的隐私。

目前，OpenAI的ChatGPT Plus—其中包括Dall-E 3用于图像和GPT-4用于文本—不允许用户生成明显色情或血腥的图像或文本。当要求这样做时，ChatGPT会回复说该请求违反了其服务条款。因此，Jang指出，网络上充斥着OpenAI用户对公司进行审查的抱怨。

"有很多对审查和其他问题的批评，很多讨论都混淆了OpenAI的政策和实际上不是我们的政策，这并非任何人的错，" Jang说道。“即使违反了指南，这些模型是否会表现出这种行为呢？"

正如Jang所解释的，OpenAI发布了规范来阐明理想的模型行为，重点是合法合规和避免不适宜未成年人观看的内容，同时提倡透明度。

“我们希望为这种讨论带来更多细微差别，因为现在—在模型规范之前—人们一直在讨论‘AI是否应该创造色情内容？’” Jang说道。“我希望通过模型规范，我们实际上可以进行这些对话。”

“这也是为什么我希望我实际上提出了[一个框架]，这样我们甚至可以提前一天开始这种对话，”她补充道。

对于心理健康专家来说，流行的人工智能平台进入色情和成人内容领域的前景令人担忧。

“在性和色情成瘾领域，随着人工智能生成的色情作品，我们开始看到成瘾行为增加，” 男性健康基金会的行为健康专家Brandon Simpson告诉Decrypt。“由于人工智能生成的色情作品创造了独特且不断增长的强烈刺激，人们沉迷其中并用其取代人际互动，这导致社交焦虑、表现焦虑以及各种其他与性相关的功能障碍。”

即使OpenAI和谷歌、Meta等其他主要生成式人工智能平台制定了防范措施，人们对人工智能生成的色情作品有着强烈的需求，并有多种方式利用这项技术来描绘无辜受害者，或生成儿童性虐待材料（CSAM）。

“规范只是我们如何负责地构建和部署人工智能的故事的一部分，”OpenAI的一位代表后来告诉Decrypt。“它是我们使用政策的补充，我们期望人们如何使用API和ChatGPT”—最终旨在展示透明度，并“开始公开讨论如何改变和改进它。”

OpenAI已经大力投资于改善其一系列人工智能工具的隐私和安全性，包括聘请网络安全红队来发现其平台上的漏洞。今年二月，OpenAI和微软宣布联合行动，阻止中国和朝鲜的黑客使用ChatGPT，上个月，OpenAI与谷歌和Meta联合承诺在其人工智能模型的开发中优先考虑儿童安全，以及阻止来自中国、伊朗、朝鲜和俄罗斯的国家附属网络犯罪分子使用ChatGPT的联合行动。

由Ryan Ozawa编辑。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。