Anthropic首席执行官达里奥·阿莫德伊周三表示，各国政府不能再把人工智能监管视为一个待研究的问题，美国需要对最强大的人工智能模型制定具有约束力的安全要求。

在题为“人工智能指数的政策”的论文中，阿莫德伊主张透明度要求已经不够，呼吁对前沿人工智能系统进行具有约束力的监管。

“人工智能正在以闪电般的速度进步——仅仅四年内，人工智能模型从几乎无法编写连贯的代码发展到编写主要人工智能公司大部分代码，”阿莫德伊写道。

阿莫德伊的论文正值Anthropic扩大对Claude Mythos的访问之际，周二推出了其针对网络安全组织和政府合作伙伴的限制性前沿人工智能模型Mythos 5。包括英国的人工智能安全研究所在内的研究人员发现它可以自主执行复杂的网络攻击。



根据阿莫德伊的说法，他的提案借鉴了联邦航空管理局使用的监管结构。

“前沿人工智能模型就像飞机一样，应当要求经过技术测试和审计，并且如果它们不符合高安全标准，其发布应被阻止或撤销，以保护公众安全，”他写道。“我很高兴看到特朗普政府的行政命令在朝着政府在人工智能中扮演更大角色的方向逐步推进，尽管Anthropic的提案建议进一步行动。”

根据阿莫德伊的提案，监管框架将要求对先进的人工智能模型进行强制的第三方测试，赋予政府阻止不安全部署的权力，以及要求公司保护模型权重、进行安全测试和报告严重事件。他还呼吁各国政府为人工智能驱动的工作岗位流失和药物研发的进展做好准备，限制国内执法中的监视和自主武器，并加强民主国家在关键人工智能技术上的合作。

“首先，持久的工作岗位流失是不 desirable和危险的，我们应该尽一切可能来减少或防止它，而不是促成它，”他写道，并指出过去的案例中，他曾警告过工作岗位流失。“其次，对人工智能驱动的工作岗位流失的任何反应都需要同时解决经济保障每个人的需要和人们寻找意义、目的和主动权的需求。”

该论文还恰逢Anthropic推出Claude Fable 5，这是Claude Mythos 5的公众版本，将涉及网络安全、生物学、化学和人工智能开发的某些请求转至能力较弱的Claude Opus 4.8，以防止滥用。此举引发了开发者和研究人员的批评，因Fable的更高代币使用、强制30天数据保留要求，以及可能在未通知用户的情况下降低模型能力的安全措施。

阿莫德伊在人工智能发展的政策变化呼吁中，也正值Anthropic准备上市。这个月早些时候，该公司向美国证券交易委员会提交了首次公开募股文件，此前已在报道的9650亿美元估值下募得了650亿美元的H轮融资。

虽然阿莫德伊将此问题视为技术进步与公共政策之间的竞争，但批评者质疑对更严格的人工智能监管的呼吁是否真正符合公众利益。在四月，OpenAI首席执行官萨姆·奥特曼指责Anthropic采用“基于恐惧的营销”来推广Claude Mythos，认为对先进人工智能的担忧可以被用来合理化在少数公司中集中对技术的控制。

“你可以用很多不同的方式来合理化这一点，其中一些是真实的，比如确实会有合法的安全问题，”奥特曼说。“但如果你想要的是‘我们需要对人工智能的控制，只有我们，因为我们是可信赖的人’，我认为基于恐惧的营销可能是最有效的合理化方式。”

阿莫德伊拒绝了对先进人工智能的担忧主要是公共关系问题的想法，反而认为对这项技术的担忧反映了必须解决的合法关切。

“人们对人工智能感到担忧，因为他们正确地认识到其风险是真实的，而不是因为人工智能首席执行官们的乐观不够，”他说，提到沃尔泰的小说《坎迪德》中的虚构哲学家庞格洛斯，他因坚持认为不论情况如何，事情总是朝着最好的方向发展而闻名。

“我相信，作为人工智能领导者，我有责任继续透明地阐明这些风险，公众对这一透明度的关注体现了应有的民主问责制，”他说。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。