智库警告:人工智能暂停将有利于主导企业,而非安全。

CN
Decrypt
關注
2 小時前

自由意志主义的卡托研究所警告称,政府强制暂停人工智能开发可能会保护主导公司免受竞争,并延迟有益技术的发展,因为立法者和人工智能高管正在推动限制。


在周一的一篇博客文章中,卡托研究所的科技政策学者詹妮弗·哈德尔斯顿表示,公司可以通过自愿的保护措施和共享标准来应对具体危险,而无需在整个行业暂停发展。



Myriad:英伟达会跌到多低? 点击做出你的预测

“政府强制暂停将引发若干担忧,可能无法实现其声称的安全改进,”她写道,并补充说,政府的规定写得很慢,改变得更慢。“为今天的模型建立的监管框架可能会积极阻碍明天的模型,阻止可能更好或更安全的应对方案。”


哈德尔斯顿承认人工智能的风险,但警告说,围绕领先开发者制定的规则可能会帮助他们巩固权力并限制竞争——一种市场占有的形式,使小型公司更难竞争。她还指出,暂停美国的发展可能会削弱网络安全防御,而外国对手则在不断进步。


她的评论跟随参议员伯尼·桑德斯和众议员格雷格·卡萨尔的提案,提议在联邦安全标准建立之前暂停先进的人工智能开发,并永久禁止人工超智能,而OpenAI CEO山姆·阿尔特曼则支持减缓开发,并呼吁公司在等待他支持的联邦规则之前加强保护措施。


“许多这样的呼声伴随着科幻般的末日情景,讲述最糟糕的可能发生的事情,”哈德尔斯顿写道。“然而,出于恐惧而急于监管可能导致比它声称要解决的风险更长期的负面后果。”


Block的董事长兼联合创始人杰克·多尔西在周一的社交媒体帖子中表达了对竞争的类似担忧。


“引领机器智能的公司值得被倾听。他们拥有专业知识和商业利益需要保护,”多尔西写道。“围绕他们资源建立的规则可能使他们成为唯一能够参与的人。对安全的真诚关切仍然可能造成进入障碍。”


多尔西表示,他支持开放发布,研究人员可以检查、修改和测试,评估和已知局限性应公开发布,以便外部人士可以质疑开发者的安全主张。


“我支持审查。我反对由今天的领导者协商的行业范围限制,因为这可能排除那些可能揭露失败或构建替代方案的人,”他写道。“保护公司的商业优势不是安全目标。”


在他的帖子中,多尔西还表示,他支持独立测试和公开问责的执法,包括在证据表明其发布将显著增加狭义措施无法充分应对的灾难风险时,扣留模型。


“计算可以引发审查,而不限制开发。检查不是监管者或竞争对手的许可,”他说。“我不想要一般的批准要求或等待期。任何基于安全的发布延迟必须通过灾难风险例外来证明。”


最近的一份大西洋理事会分析认为,竞争压力需要可执行的人工智能安全标准,而美中之间的不信任又使国际协议复杂化。合作也引发了反垄断担忧:OpenAI已询问立法者,竞争开发者是否可以合法同意减缓开发


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接