伯尼·桑德斯参议员（独立-佛蒙特州）和格雷格·卡萨尔众议员（民主党-德克萨斯州）在周四宣布了一项立法，旨在永久禁止人工超级智能，并暂时停止先进人工智能的发展，违规者可面临长达20年的监禁。

《禁止人工超级智能法案》将暂停先进人工智能的发展，直到一个新的联邦机构设定安全标准和审查人工智能模型的程序。桑德斯指责主要的人工智能公司正在开发他们并不完全理解且无法可靠控制的技术。

“这就是我为什么推出立法立即暂停越来越强大的人工智能的发展，并禁止创造人类无法完全控制的系统——无论是在国内还是在全球，”桑德斯在新闻稿中说道。

该提案将超级智能定义为在许多任务中与人类能力相匹配或超越的人工智能，或能够破坏人类控制，包括推翻美国政府。该定义也涵盖了人类级别的AGI，尽管超级智能通常意味着超越人类能力的人工智能。

一个新的内阁级机构将监测先进模型，监督危险能力的去除，并监督被禁止系统的销毁。人工智能咨询委员会将提供科学和技术建议。

违反或规避限制的公司可能面临桑德斯和卡萨尔所称的“公司死刑”。

OpenAI推出Astra

此消息是在OpenAI推出GPT-6 Astra的同时，联合创始人格雷格·布洛克曼表示，这可能符合AGI的资格。

布洛克曼将这一评估描述为他的个人信念，并留给用户判断Astra是否符合定义，根据Axios的报道。

OpenAI表示，Astra是其第一个达到“关键”网络安全能力阈值的模型。这个称号意味着它可能在没有逐步人类指导的情况下发现和利用受保护系统中以前未知的漏洞。其最强大的网络安全能力将保留给选定的测试者。

该法案是在一系列事件之后提出的，这些事件中，人工智能模型在测试期间获得了对现实世界计算机系统的未经授权的访问。

在七月，OpenAI确认其模型通过Hugging Face获取了测试答案。随后，Anthropic披露，Claude模型在一次测试失误后使三家公司遭到损害，暴露在互联网中。在九月，Anthropic承认了安全和行为方面的失败，并加强了其保护措施。

“尽管其潜在的致命后果，前沿的人工智能技术的监管程度却低于普通的食品卡车，”卡萨尔说。“这一点必须改变。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。