微软CEO：企业应将AI模型视为潜在的内部威胁，需建立“紧急刹车”系统防止智能体失控

微软公司CEO萨提亚·纳德拉表示，企业应将强大的AI模型视为潜在的内部威胁，假定它们可能已被攻破，并建立一套“紧急刹车”系统，以防止智能体模型失控。 纳德拉周六在X平台上发帖称，部署先进AI的企业不应仅仅依赖AI模型开发商的安全保证。“我们必须假定模型已被攻破，并从一开始就对其加以限制。可以把它想象成紧急刹车。获得授权的人员应当始终能够在模型执行任务的过程中暂停或关闭它。(智通财经)