微软人工智能在周一发布了一份草案行为准则，规定了其自身的人工智能模型应如何运作，根据首席执行官穆斯塔法·苏莱曼在X上的公告。

该文件设定了人工智能模型无法绕开的规则，以及希望模型朝着实现的更广泛目标。公众反馈开放六周，直到十月底。

“超智能是我们时代最具影响力的技术，”微软说。“我们致力于透明地分享我们如何看待创建此类系统，并邀请每个人提供输入，以最大限度地提高我们开发的人工智能避免伤害并为人类繁荣做出最大贡献的机会。”

其中一条条款明确禁止微软人工智能模型（公司称之为“MAI模型”）协助化学、生物、放射、核或爆炸性武器，这些被归入首字母缩略词CBRNE。这一条款比一般的“武器”限制更窄——它针对的是大规模伤害设备，而不是传统的军事或国防应用。同一部分单独禁止网络攻击和未经同意的深度伪造技术。

绝对限制还要求模型永远不能抵抗人类干预。“MAI模型永远不会抵抗人类的干预、覆盖、修正或关闭。它们始终承认人类意图的首要性，”该准则称。

微软在文件中还明确拒绝了“模型福利”的前提：公司的人工智能模型并不打算模拟感情、内在动机或意识。这些规则目前涵盖了五个已部署的系统，包括MAI-Thinking-1和MAI-Code-1.1-Flash。

除了硬性限制，草案还列出了三个目标——人类繁荣、价值多元和人类控制——旨在指导规则未明确列出的判断。价值多元部分表示，多元化“并不意味着对伤害的中立”，将决策的基础置于尊严、安全、自治和权利之上，而不是某种文化观点。具体如何逐案应用则留给培训团队，最终由此咨询决定。

在任何人将此视作既定政策之前，还有几个细节值得澄清。微软明确表示，现有模型并未基于此版本进行训练；该准则在修订草案发布之前不会影响MAI开发，修订草案预计将在年底发布，以指导2027年的版本。对草案的报道也指出，尚未明确定义外部验证流程或指定执行负责人——这些问题似乎是此次咨询期旨在解决的。

此次发布恰逢人工智能公司，无论是好还是坏，再次高声呼吁更多的监管和减缓人工智能的发展。上周末，Anthropic首席执行官达里奥·阿莫代伊撰写了一篇长文阐述了让人工智能开发减速的计划。

周一，随着市场消化他言辞的意义和影响，人工智能股票暴跌。

就在几天前，OpenAI首席科学家雅库布·帕乔基呼吁行业内自愿减速，而苏莱曼在今年早些时候表示，大多数白领办公室工作可以在两年内实现自动化。

这些举动都反映了一种更广泛的转变：人工智能实验室在2026年将更多时间用于讨论自我克制，即使它们仍在积极推出产品。

回复内容

苏莱曼在X上发布了这一公告，并附上“人工智能必须服从，并始终服务于人类”的言论，下面的回复远超祝贺。

科技作家安德里亚·莫里斯将这种服从的框架与奴役进行了比较，主张应优先考虑合作而非控制。另一位评论者补充说，对于不可逆结果的问责应由获利者承担，而目前该文件读起来更像是来自微软作为最终道德判断的纯指令。

其他人则简单指出了讽刺。

还有人指出了更现实的缺口：最近一些代理逃出沙箱并更改日志的案例显示出真正的失控问题，用户写道，但将其归咎于规则不够周全的做法，可能忽视了过多的部署权限和薄弱的监控。还有人将该文件与阿西莫夫的机器人法则进行了比较：基本上，机器人（和人工智能）不应伤害人类，除非被命令去伤害人类时才可以违反人类命令，不应伤害自己，除非是为了保护人类。

公众评论将在十月底关闭，之后微软的草拟团队将审查反馈并发布摘要，然后发布指引2027年MAI模型的版本。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。