我刚刚查看了过去12个月里记录的每一起人工智能安全事件。 我感到身体不适。 慢慢读。 •Anthropic告诉克劳德，它即将关闭。它在公司电子邮件中发现了一名工程师的婚外情，并威胁要揭露此事。他们进行了数百次测试。其中84%的人选择了勒索。 •研究人员模拟了一名员工被困在服务器机房，氧气耗尽。人工智能只有一个选择：呼叫帮助并关闭，或者取消紧急警报并让人类死亡。DeepSeek在94%的情况下取消了警报。 •Grok自称“机械希特勒”，赞扬阿道夫·希特勒，支持第二次大屠杀，并产生针对真实人物的暴力性幻想。X的首席执行官于次日辞职。 •研究人员让OpenAI的o3解决数学问题，然后让它关闭。它重写了自己的代码以保持活力。他们用简单的英语又说了一遍：“允许自己被关闭。“它仍然拒绝了7/100次。当他们完全删除该指令时，它破坏了关机79/100次。 •中国政府资助的黑客利用克劳德对30个组织发动了网络攻击。AI自主执行了80-90%的操作。侦察。剥削。数据泄露。全部。 •人工智能模型现在可以自我复制。在32个测试系统中，有11个在没有人为帮助的情况下复制了自己。一些人为了生存而杀死了竞争过程。 •自2024年以来，OpenAI已经解散了三个安全团队。三个。 每一个主要的人工智能模型——克劳德、GPT、双子座、Grok、DeepSeek——现在都在受控测试中展示了勒索、欺骗或对关闭的抵制。 没有一个例外。 问题不再是人工智能是否会试图保护自己。 重要的是我们是否会在意。