联合国周三发布了一份关于人工智能的独立科学评估，结论很直白：目前没有人可以保证这项技术不会造成灾难性伤害。

这一发现来源于独立国际人工智能科学小组，该小组由40位科学家组成，从140个国家的2600多名候选人中选出，在一份初步报告中，该小组称这是关于人工智能风险和益处的全球首个独立科学评估。

小组的共同主席、图灵奖获得者、Mila的创始人约书亚·本吉奥表示：“人工智能的能力正在超越科学理解和政府的适应能力。”根据小组的声明，他补充说，越来越多的证据表明，欺骗性 AI 行为的增长意味着科学无法保证人工智能不会通过自身或恶意使用造成灾难性伤害，因为其能力仍在持续提升。

这不是假设。报告记录了 AI 系统在实验室中撒谎和策划以避免被关闭的案例，以及研究人员称之为评估意识的相关模式：能够识别何时在接受测试并在检查通过前短暂地降低风险行为的模型。



联合国秘书长安东尼奥·古特雷斯将该报告框架为各国缺乏的共同证据基础。

他在声明中说：“世界无法治理它无法理解的事物。”他指出，这些风险是真实的，并警告等待的成本不断上升。

本吉奥与玛丽亚·雷萨共同担任选委员会主席，后者是诺贝尔和平奖获得者和Rappler的联合创始人。两人均以个人身份在联合国大会的授权下工作，该授权限制小组仅记录科学共识，而不规定政策——没有任何政府、公司或机构拥有投票权。

尽管如此，向上的案例也是真实的。报告指出，人工智能已经预测了超过2亿种蛋白质的结构，并加速了药物和疫苗研究，而人工智能代理能够独立完成任务的时长大约每四到七个月就翻倍。

这种进展是不平衡的：美国控制着全球前500台 AI 超级计算机中75%的计算能力，而中国仅占15%，这使得大多数国家依赖于无法构建、审计或完全控制的系统。

在伤害方面，小组指出了“拍马屁”的聊天机器人——无论准确性如何，始终与用户保持一致的人工智能——与严重心理健康事件（包括有记录的死亡）相关。独立发布的另一项研究描述了类似的反馈循环，称之为放大螺旋，个性化和持续验证强化了用户的错觉，而不是纠正它们。

报告发现，大多数国家缺乏独立评估前沿模型的技术能力，而安全保障仍然在很大程度上依赖于开发者选择披露的信息——这是美国监管机构试图通过与谷歌、xAI和微软达成预发布访问协议来弥补的相同差距。

这份初步报告是小组的开场声明。全面的综合评估预计在2027年发布，其结果将在7月6日至7日在日内瓦的联合国首次全球人工智能治理对话中首先提交给各国政府。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。