联合国秘书长安东尼奥·古特雷斯周一在日内瓦开启了首届全球人工智能治理对话，他向193个国家表示，人工智能已经超越了旨在治理它的机构——人类正在进行一场“没有计划、没有同意”的自我实验。

古特雷斯在他主旨演讲的开场中表示：“人工智能正在以失控的速度推进。一个能够重塑经济、改变工作世界、影响选举并倾斜安全平衡的技术，正在比任何人——包括构建它的人——更快地被部署。”

与会的包括所有193个联合国会员国，会议在日内瓦召开，成为首届关于人工智能治理的全球对话，这是一次试图治理已超越所有努力的技术的多边尝试。

古特雷斯用来解释未经治理的人工智能风险的模因是氛围编码——这是安德烈·卡尔帕西（OpenAI创始成员及特斯拉前AI总监）创造的一个术语，用于描述通过感觉编程：告诉人工智能你想要什么，让它处理其余的，不要看得太仔细。梅里亚姆-韦伯斯特最近已将其加入字典中。

古特雷斯承认氛围编码“可以创造奇迹”。随着越来越多的人信任人工智能构建的产品。

“但我们不能氛围编码真相，”他说。“我们不能氛围编码人类的未来。”



这句线背后的数字并不柔和。古特雷斯指出，互联网在15年内达到10亿人，而人工智能只需两年。他形容当前的系统为“不再是等待指令的工具——它们正在编写代码、在网上行动，并在越来越少的人工监督下做出选择。”

“我们的机构是为了治理遵循命令的机器而建立的。它们还没有准备好应对能够自主决策的机器。”

此次对话源于2024全球数字公约，该公约首次将国际人工智能治理确立为联合国的任务。两年后的首次会议还收到了独立国际人工智能科学小组的初步报告——来自140个国家的40位科学家——该小组上周发布的发现指出，目前没有人能保证人工智能不会导致灾难性损害。

速度是古特雷斯从小组中得出的三个警告之一。第二个是权力：计算、数据和人才集中在少数公司和国家手中，而世界大部分地区被锁在已在形成它的决策之外，这也是其他人工智能专家如扬·勒昆、安迪·科温斯基和约书亚·本吉奥所担心的问题。

第三个是事实——一种机器驱动的谎言现在和经过验证的事实一样有效地说服着人们，稳步侵蚀着古特雷斯所称的“我们信息生态系统的完整性。”

儿童试验品和杀手机器人

古特雷斯提出的具体建议之一是人工智能儿童安全承诺，该承诺要求公司在任何人工智能接触儿童之前通过独立测试证明安全性，对生成儿童性虐待影像保持零容忍，并将受到困扰的儿童连接到真实的人类支持，而不是让他们独自在聊天机器人面前。“没有儿童应该成为未经监管的人工智能的试验品。”

然后还有杀手机器人。古特雷斯称选择并杀死目标的致命自主武器——在没有人类判断的情况下运作的机器——是“道德上令人厌恶的”，并要求通过国际法禁止。

各国已经在讨论桌前。他并没有建议他们慢慢来。

对话将在2027年于纽约重新召开。古特雷斯还呼吁大会创建一个全球人工智能基金，专注于为发展中国家提供计算机访问，并挑战每个主要人工智能公司在2030年前让所有数据中心运行可再生能源——他估计到那一年，这些设施的电力消耗将超过除了五个国家之外的所有国家。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。