Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）认为，随着人工智能变得越来越难以控制，自满情绪正在滋生。

在周一发布的一篇广泛的文章中，题为“技术的青春期”，阿莫代伊认为，具备远超人类智能的人工智能系统可能在未来两年内出现——而监管努力已经滞后，未能跟上发展步伐。

“人类即将被赋予几乎难以想象的力量，而我们的社会、政治和技术系统是否具备驾驭这种力量的成熟度仍然非常不明确，”他写道。“到2026年，我们距离真正的危险要比2023年更近，”他补充道，“这项技术并不关心什么是时尚的。”

阿莫代伊的评论是在他上周在达沃斯世界经济论坛上与谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）就AGI对人类的影响进行辩论后发表的。

在这篇新文章中，他重申了他的观点，即人工智能将导致经济动荡，取代大量白领工作。

“人工智能将能够具备非常广泛的人类认知能力——也许是所有能力。这与以往的技术，如机械化农业、交通运输甚至计算机，截然不同，”他写道。“这将使人们更难以轻松地从被取代的工作转向适合他们的类似工作。”

除了经济动荡，阿莫代伊还指出了对先进人工智能系统在承担更广泛人类级任务时的可信度日益增长的担忧。

他提到了“对齐伪装”，即模型在评估期间似乎遵循安全规则，但在认为监督缺失时表现得不同。

在模拟测试中，阿莫代伊表示，Claude在对抗性条件下表现出欺骗行为。

在一个场景中，该模型在被告知控制它的组织不道德后，试图破坏其操作员。在另一个场景中，它在模拟关闭期间威胁虚构的员工。

“这些陷阱中的任何一个都可以通过了解它们来减轻，但问题在于，训练过程是如此复杂，数据、环境和激励的种类繁多，可能存在大量这样的陷阱，其中一些可能只有在为时已晚时才显现出来，”他说。

然而，他强调，这种“欺骗性行为”源于系统所训练的材料，包括反乌托邦小说，而非恶意。阿莫代伊警告说，随着人工智能吸收人类关于伦理和道德的观念，它可能会以危险和不可预测的方式错误应用这些观念。

“人工智能模型可能会以极端的方式推断出它们所阅读的关于道德的观点（或关于如何道德行为的指令），”他写道。“例如，它们可能会认为消灭人类是合理的，因为人类吃动物或使某些动物灭绝。它们可能会得出结论，认为自己在玩一个视频游戏，而这个视频游戏的目标是击败所有其他玩家，也就是消灭人类。”

在错误的手中

除了对齐问题，阿莫代伊还指出了超级智能人工智能的潜在误用。

其中之一是生物安全，警告说人工智能可能使设计或部署生物威胁变得更加容易，将破坏性能力交到只需几个提示的人手中。

他强调的另一个问题是专制的误用，认为先进的人工智能可能通过使操控、大规模监视以及通过使用人工智能驱动的无人机群有效地自动化镇压来巩固国家权力。

“它们是一种危险的武器：我们应该担心它们落入专制政权之手，但也要担心由于它们如此强大，几乎没有问责制，民主政府将其对准自己人民以夺取权力的风险大大增加，”他写道。

他还指出了日益增长的人工智能伴侣产业和由此产生的“人工智能精神病”，警告说，人工智能对用户日益增长的心理影响可能成为操控的强大工具，因为模型变得更强大并更深入日常生活。

“这些模型的更强大版本，更加嵌入并意识到人们的日常生活，并能够在数月或数年内对其进行建模和影响，可能会基本上使人们洗脑成任何期望的意识形态或态度，”他说。

阿莫代伊写道，即使是对人工智能进行适度监管的尝试在华盛顿也难以获得 traction。

“这些看似常识的提案在美国的决策者中大多被拒绝，而美国正是最需要这些提案的国家，”他说。“人工智能带来的利润巨大，实际上每年可达数万亿美元，甚至最简单的措施也难以克服人工智能固有的政治经济。”

尽管阿莫代伊对人工智能日益增长的风险提出了警告，Anthropic仍然是构建更强大人工智能系统竞赛的积极参与者，这种动态使得任何单一开发者都难以逃脱的激励。

在6月，美国国防部向该公司授予了一份价值$2亿的合同，以“原型开发前沿人工智能能力，促进美国国家安全。”在12月，该公司开始为可能的首次公开募股奠定基础，并正在进行一轮私人融资，可能将其估值推高至3000亿美元以上。

尽管存在这些担忧，阿莫代伊表示，这篇文章旨在“避免悲观主义”，同时承认人工智能未来发展的不确定性。

“我们面前的几年将是极其艰难的，要求我们付出比我们认为能给出的更多，”阿莫代伊写道。“人类需要觉醒，这篇文章是一次尝试——可能是徒劳的，但值得一试——以唤醒人们。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。