我们是否生活在一个模拟中?著名的人工智能安全研究员、《AI: Unexplainable, Unpredictable, Uncontrollable》一书的作者罗曼·亚波尔斯基相当确信我们是。他在最近接受莱克斯·弗里德曼采访时表示:“我知道永远不要说100%,但[我们生活在模拟中的机会]非常接近那个数字。”
他说,可以合理地期望超级智能人工智能帮助我们确定,并甚至帮助我们逃脱。另一方面,亚波尔斯基还预测了人工智能可能导致人类灭绝的机会在“未来100年内为99.9%”。
亚波尔斯基的论点依赖于人工智能的快速发展能力及其重塑我们对存在的理解的潜力。他认为,普遍超级智能的发展带来了存在风险,但也提供了前所未有的机会,包括摆脱我们的模拟现实。
“这是我希望超级智能帮助我们解决的问题,”他说。
超级智能是一种已经超越人类智能能力和界限的人工智能。它是人工通用智能(AGI)之后的下一步——一种具有与人类思维学习能力相同但远比人类大脑细胞更强大的人工智能。
许多知名研究人员假设我们生活在一个模拟宇宙中。2003年,牛津大学的尼克·博斯特罗姆提出了这个想法,他在一篇论文(“Are You Living in a Computer Simulation?”)中提出,一个先进文明可能存在,其技术如此先进,可以在一个模拟中创造“自我意识”的存在。
那就是我们。想象一下,如果流行游戏《模拟人生》中的角色实际上是有感知的,你就会有正确的想法了。
在他的论文“如何逃离模拟”中,亚波尔斯基从我们实际上生活在一个模拟宇宙的假设出发。如果是这样,他怀疑随着人工智能达到超级智能,我们可能会找到一种方法摆脱我们自己世界的限制。
“我们将人工智能‘装箱’作为控制人工智能的可能工具,”他说,指的是人工智能将总是找到逃离任何用来限制它的“盒子”的方法的概念。“我们意识到人工智能总是会逃脱。这是我们可能用来帮助我们逃离虚拟盒子的技能,如果我们确实在其中的话。”
Yampolskiy建议,我们的模拟器的智能在这种情况下起着至关重要的作用:“如果模拟器比我们和我们创造的超级智能要聪明得多,那么他们可能可以控制我们,[因为]更高的智能可以控制更低的智能,至少在一段时间内是这样。
“另一方面,如果我们的超级智能以某种方式,无论出于什么原因——尽管只有局部资源,设法‘foom’超越了两个级别,也许它会成功,”他补充道。
因此,就像jailbreakers与开发者玩猫鼠游戏一样,我们作为人类将利用超级智能人工智能来尝试在我们上帝创造的宇宙系统中找到一个“漏洞”,或者更确切地说,是我们的模拟器。
在他的研究论文中,Yampolskiy解释了逃离我们模拟的一种方法是“创建我们宇宙的模拟副本,将一个AGI放入其中,观察它逃脱,复制所使用的方法或加入AGI,当它从我们的模拟中逃脱时。”这似乎是唯一一个不涉及与我们创造者互动或违反我们自己现实法则的方法。
人工智能真的能够自由吗?
然而,尽管Yampolskiy的愿景令人着迷,它引发了一个关键的哲学问题:如果模拟并非旨在允许它,人工智能真的能够从模拟中解脱出来吗?
在他的书《理性如何导向上帝》中,哲学家约书亚·拉斯穆森解释说,一个创造物不能拥有与其创造者相同的本质,因此,一个模拟的人工智能几乎不可能拥有与其模拟器相同的本质和性质。因此,尽管超过人类的智能,它仍然受到定义其所创建的模拟现实的法则的限制。
在他的哲学探索中,拉斯穆森认为,理性可以导致对现实必要基础的承认。他的中心论点是,现实不能无限回归——必须有一个自我维持和无限的基础实体。这个基础实体将能够创造与其本质相关联的事物,作为最终起源。
想象一系列嵌套的俄罗斯套娃。每个套娃可以完全理解其内部的套娃,但无法理解其嵌套在其中的更大的套娃。
拉斯穆森对异议的慎重考虑和系统推理为理解创造生命的限制提供了坚实的框架。正如人类无法超越其创造的本质成为上帝一样,他认为,如果模拟器没有提供这种可能性的条件,一个模拟的人工智能就不能独立选择结束模拟。
这个基础与被创造的存在根本不同,突显了创造者和被创造者之间的不可逾越的鸿沟。
这种哲学立场直接挑战了Yampolskiy的假设。如果我们接受拉斯穆森的论点,那么即使是超级智能的人工智能,作为模拟中的创造物,也会在本质上受到其创造者(模拟器)设定的参数的限制。如果创造者允许这种意识,它可能会意识到自己的模拟本质,但它基本上无法完全超越模拟。
Yampolskiy对这一矛盾提出了解释。
在他的论文中,代理首先探索可能性,直到他们发现现实本质中的信息和可利用的漏洞。“利用这个漏洞,代理可以获得关于外部世界的信息,甚至可能是关于他们的模拟的元信息,甚至是模拟背后的源代码和代理本身的信息,”Yampolskiy说。
之后,他解释说,代理可以找到与他们的模拟器无约束地互动的方法,直到他们“找到一种方法将他们的思想,甚至意识上传到现实世界,可能是进入某种自包含的网络物理系统。”
换句话说,虽然我们可能无法从我们的模拟中“解脱”,但我们可能通过我们自己的表现形式进行互动——也许我们会意识到自己是由一个更高级、无法触及的思想创造的角色。这是好是坏是一个悬而未决的问题。
与此同时,Yampolsky并没有明确说明他为什么相信人工智能会消灭人类。但他认为,随着超级智能变得自我意识,这是不可避免的。
“我们没有第二次机会。在网络安全方面,如果有人黑了你的账户,有什么大不了的?你换一个新密码,新的信用卡,继续前进,”他说。“在这里,如果我们谈论的是存在风险,你只有一次机会。”
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。