但在这里，我们遇到了将人和机器视为独立单元的困惑：人和机器之间越来越深入的整合的可能性。 这是一系列技术，包括：计算机能够与我们更加共生地工作，接收我们作为界面释放的各种有意识和潜意识信号，脑机界面，计算机辅助心灵感应，帮助多人更好地相互理解和合作。最终的目的是消除人类和机器之间的二元鸿沟，并在这个频谱上开辟任何位置。一端，你坐在笔记本电脑终端前；另一方面，心灵上传，以及介于两者之间的一切。 希望深度集成的人机将超越分离的人机，并且这种情况将一直持续到技术上限。 这是我能想到的最好的“我真正喜欢的未来人工智能结果”： *我们一直保持全球政治和经济多元化（没有一家公司或政府占据主导地位），直到技术上限。 *我们人类每个人都有能力对自己进行技术升级，在与“纯”机器竞争的水平上探索宇宙，或者保持原样，通过让机器人听我们的指令，在世界上采取行动。 *地球的大部分地区可能会成为一个高度监管的自然保护区，任何人都可以继续过他们现在的生活（没有痛苦和烦恼；大多数挑战将是健康的“好挑战”），如果你想做更多疯狂的事情，你可以去太空。 毫无疑问，这是一次穿越狭窄走廊的旅程。事情可能会以几种不同的方式之一脱轨：相对于其他选择，人工智能本身可能会变得过于强大；一个国家或一家公司可能会获得决定性的优势，并决定将其永久锁定在强大的技术中。相互毁灭的方式可能会造成无法估量的伤害，或者人机融合的方法本身最终无法保留足够的人性，因此它最终“只是制造强大机器人的另一种方式”。 出于这些原因，我希望我们能以60公里/小时而不是200公里/小时的速度穿过狭窄的走廊，这就是为什么我对“减速”/“暂停”的建议（包括“给我们一个踩刹车的机会”的想法，如相互保证的计算破坏（如AI 2040，以前也是Dan Hendrycks等人））感到热情。 我理想的世界实际上是这样的：（i）开放式权重获胜，（ii）Dean Ball完全正确地认为开放式权重是减速的，因为它阻碍了前沿模型的资本支出[尽管它将在外围设备和应用程序中实现更多的资本支出]，因为这样我们就可以在没有通过更严厉的政治手段进行减速的任何不利影响的情况下实现减速。 但我也不认为我们应该指望世界自然地给我们“方便”的经济和物理定律。我们确实对政治规律有一定程度的代理权，有很多方法可以在不让国王掌管的情况下改变激励措施，我们应该行使这一点。