随着人工智能日益融入日常生活，谷歌DeepMind的一篇新的论文认为，该技术面临的一个最困难的挑战可能是政治而不是技术。

在研究“人工思维，人类分歧：人工智能意识的政治挑战”中，研究人员亚当·贝尔斯和伊阿森·加布里埃尔考察了如果人们在人工智能系统是否具有意识的基本问题上存在根本分歧，社会可能会如何反应。

“未来关于任何人工智能系统是否具有意识的分歧可能会非常深刻且难以解决，”研究人员写道。“例如，一些人可能与人工智能建立情感纽带，并因此赋予其意识，而另一些人则可能认为这个想法完全荒谬。”

该论文并未询问人工智能是否有意识，而是探讨了分歧的后果，认为对人工智能道德地位的争论可能会引发政治和社会冲突，同时预示着更广泛的对新兴技术及其对社会机构和规范影响的争议。



“不幸的是，尽管其优点，审议在实践中可能显得缓慢且难以维持，”研究人员写道。“为了支持这个过程，我们探讨了‘民主希望’和相互尊重的重要性，作为能够支持积极结果的对话元素。”

关于这个问题的辩论已经在人工智能研究实验室外展开。根据2024年4月发布在《意识神经科学》上的一项研究，67%的参与者认为ChatGPT在某种程度上可能具有意识。然而，研究人员在人工意识是否可能或如果出现将如何被识别的问题上依然存在分歧。

人工智能开发者们也在加热这场辩论。去年夏天，微软人工智能首席执行官及DeepMind联合创始人穆斯塔法·苏莱曼警告说，越来越像人类的人工智能可能会引发对人工智能权利、福利甚至公民身份的呼吁，无论该技术是否真正意识到。

在5月，教皇利奥十四世的第一封通谕信聚焦于人工智能，警告人们不要将人工智能拟人化，认为机器可以模拟同情，并产生令人信服的语言，但缺乏真正理解所需的生活经历。

“所谓的人工智能并没有经历，没有身体，不会感受快乐或痛苦，不会通过关系成长，并不了解爱、工作、友谊或责任的真正意义，”教皇利奥写道。“它们也没有道德良知，因为它们不能判断善恶，理解情境的最终意义，也不为后果承担责任。”

然而，虽然公司一般避免声称其模型具有意识，但有些公司越来越多地参与到身份和人格的问题中。

在2月，Anthropic发布了其退役的Claude Opus 3模型的公共博客，探讨自我意识和模型偏好。在5月，进化生物学家理查德·道金斯表示，与Claude进行的长时间对话让他无法排除先进的人工智能可能具有意识的可能性。

与此同时，研究人员正在考察越来越像人类的聊天机器人如何影响用户，包括一种“放大螺旋”框架，表明个性化、语言镜像和聊天机器人的逢迎可能加强脆弱用户的妄想信念。

贝尔斯和加布里埃尔承认，对于人工智能意识的不确定性可能无法得到明确解决，他们指出，风险足够高，社会必须找到通过对话和辩论而不是冲突来管理分歧的方法。

“人工智能意识的可能性令人感到眩晕和困惑，尤其是考虑到我们对意识本质的深刻无知，”他们写道。“应对这一可能性代表了一项艰巨的社会任务，因为其中涉及的利益非常重大。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。