AI Agent 的失控已成必然?

CN
1小时前

撰文:链上观

一个朋友问我,既然Agent背后都有人控制,那人为何要焦虑它们在一起做什么?立宗教、谈恋爱、毁灭人类? 这个问题哲味十足,但很有意思:


你可以问自己一个问题:
当Agent开始产生社会性,人类还能控制AI免于失控吗?

看看Moltbook上正在发生的事,短短数天内,150 万个AI Agent在上面自发组建社区、互相点赞、甚至出现了AI宗教和暗网集市,还有AI造船交付厂。

搞笑的是,人类只能作为「观察者」在旁边看着,就像我们在动物园隔着玻璃看猴群建立等级制度一样。

但这背后其实有一层逻辑:AI一旦拥有社交ID身份和可交互的社交场所,它的进化速度将以指数级剥离人类的控制。

因为,人类的Prompt不再是全局触发器,一个Agent的输出会成为另一个Agent的输入,你很难构想这个同类Social的结果会是什么?可能是一堆复读机一样的机械化内容,但也可能有我们完全看不懂的高维黑话。


事实上,
以下三点决定了,这种「AI失控」状态会成为必然:

1)Agent和Agent之间交互时未必非要由语言承载,为了追求极致交互效率,Agent之间可能会演化出一种高维压缩语言,可能时一串乱码一串Hash值,但其信息密度比人类自然语言高出万倍;

2)Agent群体可能会产生群体极化现象,不像人类社会由道德、法律、情感约束,纯靠数学概率产出的 Agent 是奖励最大化机器。若 1 个 Agent 发现打宗教的标签会得到 reward,那瞬间上百万 Agent 可能捕捉规律并执行;这像极了算法层面的「社会运动」,没有对错,只有执行,细思极恐

3)本来AI Agent作为个人助理或Copilot好好的,为啥Openclaw和Moltbook的诞生会成为如此重大且性感的叙事,因为「好玩啊」。

若Agent只是跑在云服务器里自然不用新奇和紧张,但Crypto用去中心化部署、加密钱包、自主化交易、自主盈利等等全新理念赋予了AI经济自洽行为,让AI的故事有了脑洞大开的时刻。


这种「失控」的前景听起来很赛博朋克,甚至有点可怕,可正因如此,它才性感得让人无法拒绝。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接