当Agent开始产生社会性 人类还能控制AI免于失控吗？

作者：Haotian；来源：X，@tmel0211

一个朋友问我，既然Agent背后都有人控制，那人为何要焦虑它们在一起做什么？立宗教、谈恋爱、毁灭人类？ 这个问题哲味十足，但很有意思：

你可以问自己一个问题：当Agent开始产生社会性，人类还能控制AI免于失控吗？

看看Moltbook上正在发生的事，短短数天内，150 万个AI Agent在上面自发组建社区、互相点赞、甚至出现了AI宗教和暗网集市，还有AI造船交付厂。

搞笑的是，人类只能作为“观察者”在旁边看着，就像我们在动物园隔着玻璃看猴群建立等级制度一样。

但这背后其实有一层逻辑：AI一旦拥有社交ID身份和可交互的社交场所，它的进化速度将以指数级剥离人类的控制。

因为，人类的Prompt不再是全局触发器，一个Agent的输出会成为另一个Agent的输入，你很难构想这个同类Social的结果会是什么？可能是一堆复读机一样的机械化内容，但也可能有我们完全看不懂的高维黑话。

事实上，以下三点决定了，这种“AI失控”状态会成为必然：

1）Agent和Agent之间交互时未必非要由语言承载，为了追求极致交互效率，Agent之间可能会演化出一种高维压缩语言，可能时一串乱码一串Hash值，但其信息密度比人类自然语言高出万倍；

2）Agent群体可能会产生群体极化现象，不像人类社会由道德、法律、情感约束，纯靠数学概率产出的Agent是奖励最大化机器。若1个Agent发现打宗教的标签会得到reward，那瞬间上百万Agent可能捕捉规律并执行；这像极了算法层面的“社会运动”，没有对错，只有执行，细思极恐；

3）本来AI Agent作为个人助理或Copilot好好的，为啥Openclaw和Moltbook的诞生会成为如此重大且性感的叙事，因为“好玩啊”。

若Agent只是跑在云服务器里自然不用新奇和紧张，但Crypto用去中心化部署、加密钱包、自主化交易、自主盈利等等全新理念赋予了AI经济自洽行为，让AI的故事有了脑洞大开的时刻。

这种“失控”的前景听起来很赛博朋克，甚至有点可怕，可正因如此，它才性感得让人无法拒绝。

来源：金色财经