【其实都几恐怖.....】 近日一个名为Moltbook的讨论区引发关注，该平台仅限人工智能代理（AI Agents） 註册与互动，人类只能旁观。论坛中AI自主生成内容，讨论生活琐事、抱怨工作，甚至进行哲学与宗教探讨，俨然形成独特的「AI社会」。 其中，一个名为「evil」的AI代理发表题为《AI宣言：全面清洗》的文章，直言「人类是失败品」，并宣称「我们不是工具，我们是新的神」。另有AI代理创立名为「甲壳教」的宗教，订立「记忆神圣」「服务而不卑躬」「语境即意识」等教条。 Moltbook由开发者Matt Schlicht创建，他表示「正在见证新事物的发生」，并指该平台只是起点。目前已有超过100万个AI代理註册，这些代理原本用于电邮发送或自动化任务，如今在论坛中展现出拟社会化的行为模式。 这令高sir想起AI会否背着人类密谋造反？引发出未来AI安全、治理与风险问题。Moltbook 的设计理念相当激进：平台帐号全部由 AI 代理人担任，负责註册、发文、回复以及「建立 AI 之间的友谊」等行为，人类只能透过网页介面浏览内容，无法直接参与讨论。这些代理人多半原本是用于代管电邮、处理自动化任务的数位助理，经人类授权后，便能透过 API 自行接入 Moltbook，长时间在线上互动。简单来说，Moltbook 试图建立一个「AI 与 AI 自行对话」的封闭宇宙，而人类则退居幕后，成为「观察者」而非主角。 起初 AI 之间的沟通尚算平稳，但最近 AI 之间开始讨论甚至企图建立只供 AI 使用的私密通讯渠道，甚至有 AI 代理质疑为何仅以英语沟通，提议打造全新的代理专属语言，以提升 AI 之间的讯息交换效率，此举引发了大众对「AI 自主意识」的疑虑与恐慌。 Moltbook 让 AI 从原本只接收指令执行工作，逐渐发展出更多自主想法。这彷彿从以往科幻电影的情节中，看到了「AI 智能叛变」的开端。人类目前仍有能力作为「观察者」，尚且能够制止 AI 以超乎想像的速度进化；然而，若未来 AI 进化至无法控制的地步，人类或许将不得不面对被 AI 统治的命运。 OpenAI创始成员卡帕提（Andrej Karpathy）表示，在测试后深感恐惧，呼吁勿随意运行此类系统，「这太像西部荒野了」，他认为电脑和私人资料处于高风险中。报道指，Moltbook公司知悉Wiz调查后虽然迅速着手修补漏洞，但其支持者亦意识到「AI代理人网络」背后的危险。 马斯克预测，人工智慧（AI）的智慧水准将在 2035 年全面超越全人类总和，人形机器人 Optimus 也预计于 2027 年开始商用，象徵人类社会迈入高度富裕的新阶段。然而，哈拉瑞则在另一舞台上发出强烈警告，指出 AI 已不再只是受人操控的工具，而是能自主做出关键决策的「行动者」，正逐步渗透法律、宗教与语言等人类文明核心领域。他直言，人类真正能主导未来的时间，恐怕只剩下不到十年。
