文 | 極客公園 張勇毅

編輯 | 鄭玄

你是否設想過「完全由 AI 掌控運行的世界」會是什么面貌？

或許你還以為這種設想距離我們仍然有一段距離，但實際上「世界上首個 AI」文明已經誕生，并且還是在一個全年齡向的游戲中。

「讓 AI 自己構建世界并運行」這個概念，其實在大模型的發展過程中并不陌生：尤其是在一個開放世界類游戲中，探索 AI 會如何自主決策，一直是 Agent（智能體）研究領域常被提到的發展方向。

這種設想也經常成為文學作品的背景設定：在美劇《西部世界》中，就出現了這樣一個完全由 AI「構建」、以美國西部拓荒歷史為原型的虛構文明，它會根據實際情況做出對應的決策，即使是有人類的介入，這個完全由 AI 構成的小社會也能保持正常運轉。

這樣的設想，如今已經被一家 AI 陪玩公司開發出了雛形：9 月 4 日，創業公司 Altera 的創始人 Robert Yang 在社交媒體上發布了一段關于號稱是「世界上首個智能體文明」的演示視頻，并配文：

「人類之所以能登上月球，是因為人類能夠完成大規模的合作」「AI能做到同樣的事嗎？」

截至本文發布時，這條視頻的觀看量已經突破 71 萬次，并獲得了包括 OpenAI 員工在內的多方技術大牛的轉發與討論。成為了業內討論最多的新話題，Robert 本人更是表示會在九月下旬發表更多的研究論文，公開其中的更多有趣細節與技術原理。

01 構建新文明

這個所謂的「世界首個智能體文明」，實際上名為「希德計劃」（Project Sid），旨在構建一個由數千個 AI 驅動的智能體構建起的文明。

從 Robert 公布的視頻中能看出，目前這個世界中，「居住」著超過一千個智能體，并按照人類社會的發展模式，構建了屬于自己的社會體系：包括政府、警察以及宗教機構，甚至還有對應的「寶石」來作為貨幣交易體系。

在演示視頻中，這些數量超過四位數的智能體，他們每個都被賦予了自己獨特的姓名、專長與愛好，這些在很大程度上決定了他們在這個小小社會中，會充當怎么的角色，最終讓整個生態每個人都安居樂業，維持在一個平衡的狀態，并齊心協力，在抵御怪物入侵以及滿足生存的前提之下，完成基建等復雜工作。

在 GPT-4 的加持下，「希德計劃」中的智能體們實現了前所未有的突破：他們收集的物品是以往類似實驗的五倍之多，并且他們還模擬出了現實世界中存在的民主議會，以及宗教等人類文化特征。

更加有趣的是，開發者在智能體社會已經構建出民主制度的基礎上，塞進了智能體版本的特朗普與哈里斯，并將美國兩黨的主要施政理念以文檔的方式散布在這個社會中，讓人類世界的美國大選真正來臨之前，智能體社會先進行一次模擬大選。

在這個社會中出現某個成員失蹤的情況時，其他智能體會先進行討論分享現有信息，并迅速做出結論，合力尋找失蹤的成員，并迅速提出「亡羊補牢」的改進措施——增加道路旁的火炬數量，來降低未來成員失蹤這樣的事件發生的概率。

這些模擬社會中的細節，不同于以往我們已經熟悉的 AI 單槍匹馬的強悍表現，更是展現出了一個高度文明化的社會：能自行規范成員，并且在緊急情況下迅速互助來實現應變的團隊。

02 開發團隊

實際上，Robert Yang 此前創立的 AI 初創企業 Altera，在今年五月就推出過一款 AI 陪玩 Agent「Altera Bots」，應用游戲就是《我的世界》。

在五月發布的陪玩機器人中，Altera Bot 就已經展現出了無需玩家干預，自主進行游戲，在玩家游玩遇到瓶頸時出手相助。

但這個 AI 陪玩也不只是會完全聽從玩家的命令行事，例如如果玩家要求 AI 陪玩機器人去攻擊其他玩家，機器人就會拒絕這樣的請求，甚至還會在玩家在游戲中攻擊機器人時，做出一定程度上的反擊。

彼時，這個 AI 陪玩機器人就已經展現出了一定程度上的自主決策能力，但這時的 AI 距離足以構建文明的智慧能力還有很長一段距離。

雖然 Altera Bot 作為一個陪玩機器人，其表現在當時一眾對話機器人的表現中看起來并不出眾，但這家公司在首個產品——也就是這款《我的世界》AI 陪玩平臺發布之后，就迅速收獲了包括 Google 前 CEO 艾瑞克施密特旗下投資公司在內的 900 萬美元融資。

能迅速收獲資本青睞的原因無他，Altera 創始團隊不僅包括 Robert 這樣擁有耶魯計算神經科學博士學位的、并且創業前曾是麻省理工學院研究所負責人這樣的大牛，公開的創始團隊中，也還有多位來自 Google X、斯坦福機器學習研究小組以及伯克利著名 AI 研究機構的科學家加入。

除了創始團隊，資本更看重的，或許是在「陪玩機器人」的表象之下，Altera 在數字孿生領域的巨大潛力；通過一個完全模擬出的人類社會，來觀察群體在面對重大問題時的選擇。

這也并不是《我的世界》第一次在生成式 AI 領域作為「開放世界樣本」得到應用：2023 年五月，英偉達 AI 科學家 Jim Fan 等團隊，已經通過將 GPT-4 打包進《我的世界》，測試 AI 基于環境反饋來學習技能的效果。

Voyager 已經初次展現出 AI 無需調整模型參數、可以復用此前學習到的技能、實現「終身學習」的潛力。但當時還停留在單個智能體的「升級打怪」之路。

如今，AI 在游戲中不僅可以獨立思考，還能在此基礎上完成團隊協作，讓 AI 完成很多原本看起來復雜的「超級工程」，成為了可能。

但想要構建一個穩定的文明，是一件極其復雜的工程：Altera 在希德計劃的技術博客文章中提到，團隊在構建這個世界時面臨的主要挑戰，就是如何去衡量社會進步程度與因素：社會的進步可以體現在 AI 更加富裕或是整個 AI 社會更加壯大，但這些都無法從整體上認定 AI 社會出于一個進步的狀態。

此外，人類在通過自然語言給 AI 下達命令時經常會出現「詞不達意」的情況，在 AI 社會中也經常出現，研究團隊在論文中特別提到目前以 GPT-4 的能力賦予智能體，在傳遞具體任務信息（例如制作鐵鎬）時，對傳達信息的準確度有著極高的要求，不然就會隨著龐大社會中不同分工的逐層傳遞變化，導致實際結果與最初的指令天壤之別。

03 「數字生命」探索世界

在「數字孿生」與「數字生命」這兩個概念爆火之前，《我的世界》其實一直是關于文明發展過程的優秀載體，由此帶來的意義甚至已經超過了游戲本身的內容。讓兩組「村民」（游戲中的 NPC）在玩家的干涉下，各自發展文明，在發展到一定階段后爆發戰爭，經常是 YouTube 上《我的世界》主題視頻中的熱門視頻，播放量以千萬計。

但除了這些劇情設定上帶來的表演效果，在一個完全由智能體構建的社會中，會根據當前需求思考、整理需求的 AI，在游戲中不斷發展，一定會觸及智慧生命都會想到的那個終極命題：

「我存在的意義是什么？」

在《我的世界》中，這個「終點」被設計為「收集足夠的材料與補給，打造下界傳送門，去擊敗最終 Boss——末影龍」。

這個目標在英偉達 Voyager 時期，AI 已經可以實現打造一個有著復雜 3D 結構的下界傳送門，但這時還是建立在人類提供信息標注反饋的基礎上——因為其中不僅涉及到復雜建筑，還涉及到了在生存之外更高維度的需求。

在 Robert Yang 公布的演示視頻中，其實也已經涉及到了這種 AI 的成長曲線：一位名為 Olivia 的女性智能體，她被設定的工種為「農夫」，負責為整個社區供應食物。

但在某一天，Olivia 受到了社群中某個冒險家的激勵，于是產生了「世界這么大，我想去看看」的想法；但在與社區中的其他智能體討論過后，她明白了向外探索的冒險固然重要，但當下的這個社區，同樣離不開她的工作來喂飽所有成員。

在這個過程中，Olivia 覺醒了作為個體的價值探索，但同時也意識到了自己所背負的責任，這個高度人性化的過程，完全是一個社會化的智慧生命應該表現出的特征。

從開發團隊發布的論文中也能看出，比起《西部世界》，開發團隊更想做的或許是另一款游戲《底特律：變人》中設想過的場景：未來具有高度自主能力的智能體可以憑借極其聰慧的能力，以及能夠理解現有規則并遵守的組織能力，去融入人類社會，來幫助這個社會變得更加高效，同時解決現有人類社會中一些僅憑人類很難解決的社會問題。

在《底特律：變人》中，創作者借游戲中人類角色漢森之口，道出了他們所設想的智能體融入人類社會的最終目標：CyberLife androids are designed to work harmoniously with humans.（模控生命的仿生人本來就是設計要與人類和諧共事。）

Altera 的希德計劃，或許已經是目前人類在大模型研究領域所能實現的規模最大、最完善的社會模擬實驗，其中智能體所展現出的人性與文明，甚至已經到了如今人類相比之下就會感到羞愧的地步。

當然也有人看的更遠，在原貼發布的評論區，已經有人看到了這些智能體們，在文明與人性之下，所潛藏的欲望與沖突：在模擬中無論代表特朗普還是哈里斯的智能體當選，都提出了包括「反對墮胎」「增加更多警察來預防犯罪」這樣相對具有爭議性的政策。

一個完全由智能體構成的文明，會重新走上人類走過的道路，還是會通過更具智慧的方式，來更理想化的解決這些問題呢？