量子物理學家波爾曾說：如果誰說能理解量子力學，那一定是腦袋進石頭了！上世紀初，科學家知道利用量子原理，卻很難感性理解量子現象，因為新現象與舊認知相距太大。

類似情況正發生在人工智能上。

人工智能是一場正改變人類生存環境的浪潮。可是，1）受影響的絕大多數人并沒有機會參與決定被改變的內容、方向和程度。2）技術先進正按照自己的工程思維改寫社會文化的基因。3）他們對手中強大技術的社會后果認識偏頗（行話為偏置明顯），忽略AI的滅絕力量。4）他們對技術的信仰覆蓋了個人對自己的生命意義的追求。全球智慧企業“年度50強”之一的“曠視”（Mega Vision）辦公大廳里，有一幅價值愿景口號：“為了人工智能終將創造的所有美好！”。誰創造？誰被創造？怎樣的美好？對堅持不美好的少數怎么辦？這些比技術更重要的美學問題在討論中嚴重缺席。

對于人工智能的難題，文學敘事不失為合適的理解工具。文學無需拘泥于事實、允許荒誕想象。它自由馳騁的思想力可以暴露人工智能“偏置” （算法中有偏見的設置）盲點。AI比任何時候都需要文學和美學的參與。

為何要拒絕AI創造的“完美漸顯現象”

過去，未來是在各種力量隨機碰撞中逐漸顯現的事先不可知現象。人工智能改寫歷史錯誤和隨機碰撞的結果，帶來完美的過程。閉環回饋、反芻式學習系統可以不斷修改歷史經驗，去除歷史判斷的“錯誤”。這樣一來，人的“愚蠢性”只會在算法里出現一次，不會重復，因為歷史經驗可以在閉環回饋中修改。

可是，愚蠢也有它的價值。只有在AI消滅人的“愚蠢”之后，我們才倍加懷戀它的價值。陀思妥耶夫斯基和福樓拜的小說幫助我們看到愚蠢人性有價值的一面。

陀思妥耶夫斯基通過《地下室手記》的主人公表明對數學般完美生活的看法：2加2等于4，這樣推演生活不是展示生命，先生們，是死亡的開始！

19世紀的歐洲，理性的個人主義和浪漫的烏托邦思想到處蔓延。陀思妥耶夫斯基的小說卻著重描寫個人非理性主義行為和殘酷冷峻的生活。他的代表作《地下室手記》中的主人公“一無所有，沒有大衣，沒有靴子，寒酸透頂”，怎么看都是一位生活的失敗者，一位社會和家庭的棄兒。小說開頭就寫到：我是一個有病的人，兇狠的人，不招人喜歡的人。可是就在他完全病態的性格行為中，就在那陰森冷漠的地下室空間，20世紀的一代又一代讀者領會“我是誰？”“什么是意識？”“殘酷現實有何意義？”

放置閉環回饋和反芻式學習系統中，地下室和它的主人會被消滅。失去小說描述的病態不完美，讀者也會失去深刻理解人性的一扇窗。

另一部同時期法國小說《包法利夫人》中每個角色，愛瑪、查理、老包法利、赫麥、羅多爾夫、萊昂，都帶有某一種典型的人性惡習：懦弱、愚蠢、貪婪、冷漠……。作家福樓拜筆下的愛瑪一次又一次地追求憧憬向往的愛情和家庭，一次又一次被欺騙，受折磨，直至死亡。小說里的人物極其現實，因為它取材于當時的一個真人真事：一個法國鄉村醫生夫人的服毒案。

福樓拜是第一個探討人性愚蠢價值的作家。浸淫到《包法利夫人》描繪的現實情境中，你才能感性理解生命過程無常、殘缺、不完美、每一次都不一樣。讀完他的小說，你就明白，在沒有感知生命過程特征之前，就制造一個假設的完美程序，它是危險的。那些被修改掉的不完美性也許是未來的救命稻草。

在魔幻現實主義中理解“不可減約性”

今天的人工智能經歷過60年和至少8個學科交錯影響的發展過程。它不能從單學科角度去簡單理解，也不能把它60年的發展歷史抽取出來后分別理解。這就是它內置的“不可簡約性”。

怎樣理解“不可減約性”的荒誕與悖論？它需要文學來幫忙。

作為魔幻現實主義作家博爾赫斯（Jorge Luis Borges）的鼎力之作，《沙之書》（Book of Sand）把不確定性和不可減約性簡練地呈現給讀者。這本“我”從圣經推銷員那兒買來的神奇的書由無窮無盡的頁碼組成，仿佛如恒河之沙。打開每一頁，它都連帶啟動一系列相關的符號。每一頁、每個符合表達著奇怪的東西，玄妙費解。博爾赫斯的另外一本小說《巴別圖書館》（Babel Library）把不可減約性的荒誕推向新高度。

《圣經·舊約》中，人類曾試圖建造一座能夠溝通和理解一切的通天巨塔，卻被上帝挫敗。小說《巴別圖書館》里的圖書館猶如通天塔，全然包含宇宙的智慧。圖書館的書架里包括23個書寫符號組成的目錄區域。可是，這個容納所有智慧的圖書館卻處處看似無序。任何人在特定區域抽出一本書，他只讀到看似亂七八糟的符號。四處找了一百年還是無頭緒后，人們以為這個全能的圖書館就是一大堆胡言亂語的紙張。其實，全能的圖書館是存在的。它是所有書籍的總和。人類的衰老、恐懼、欲求捷徑的動機讓人不得領悟全書。一旦領悟全書，前面所有的“亂七八糟”便剎那間顯示各自的意義。

博爾赫斯的小說荒誕，“不可減約性”也荒誕。荒誕不是錯誤，而是我們的理解能力與現象變化有差距。以荒誕對荒誕，也許我們可以架起對人工智能發展中“不可減約”難題的理解。

要相信極端不確定性的存在

人工智能潛含對人類的滅絕力量，屬于“無知的未知”（unknown unknowns）。與之伴生的極端不確定性可能帶來人類的滅絕危機。牛津大學“人工智能研究中心”的博斯特倫（Nick Bostrom）指出，當我們看到極端不確定可能帶來滅絕危機時，一切已經太晚，命運將無法改變。那些技術信仰者認為這是聳人聽聞。他們相信一切皆可控制。只有讀過《百年孤獨》，人們才能體會那幻影般不可知的力量能扭曲制造光怪陸離的人生。待到能夠體會時，改變已經不可能。

《百年孤獨》(One Hundred Years of Solitude)是另一部拉丁美洲的魔幻現實主義作品。哥倫比亞作家加西亞·馬爾克斯（Gabriel Garcia Marquez）描述了布恩迪亞家族百年七代的興衰、榮辱、愛恨、福禍，和文化與人性中無法逃避的孤獨。小說中的人物時而通鬼神，時而鐘情于科學技術。每一代人各有奇詭的折騰方式，卻總是以孤獨命終。無論他們如何上天入地，通鬼拜神，這七代人還是被神秘的外部力量籠罩。孤獨無意義注定是他們的宿命。

了解歐洲幾個世紀以來對拉美社會的剝削蹂躪是理解《百年孤獨》的鑰匙。加西亞·馬爾克斯曾經近乎絕望地表示：“拉丁美洲歷史是一切巨大然而徒勞的奮斗總結，是一幕幕事先注定要被人遺忘的戲劇總和”。1518年，騎著高頭大馬的西班牙人科特斯（Heman Cortes）出現在墨西哥時，當地的阿茲臺克土著人完全懵了。從軍事技術到社會文化，歐洲對當地人是完全無知的新現象（unknown unknowns）。人數上有絕對優勢的土著人首先被思想征服，然后遭受肉體的殺戮而無還手之力。在拉美的場景里，看到極端不確定性出現之時已經為終場的前戲。

人工智能會帶來另一慕拉美劇情嗎？我們寧可信其有，不可信其無！

“均質分布”的算法是生命不能承受之重

大數據工程師眼里沒有個體，只有平均值和偏差。通俗地講，“均質分布”指大數據分析總結出來的規律對整個人口有普遍適用性。由少數超級智慧的科學家開發出來的算法有凌駕于領域專業技能之上的統御能力（Master Algorithm）。精英提煉出的智慧程序應該可以代表全社會人的價值偏好。卡夫卡（Franz Kafka）的《變形記》，以及米蘭.昆德拉（Milan Kundera）《生命不能承受之輕》以戲劇夸張手法凸顯“均質分布”假設之荒誕。

在捷克作家卡夫卡的《變形記》中，主人公格里高爾.薩姆沙一覺醒來變成一只大甲蟲。這位卑微勤勉的推銷員曾經是家里的主要勞動力。工作收入為他掙來在家里的地位。每位成員重視他的物質貢獻，對他畢恭畢敬。當他由人變為“非人”，當他無法做物質貢獻時，家人的嘴臉全部改變了。薩姆沙頭腦中還是人的思維，但形體已經為“非人”。被社會和家庭徹底邊緣化的薩姆沙在痛苦和饑餓中默默死去。

是家庭成員思想變了形，還是主人公身體變了形？人與“非人”的區別是什么？誰為變形的后果負責？一旦人工智能變形為超級智慧，一旦人作為勞動者變形為“非勞動者”，我們將成為另一種卡夫卡現象。

另一位捷克作家昆德拉以《生命不能承受之輕》詰問每個人：一次不能重復的生命意義由誰來決定？ 小說中主要人物托馬斯和特蕾莎以相左的人生觀開始，用體現極致存在的死亡表達“輕”就是“重”，不能重復的生命要由自己來決定輕與重。

昆德拉的小說直接挑戰尼采思想。尼采認為，生命不過為事件，事件“永恒輪回”，超人是事件主角，爭取做超人，并讓超人決定一切。小說主人公最后共同認識到，平凡的人，即便只有輕薄卑微的事件經歷，仍然應該擁有對生命意義不可讓渡的決定權。這也許是普通人對超級智慧應該有的態度。

微積分和二進制的發明者萊布尼茨（Gottfried Leibniz）曾斷言：不能理性解釋的就不存在。類似的思維偏置普遍存在于人工智能中。文學作品幫助我們認識到愚蠢是人性不可分割的一部分，理性知識永遠不會完美，極端不確定性能帶來無法逆轉的生存危機，對精英開發的超級智慧平凡人也許承受不起。它們聽似荒誕。荒誕，因為人工智能的理性解釋能力尚低于感悟生命的水平之下。

（作者鮑勇劍為加拿大萊橋大學迪隆商學院終身教授，復旦大學管理學院EMBA特聘教授。）