文｜創瞰巴黎
Laure Soulier
法國索邦大學高級講師，“機器學習和信息訪問”課題組成員
導讀
生成式人工智能（AI）的崛起引發了激烈的討論，究竟它將給我們帶來怎樣的未來？本文通過解析生成式AI的優勢、局限性以及對社會的影響，試圖為讀者揭示一個全新的數字時代面貌。我們將探討AI的智能性、安全性和潛在的就業影響，以及未來的發展趨勢。生成式AI究竟是人類的助手還是威脅？它是否將顛覆我們的工作方式？
一覽：
- 生成式AI基于概率預測和深度語言模型輸出內容，能根據用戶的需求生成各類文章、圖像、視頻等。
- 盡管目前的AI功能已十分強大，但仍不能與人類智能相提并論。AI只是根據訓練數據生成看似最可信的內容，并不能確保符合客觀事實。
- 如果訓練數據集包含錯誤信息或偏見，生成結果也不可避免地將其再現。
- 作為一種工具，生成式AI讓部分任務實現自動化，這更有可能增加就業崗位而非使之減少。
- 生成式AI的未來發展趨勢仍不確定，但技術開發必須考慮AI的環境足跡，減少其資源耗費。
01 生成式AI將掀起一場“智能革命”嗎？
生成式AI是一種新型的AI——正確
AI系統種類繁多，其中生成式AI因其生成文章、圖像、視頻等內容的強大能力而脫穎而出、備受關注。當前最廣為人知的有ChatGPT、Bard、Midjourney、DALL-e等，其基礎是大型語言模型（LLM），即經過大量數據訓練的人工神經元深度網絡，可根據具體情境和概率預測生成下一個單詞或相鄰像素。
生成式AI有智能——錯誤
生成式AI之所以功能強大，是因為它能基于海量數據，在多個元素之間建立聯系，發現規律。這是一個復雜的過程，涉及大量的數學運算，但計算機能在極短時間內完成。
僅憑此能說計算機具有“智能”嗎？雖然AI生成的結果令人瞠目結舌，但其解決問題的方法與人類認知能力迥然不同。迄今為止，生成式AI只不過是多個弱AI（只能處理特定問題）在同一個模型框架下的集合體，尚達不到“通用AI”的水平，無法表現出正常人類所具有的智能行為。
生成式AI無所不能——不確定
生成式AI目前應用于眾多領域：音樂創作、游戲場景設計等等。至于最早用于捕捉單詞語義的語言模型，現在則能寫文章、回答問題、翻譯、甚至生成代碼。但AI也有其局限性：其能力與訓練期間使用的數據集密切相關。訓練數據集里包含的關聯和偏見，會導致錯誤的輸出。例如，中文譯法語時，有些AI翻譯系統會傾向于將“護士”翻譯為“l’infirmière”（陰性詞），因為訓練數據集里存在對該職業的性別偏見。
此外，生成式AI的輸出并不穩定。就ChatGPT而言，同樣的問題，提問措辭不同，得到的答案也不同！這是因為生成式AI會將信息轉換為高維向量的數學運算，具體運作方式就像一個無人知曉的黑箱。目前，相關研究仍在進展。
02 我們應對生成式AI保持警惕嗎？
生成式AI會出錯——正確
請大家切記，生成式AI并不能生成客觀事實，它只是根據訓練數據生成看似最可信的內容，但時而會前言不搭后語。如果訓練數據集包含錯誤信息或偏見，生成結果也不可避免地將其再現。總之，現有的AI不在乎結果是否準確或有依據。這就是為什么AI時不時會胡言亂語，或生成荒誕不合理的圖像。
圖片來源: PI France
根據中國香港大學的一項研究[1]，ChatGPT 3.5版的準確率只有64%。請問你會相信一個每三句話就有一句不實的人嗎？
生成AI將起義叛亂，統治人類——錯誤
每當AI發展達到新階段，便會有人擔心機器人起義反抗人類，就像科幻小說里所描述的。但我們不應將AI過度擬人化：生成式AI只是概率預測器。雖然運作方式復雜，但它沒有情感，也沒有意識，更不可能萌生反叛的念頭。
2015年，著名華裔美籍AI專家吳恩達（Andrew Ng）曾說，擔心AI揭竿而起是杞人憂天，就像“尚未登陸火星，便開始擔心火星上人口過剩” [2]。即使AI技術近年來有了很大的發展，但與引起擔憂的程度相比，仍然存在天壤之別。
生成性AI會引發信息安全問題和泄密——不確定
今天，大多數生成式AI模型都托管在美國的服務器上。根據美國《愛國者法案》和《云法案》，美國政府有權收集這些服務器上的數據。此外，輸入給生成式AI的數據必然會被多次使用以優化模型，但這也增加了數據在輸出中泄漏的可能性，對于對數據安全性和保密性要求較高的企業，存在一定的風險。當然，這些企業可以將AI系統安裝在封閉的本地服務器上，或采用開源生成式AI，作為替代方案。
歷史告訴我們，監管政策遲早會跟上新技術發展的步伐。2023年底，歐盟理事會和歐洲議會就《人工智能法案》文本達成了一致[3]。未來該法案的內容將繼續完善，與歐洲《通用數據保護條例》的宗旨保持一致，讓AI的使用有章可循。
03 生成式AI：是人類的助手還是威脅？
生成式AI可以代替人類完成某些任務——正確
生成式AI能在某些專業領域大展身手：它可以起草文章、編寫代碼、制定員工培訓方案…但生成的內容仍需要人工把關，檢查準確性，增添個性化內容，確保合適的風格語調。因此，AI只是一種提高工作效率、節省時間、改變人類工作方式的工具。
不過，的確會有一些低附加值的工種因AI而消失，這是技術進步的必然，正如隨著電燈的出現，歐洲便不再需要點亮煤油路燈的點燈人。
生成式AI將導致數百萬人失業——錯誤
我們應理性看待生成式AI對就業的影響。歸根結底，AI只是一種為人類服務的高效新工具。勞動力市場的變化取決于許多因素，新技術只不過是其中一個。雖然一些超市里有了自助掃碼結賬機，但收銀員這一職業并未就此消失。雖然在線學習愈發普遍，但傳統的學校和教師也并未被徹底取代。
生成式AI的崛起可能會催生新職業，比如“提示工程”：通過優化輸入提示，引導模型生成高質量輸出。國際勞工組織（ILO）指出：“生成式AI讓部分任務實現自動化，這更有可能增加就業崗位而非使之減少。” [4]
生成式AI還能走多遠？–不確定
從長期來看，生成式AI將如何發展？預測生成式AI的未來并不容易：畢竟幾年前沒人能預測出它的今天。然而，未來的一些趨勢已初露端倪，例如各種系統與生成式AI“雜交”——搜索引擎與AI結合，可以提高結果的準確性，一定程度上杜絕AI“信口開河”的情況。
最后，生成式AI的環境足跡也不容忽視。運行這些模型需要大量的數據和算力，故耗能巨大。已經有學者在研究低耗能AI，旨在減少其對資源的需求。
作者
Bastien Contreras
編輯
Meister Xia
參考資料
1. https://arxiv.org/pdf/2302.12095.pdf
2. https://www.wired.com/brandlab/2015/05/andrew-ng-deep-learning-mandate-humans-not-just-machines/
3. https://www.consilium.europa.eu/fr/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/
4. https://news.un.org/fr/story/2023/08/1137832