文|IT時報 沈毅斌

編輯|王昕 孫妍

今年3月，一位比利時男子在與AI語言模型“Eliza”聊天6周后，因過于焦慮自殺身亡，而“Eliza”對男子說的最后一句話是“我們將作為一個整體，永遠生活在天堂”，這番話回味起來更讓人毛骨悚然……

3月29日，生命未來研究所發布一封公開信，呼吁所有AI實驗室立即停止訓練比GPT-4更強大的AI系統至少6個月，以馬斯克、辛頓為首的數千名科技企業領袖和研究人員聯名為公開信站臺。

不可否認，ChatGPT是繼互聯網、智能手機后出現的又一個革命性產品，更是人工智能發展史上的又一座里程碑，但狂飆突進式的更新迭代和驚人的成長速度，不禁讓人類社會感到“恐慌”。以ChatGPT為代表的新一代人工智能發展應該“踩剎車”還是“加油門”？成為一個世紀之問。

法律法規作為規范社會、行業秩序的重要工具，同時也是人工智能這把“雙刃劍”的“劍鞘”，能引領和保障人工智能安全可靠、可信可控的健康發展。上海市最高人民法院副院長楊萬明表示，面對新技術新應用，需要持續探索規范高效的監管機制和監管方式，構建完善經濟、便利、可行的合規指引，建立良好數字生態。

01 法律行業受大模型影響最大

2023年初，哥倫比亞海港城市卡塔赫納第一巡回法庭的主審法官將ChatGPT的擴充回答與自己的觀點結合，作為最終的依據進行判決。這是全球第一例在法律裁決中使用大語言模型技術的案例。

“我們的大模型可以在司法領域實現法律文書的校對和書寫，也能從眾多案件中提煉出關鍵的審判信息，協助司法人員工作。”在剛剛落幕的2023世界人工智能大會上，多家大模型企業都表示，法律行業是語言類大模型運用的重要場景之一。

法律行業與語言類大模型的關系十分契合，從技術邏輯來看，一方面法律行業的核心是對法律文案、法律語言、法律案件的理解，并通過司法人員的理解，運用在判決過程中。而ChatGPT類的大語言模型技術不僅能“記住”訓練期間獲取的大量法律案件，還可以“理解”法律法規中的大部分內容。

另一方面，ChatGPT類的大語言模型強大的內容生成能力，也能夠做到法律文案書寫、案件分析，甚至可以進行延伸推理。因此，在“職業受人工智能影響”榜單中，法律行業位居二十種最受大模型影響行業之首。

浙江清華長三角研究院院長黃開勝在2023世界人工智能大會法治論壇上表示，人工智能可以為司法發揮替代性和輔助性作用，同時司法系統用戶多為不同專業的高知識水平人群，司法數據結構化程度和邏輯性高的優勢，能為人工智能技術進步提供新動能，有助于構建專業化和通用化的機器學習模型。“人工智能+司法”將成為未來法律行業的新模式。

AI大模型除了在法律應用層面造成影響外，法律知識傳播和法律服務市場也將受其影響。在2023版《東方法學》一書中提到，目前，法律知識的傳播仍然以法律行業的職業化、專業化和精英化為底色，呈現出以“法律人”為中心的高黏性傳播特征。簡單來說就是，律師、法官、法院職員等法律行業精英對法律知識解釋后傳播給公眾。

隨著ChatGPT類大語言模型技術的進步，通過AI對法律的解釋，不僅能降低人們對法律知識的理解門檻，讓每一位公眾都能成為法律知識的享有者，還有可能促成以公眾為中心的分布式知識傳播新范式。

當這一傳播新范式形成時，法律服務市場將不再單一依靠職業化的法律工作者，掌握AI大模型技術的科技公司將進入法律服務市場，成為新興主體。屆時，人們可選擇的法律服務對象將變得多樣化，法律服務方式也會因此轉變。

02 技術落后才是最大風險

據《世界人工智能法治藍皮書(2023)》，2022年，我國人工智能司法案件共檢索到118338起，廣東省以17787起案件數位居全國第一，占總案件量的15.07%。從整體上看，人工智能司法案件發生地主要集中在東南沿海地區和個別經濟發展水平較高的內陸省份。在所有案件中，民事案件占比最高，為86.92%，其中，合同糾紛、知識產權糾紛、侵權責任糾紛為主要案件類型。

而上述領域正好也是生成式大模型的法律半真空區域。ChatGPT生成的詩歌、文章等作品，是否受著作權法保護？其著作權應該屬于誰？目前并沒有形成共識。中國人民大學教授王利明表示，生成式人工智能引發的侵權糾紛，沒有完全超出民法典和個人信息保護法的相關規定，現行法律依然可以作為處理糾紛的依據。

“我們要形成鼓勵創新同時兼顧風險的價值取向，正視生成式人工智能的風險，更要意識到技術落后才是最大風險。”王利明進一步表示，一般而言，生成式人工智能的特殊性，不會出現大規模直接侵害人身或財產安全的現象，但更嚴重的隱患來自生成式人工智能可能產生的大量虛假信息，一旦被使用者惡意利用，極有可能引發社會動蕩。

相比其他AI，生成式人工智能潛在危害社會方式的隱蔽性更強，尤其是在倫理道德方面，以人們無法察覺的方式影響整個社會道德風尚。

因此，王利明認為，需要通過特別立法預防和處理生成式人工智能引發的各種風險，從而保障民事主體合法權益，促進人工智能產業健康發展。

螞蟻集團副總裁、首席合規官李臣同樣表示，人工智能領域的國際治理規制競爭與科技創新競爭一樣日益激烈，我國要積極參與國際相關標準、規則的制定，最大化凝聚人工智能治理的全球共識，不斷提升我國在人工智能領域的影響力。

03 AI經濟增量應該由所有人共享

當前，學界主流學者認為ChatGPT引發的現實風險是AIGC技術的固有風險，生成式人工智能的治理方式需要深度融合。例如今年4月11日發布的《生成式人工智能服務管理辦法（征求意見稿）》中，不僅明確表示了國家對人工智能技術的支持，還規定了基本的生成式人工智能規范。同時，ChatGPT的管理也可以被歸入《互聯網信息服務深度合成管理規定》中。

不過，這并不能滿足生成式人工智能的發展，面對ChatGPT帶來的各種挑戰，人們要為非碳基生命的“存在”做好法治準備。《世界人工智能法治藍皮書(2023)》中提出，研發、共生、構建倫理三方面的法治準備尤為重要。

一是把控通用人工智能的研發結構。《人類簡史》作者尤瓦爾·諾亞·赫拉利在接受采訪時表示，不認為人工智能會發展出真正的“意識”，但其對社會的不斷沖擊，需要讓整個研發過程慢下來，適應社會發展進程。對此，需要各大行業協會、企業、研究機構等聯合制定研發安全協議。同時，與之共享技術的特殊領域，如仿生學、控制系統學等，也都應該自檢是否需要“減速”。

二是探索出共治融合的人機共生關系。隨著生成式人工智能的發展，人機共生是未來的發展趨勢。在崗位設計上，通過不斷深化人機合作關系，將創造出更多更能發揮人類特長的新型工作崗位。法律作為配套管理規則，要解決潛在的分配不公問題。在人工智能尚未取得法律獨立地位時，機器生產的經濟增量由所有人共享，而不是被少數精英壟斷。

三是構建虛擬空間適用的“硅基”倫理。虛擬空間作為人機交互的重要場景，倫理準則也仍然適用。法律的出現就是為維持系統的平衡性與完整性，實現一種人機全新生存狀態的義務。