界面新聞記者 | 劉子象

歐盟的人工智能法案距離生效只差臨門一腳。

當地時間周三，歐洲議會以499票贊成、28票反對的壓倒性結果通過了《人工智能法案》草案，為最終落地生效掃清了一個關鍵障礙。接下來的程序將進入成員國、歐洲議會和歐盟委員會的三方談判。在此過程中，最終文本的法案可能會有一些措辭方面的改變。法案的最終審批預計將在今年年底前通過。

不過，這些規則距離正式生效還有一段時間。法案最終審批通過后，將會為企業和組織留出一段寬限適應期，通常為兩年左右。

值得注意的是，為了填補法案正式生效前的這段空白期，歐洲和美國正在聯合起草一份自愿行為準則。雙方官員在5月底承諾將在“幾周內”起草，并可能擴大到其他“志同道合的國家”。

這是全球首個全面的人工智能規則法案。該法案在2021年就已著手制定，但是隨著去年底生成式人工智能的快速發展，制定過程更加緊迫。針對新情況，周三通過的法案做了部分調整。

法案內容

這項法案的框架在2021年首次提出，旨在對任何使用人工智能系統的產品或服務進行管理。根據風險的高低，人工智能系統的使用場景被劃分為四個級別：低風險、有限風險、高風險和不可接受的風險。

對于風險較高的應用程序，如針對兒童的招聘或技術，將面臨更嚴格的要求，包括提高透明度和使用準確的數據等。違反規則的應用程序可能被要求下架，具體執行尺度將取決于歐盟27個成員國自身的判斷。

在最嚴重的情況下，違規行為可能會被處以最高4000萬歐元的罰款，或公司全球年營業收入的7%左右。如谷歌和微軟這樣體量的科技巨頭而言，罰款可能高達數十億歐元。

歐盟委員會表示，大多數人工智能系統，如視頻游戲或垃圾郵件過濾器，都屬于低風險或無風險類別。

法案對人工智能的使用場景劃定了禁忌區，比如利用兒童等弱勢群體，或使用可能導致傷害的潛意識操縱的人工智能，或鼓勵危險行為的互動對話玩具。而對于那些預測性警務工具，比如通過分析數據來預測誰會犯罪，也被禁止。

另外，在周三的投票中，一項允許利用人工智能尋找失蹤兒童，或防止恐怖主義威脅等執法例外的修正條款沒有被通過。

對于部分領域，最新的法案收緊了要求。比如，實時遠程生物識別技術在最初的提案中是“高風險”，但在最新投票中被調整為“不可接受的風險”，即人工智能在該領域的應用是被禁止的。

該法案最初的內容并不包括聊天機器人，為了應對近幾個月該領域的最新進展，法案增加了一些條款，比如要求明確標注出聊天機器人，以便用戶知道他們正在與機器進行交互。

另一個重大補充是要求全面記錄用于訓練人工智能系統的人類作品（文本、圖像、視頻和音樂）的任何版權材料。這將讓內容創作者知道自己的作品是否被用于訓練算法，進而決定自己是否被抄襲，并尋求賠償。

而考慮到人工智能在就業和教育等領域的應用可能會影響個人生活和工作，因此這些應用面臨更嚴格的監管要求，比如需要對用戶保持高度透明，并采取措施評估和減少算法產生偏見的風險等。

成為全球標準？

歐盟并不是尖端人工智能發展領域的重要參與者，這個角色由美國和中國扮演。但是有分析認為，在監管的法規方面，歐盟往往扮演著引領潮流的角色，制定的規定經常會成為事實上的全球標準。

原因之一在于歐盟是巨大的單一市場，擁有4.5億消費者。對于公司來說，他們不需要為不同地區開發不同產品，更容易遵守規定。

另外，歐洲在監管步伐方面也確實走在最前列，已經基本定型的《人工智能法案》是全球首個綜合性的可以強制執行的此類法案。對于用戶來說，這相當于一顆“定心丸”，方便公司拓展市場。

愛爾蘭公民自由委員會(ICCL)的技術專家Kris Shrishak說，歐盟的法案是可以強制執行的，違規公司將被追究責任，這一事實“意義重大”，因為美國、英國等其他地方目前只是提供了指導和建議，“其他國家可能想要適應和復制歐盟的規則”。

而企業和行業組織則警告稱，歐洲在監管方面需要取得適當的平衡。比如，OpenAI首席執行官Sam Altman在支持對人工智能發展設置一些規則的同時，也明確表示“現在就對該領域實施嚴格監管是一個錯誤”。

科技公司游說團體“計算機和通信行業協會”(CCIA) 的政策經理Boniface de Champris指出，歐盟將成為監管人工智能的領導者，但它是否會引領人工智能創新仍有待觀察。因為它需要有效地解決風險，同時也要為開發人員提供足夠的靈活性。

已經脫離歐盟的英國也正在爭奪人工智能領導的領導地位。首相蘇納克計劃在今年秋天主辦一次人工智能安全的全球峰會。他在本周的一次科技會議上表示，英國不僅希望成為人工智能技術發展的據點，同時也想成為安全監管的全球中心。