界面新聞?dòng)浾?| 李京亞

3月29日，一封在非盈利組織生命未來(lái)研究所網(wǎng)站上刊登的公開(kāi)信引發(fā)軒然大波。信中呼吁全球所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個(gè)月，包括埃隆·馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克、圖靈獎(jiǎng)得主約書(shū)亞·本吉奧在內(nèi)的1000余名科技圈商圈重量級(jí)人士均簽署了這封信函。

按照公開(kāi)信的提議，在暫停期間，人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該共同開(kāi)發(fā)一套用于高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。如果這種暫停不能迅速頒布，各國(guó)政府應(yīng)該介入并制定暫停令。

“只有在我們確信強(qiáng)大的人工智能系統(tǒng)的效果將是積極的，風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)。”公開(kāi)信中指出。

未料一天之后，陸續(xù)有科技界重磅人物對(duì)上述公開(kāi)信表示異議。

當(dāng)前人工智能和機(jī)器學(xué)習(xí)領(lǐng)域最權(quán)威的學(xué)者之一，谷歌大腦的締造者、世界上最大的在線學(xué)習(xí)平臺(tái)之一Coursera的創(chuàng)始人吳恩達(dá)今日的發(fā)聲引人矚目。他認(rèn)為6個(gè)月的暫停期并不是一個(gè)實(shí)用的建議，并連發(fā)四條推特表達(dá)了對(duì)此事的強(qiáng)烈反感。

“呼吁在6個(gè)月內(nèi)暫停讓人工智能取得超過(guò)GPT-4的進(jìn)展是一個(gè)可怕的想法。我在教育、醫(yī)療、食品等方面已經(jīng)看到了許多AI的新應(yīng)用，這將幫助許多人。“吳恩達(dá)首先指出，更應(yīng)該平衡人工智能正在創(chuàng)造的巨大價(jià)值與現(xiàn)實(shí)的風(fēng)險(xiǎn)。

吳恩達(dá)繼續(xù)反駁了馬斯克等人要求政府介入干預(yù)的觀點(diǎn)：讓政府暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，這會(huì)樹(shù)立一個(gè)可怕先例，是糟糕的創(chuàng)新政策。

這位著名學(xué)者承認(rèn)，人工智能確實(shí)有風(fēng)險(xiǎn)，但大多數(shù)媒體鼓吹的眾多人工智能公司正在瘋狂輸出危險(xiǎn)代碼并非事實(shí)，絕大多數(shù)人工智能團(tuán)隊(duì)都很重視負(fù)責(zé)任的AI和安全。不過(guò)他也明白，這并非全部。

在系列推文最后，吳恩達(dá)提出了提高人工智能安全性的解決方法，稱為了推進(jìn)人工智能安全，圍繞透明度和審計(jì)的法規(guī)將更加實(shí)用，并產(chǎn)生更大影響。

“在推進(jìn)技術(shù)發(fā)展的同時(shí)，讓我們也對(duì)安全進(jìn)行更多的投資，而不是扼殺進(jìn)步。”吳恩達(dá)呼吁。

作為人工智能的一方泰斗，吳恩達(dá)的科研史被業(yè)內(nèi)稱為人工智能領(lǐng)域的斷代史，他在斯坦福大學(xué)開(kāi)設(shè)的《機(jī)器學(xué)習(xí)》系列課程于2012年在Coursera上線，十年間吸引了近500萬(wàn)人注冊(cè)。性格溫和的吳恩達(dá)此番言辭激烈的表態(tài)并不多見(jiàn)。在他的推文下面，Meta數(shù)據(jù)科學(xué)家林致遠(yuǎn)，英偉達(dá)AI研究科學(xué)家Jim Fan表示了贊同和支持。

吳恩達(dá)之外，還有另一位人工智能領(lǐng)域大神級(jí)人物也旗幟鮮明地表達(dá)了對(duì)公開(kāi)信內(nèi)容的反對(duì)，這就是圖靈三巨頭之一，卷積之父楊立昆。

他首先在推特上表示，自己并未簽署這封公開(kāi)信，“我沒(méi)簽，我不同意這封信的前提。”之后，他通過(guò)網(wǎng)友的推文繼續(xù)表露反感。一位網(wǎng)友表示，OpenAI足足等了6個(gè)月，才發(fā)布了GPT4，而他們甚至為此還寫(xiě)了一份白皮書(shū)。楊立昆轉(zhuǎn)發(fā)了這條推文并附上了自己的評(píng)論：所謂“暫停研發(fā)”，不過(guò)就是“秘密研發(fā)”，這與一些公開(kāi)信簽名者所希望的會(huì)恰恰相反。

在楊立昆的推文之下，還有一位大神級(jí)人物現(xiàn)身互動(dòng)。機(jī)器學(xué)習(xí)領(lǐng)域創(chuàng)始人之一、美國(guó)人工智能協(xié)會(huì)前主席Thomas Dietterich發(fā)推表示，自己也沒(méi)簽署這封公開(kāi)信。“這封信充斥著一堆可怕的修辭和無(wú)效/不存在的政策處方。” 楊立昆轉(zhuǎn)發(fā)這條推文表示贊同。

楊立昆也是Meta的首席科學(xué)家。此前不久，他在Meta主導(dǎo)推出的類ChatGPT語(yǔ)言模型Galactica一經(jīng)亮相便遭遇翻車(chē)，但他對(duì)ChatGPT的態(tài)度一直非常不滿，“ChatGPT滿嘴胡謅，你們卻對(duì)它如此寬容，但我家的Galactica才出來(lái)三天，就被你們罵到下線了。”他還對(duì)硅谷圈子一干明星科學(xué)家指出，在這場(chǎng)去年年末由ChatGPT引發(fā)的硅谷巨頭大模型軍備戰(zhàn)中，沒(méi)有人比其他人領(lǐng)先超過(guò)兩到六個(gè)月。

楊立昆性格直率，酷愛(ài)在推特上與網(wǎng)友爭(zhēng)辯。由于競(jìng)爭(zhēng)立場(chǎng)關(guān)系，他一直對(duì)ChatGPT甚至聊天機(jī)器人持反對(duì)態(tài)度，這次卻因?yàn)轳R斯克的公開(kāi)信展露出了與OpenAI冰釋前嫌的信號(hào)。

國(guó)內(nèi)科技界也有重量級(jí)人物就這封公開(kāi)信表達(dá)反對(duì)。360創(chuàng)始人周鴻祎今天下午發(fā)微博對(duì)馬斯克請(qǐng)?jiān)附型?span>GPT-5研發(fā)一事發(fā)表了看法。

“不管你愿不愿意，GPT都將引領(lǐng)一場(chǎng)新的工業(yè)革命，意義超越互聯(lián)網(wǎng)和iPhone的發(fā)明。它將帶來(lái)生產(chǎn)力的大幅提升，進(jìn)而提升國(guó)家競(jìng)爭(zhēng)力。中國(guó)一定要迎頭趕上。”周鴻祎表示。

周鴻祎承認(rèn)，最近人工智能的指數(shù)級(jí)躍變確實(shí)有點(diǎn)讓人措手不及。對(duì)于馬斯克的請(qǐng)?jiān)感牛涣私鈨?nèi)幕，但猜測(cè)是GPT的進(jìn)化路上出現(xiàn)了超乎人類想象的現(xiàn)象。對(duì)于人類如何應(yīng)對(duì)AI帶來(lái)的未來(lái)安全挑戰(zhàn)，誰(shuí)也沒(méi)法給出確定答案，但做安全出身的他堅(jiān)定認(rèn)為，不發(fā)展才是最大的不安全。

周鴻祎用三體世界中eto組織的三個(gè)派別作比，概述了人類與AI如何共處的三種方法：

“降臨派”認(rèn)為人類應(yīng)該把知識(shí)獻(xiàn)給AI，甘心做硅基文明的引導(dǎo)程序；“幸存派”有點(diǎn)躺平，認(rèn)為只要我能生存，未來(lái)跟AI以什么樣的方式共處都行；“拯救派”認(rèn)為AI不是來(lái)取代人類的，而是來(lái)升級(jí)人類的，人類將迎來(lái)工業(yè)革命之后最大的生產(chǎn)力解放。

周鴻祎更加認(rèn)同“拯救派”的觀點(diǎn)，“人類從來(lái)都不是靠體能和智能的進(jìn)化站在食物鏈頂端的，我們靠的是不斷發(fā)明和使用工具。GPT就是這個(gè)時(shí)代最偉大的工具。”

這位360創(chuàng)始人一直預(yù)測(cè)，GPT-6到GPT-8的版本會(huì)產(chǎn)生真正的意識(shí)，甚至進(jìn)化成一個(gè)新物種，但他還強(qiáng)調(diào)了AI目前僅處于嬰兒期，“需要在寬容和支持的基礎(chǔ)上進(jìn)行發(fā)展。”言外之意是，現(xiàn)在就擔(dān)心人工智能的風(fēng)險(xiǎn)為時(shí)過(guò)早。