界面新聞記者 | 徐魯青

界面新聞編輯 | 黃月

2021年，Facebook、Twitter、YouTube等超過10家社交媒體平臺封鎖了特朗普的賬號；今年1月，馬斯克收購推特，并大量削減內容審核團隊，負責全球內容審核、應對仇恨言論和騷擾的員工多數被裁員；近日，抖音宣稱將為青少年模式每天新增1萬條內容，并將全部經過人工審核……這些備受關注的新聞背后隱藏著一個長期隱形的群體——商業性內容審核員。他們是一群職業化員工，負責刪除用戶上傳的不合規言論，一天審核成千上萬條內容。他們的工作要點之一是保持隱蔽，不被人察覺。

“如果被用戶舉報為色情內容，就會發送給印度的團隊，大部分色情內容都由他們處理。其他的內容，比如說仇恨言論或者暴力之類的會發送給我們……我們會看到40張小縮略圖，這樣我們不用看視頻就能立刻知道“啊，那里出現了生殖器”或者“那里有個男人的頭，與身體斷開了”……然后我們就能立刻實施操作。整個過程一氣呵成。”

在美國加州大學洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨（Sarah T. Roberts）的田野調查中，一名審核員如此描述他的工作。羅伯茨是最早提出“商業性內容審核”（commercial content moderation）的學者。2010年左右，社交媒體正越來越深地嵌入我們的生活，卻沒有什么人注意到職業審核工作的存在。羅伯茨花了八年時間研究這一產業及審核員的狀況，以及這項影響廣泛的工作為何如此重要卻“不可見”。她的足跡隨內容審核產業從北美行至歐洲，再到菲律賓馬尼拉。

羅伯茨指出，如今我們眼中的“互聯網”絕大部分都由跨國私營企業所管理，并與其初創地的政府關系密切，比如為全球計算機提供主干網的公司之中，只有五家大型公司才能夠提供接入私營平臺內容的服務。這些互聯網平臺無時無刻不在限制、構建和推動在線言論，而審核行業的細節長期以來少有人知。平臺制定的審核規則反映了誰的價值觀？是否刪除的決定是怎么做出來的？審核員們的工作流程是什么樣的？誰會為此受益？

在她的研究《幕后之人：社交媒體時代的內容審核》中文版問世之際，界面文化（ID：booksandfun）對羅伯茨進行了專訪。我們討論了科技公司的內容審核標準、審核員的勞動狀況，以及審核產業如何建立在全球勞動力剝削基礎之上。在采訪的最后，羅伯茨對于人與計算機的關系提出了另一種展望。

01 審核行業：人們自以為能無限制地表達自己

界面文化：你在2010年開始研究職業審核工作，當時還沒有太多人注意到“商業內容審核”——指一群職業化員工為大型商業機構（比如社交媒體公司、新聞媒體等）進行大規模、有組織的有償審核工作——的存在。是什么讓你關注到這個話題的？

莎拉·羅伯茨：我從90年代中期起開始在科技行業工作，一直從事一些低級的信息技術工作。這些工作并不需要我具備深入的專業技能，我非常努力但財務上卻沒有安全感，沒有任何職業晉升的機會。這聽起來似乎不合理，因為科技行業從彼時到現在都是最新興熱門的行業之一，從業者聽起來是很有前景的。

我在當時感到困惑，我做錯了什么？為什么我沒有得到承諾的東西？現在我對此有了更深入的分析，從事科技行業并不意味著你就會晉升到另一個社會階層。相反，大多數人并不在硅谷的巨頭公司，而是在別的地方從事著并不光鮮的工作。

研究生期間的一個暑假，我在《紐約時報》上讀到了一篇關于愛荷華內容審核員的文章。那時候我在伊利諾伊州，它和愛荷華都是美國中西部的傳統農業地區。我很快意識到，這些愛荷華的審核員可能只是一群學歷不高、級別很低的雇員，從未涉足科技行業。我當時的猜想是，公司外包一群工人做內容審核，比嘗試開發一個過濾模型更便宜。

突然間，我發現所有的問題都有些相似——許多人淪為科技經濟中的底層階級，從事乏味且低薪的工作，甚至受到身體和心理的創傷，不被看見。大多數人的目光都投向了科技發明家、企業家和系統建構者所謂的“知識性工作”上。

界面文化：你強調了審核工作的不可見性，科技公司審核的過程是隱藏的，審核規則是不透明的，審核員的存在也不為人所知。這些數字勞動常常以不同名義在全球范圍內轉移，員工的勞動關系與受益的科技公司相距甚遠。為何公司傾向于隱藏內容審核過程？

莎拉·羅伯茨：我在2012年前后開始正式采訪審核員，至今已過去十年，審核規則不夠透明的現象正在慢慢改善。我們的同行和學者、記者正敦促公司更詳細地解釋他們在做什么。在我剛開始做研究時，科技公司完全否認存在審核流程。

從實際層面考慮，大多數公司會說他們不希望用戶知道審核的規則，因為這讓用戶有更多方法繞過審核。但另一方面的意識形態考量在于，終端用戶認為自己與社交平臺的關系很簡單，他們只要上傳內容，內容就會傳播到全世界——沒有中間機制的處理，更不用說涉及一系列行為、政策和工作者。硅谷有這樣一種信仰，即計算機技術具備解決任何問題的能力，簡單化的關系對于這些公司在美國的宣傳非常有用。

另一個重要的意識形態原因涉及自由觀念。在過去幾十年里，硅谷的領導層一直信仰自由市場原則，他們傳達了這樣的信息：你如果使用Facebook、Snap或者任何平臺，就能夠無限制地表達自己。但當人們意識到審核員的存在，就會知道這是不可能的。

界面文化：一位媒體公司從業者曾在你做研究時說——“如果你給互聯網開一個口子，它就會被垃圾填滿。”但這些公司或許就需要在網絡垃圾、暴力與言論自由之間尋找平衡。根據你的調查，大互聯網公司制定審核規則的標準是什么？

莎拉·羅伯茨：有些審核規則是沒什么爭議的，比如虐待兒童的內容不應該存在。但也有些例外，比如一段具有新聞價值的虐待兒童的視頻，人們應該知道某地正在發生傷害兒童的事件。

實際上，公司制定的具體規則幾乎都是不被人所知的，不透明的規則使科技公司成為最終仲裁者，這意味著他們可以隨時更改規則，且無需對任何人負責，這種關系非常不平衡。

各種各樣的利益集團都希望干涉審核過程。資本感興趣，美國政府感興趣，其他所有政府也感興趣，他們都希望能夠控制和操縱這類媒介形式，這是前所未有的。

大科技公司做出決策的真正原因與保護弱勢群體無關，而更多地與公司客戶的關系有關。所有的社交媒體公司實際上都是廣告公司、數據聚合公司或行為市場分析公司，它們會根據社會政治氛圍的變化改變審核規則——一個典型的例子是馬斯克接手推特后，其他公司都根據推特的改變調整了自己的審核政策，以獲得最大利益。想象一下，如果有一天跨性別者被認為不應該受到任何保護，公司就可能停止提供審核保護，它們對此沒有任何價值觀，盈利是最大的目標。

這也是美國傳統媒體、廣播電視或電影等行業從業者對社交媒體公司有很多怨恨的原因。因為他們受到的大量監管——大部分實施自20世紀某個時候——更多出于公共利益，而非贏利規則。而科技公司受益于完全功能失調的聯邦政府，該政府失衡地向企業權力——而不是公眾利益——傾斜。

界面文化：在今天，人們可以怎樣對審核標準施加監督？

莎拉·羅伯茨：很多民間社會團體會聯合起來要求變革，或者代表社會各界的重要團體發表年度報告，評估這些平臺對不同類型用戶的表現。

比如我是“GLAAD社交媒體指數”（GLAAD Social Media Safety Index）的咨詢委員會成員，該指數旨在評估社交媒體上同性戀、雙性戀和跨性別人群的安全性，跟蹤各種保護措施的落實情況，比如人們是否能夠得到尊重、違規行為是否會受到懲罰等等。但看看馬斯克一夜之間收購Twitter的情況，所有這些都被毀壞了。

界面文化：你在書中提到了一位內容審核公司經理的觀點——互聯網是一系列的商業地帶，對于私營網站，企業可以在這里任意設置審核規則，畢竟每個人在使用網站時都要點擊同意協定。但問題似乎沒這么簡單，你覺得在理想情況下，內容審核標準應該如何制定？

莎拉·羅伯茨：我不想假裝自己能說出一個理想的流程。但我覺得問題不僅僅存在于審核公司的標準缺乏透明度，問題出現得早的多。科技公司帶著他們很酷的說辭很容易地進入市場，至于內容審核策略總是事后才考慮的事情。

當社交媒體的體量足夠大，問題還會涉及到地緣政治，比如法國可能會對Facebook說，我們有國家主權，在這里我們不允許發生某些在美國可以的事情。TikTok的案例也類似，當一個非常受歡迎的媒體產品來自另一個國家——那個國家的政治和價值觀可能與我們不同，或者我們無法控制它對公眾產生的影響——就會令人感到非常擔憂。

02 審核員：像機器一樣工作，隨時可能被轉移到成本更低的地方

界面文化：你所接觸到的審核員對于審核工作的普遍心態是怎樣的？對于公司制定的標準產生過掙扎嗎？

莎拉·羅伯茨：在大多數情況下，審核員通常被兩種指標評估績效。第一是生產力，即審核了多少內容，每天他們要做出1000-2000個決策，沒有太多時間深思熟慮。另一個指標是準確性。經理可能每周隨機抽查，查看審核員是否做出了符合經理期望的決策。如果做出了錯誤的決策，他們的準確率就會下降，甚至可能被解雇，審核員沒有太多空間思考反饋規則。

到了2023年，對于各大公司來說，內容審核員就像機器一樣，被要求不去運用人的洞察力和判斷力，必須遵守公司的判斷。有時審核工作與造福社會的事情確有交叉，但有時沒有。如果你對某個特定問題充滿熱情，但在審核過程中要不斷違背自己的價值體系，這可能是非常令人沮喪的經歷。

界面文化：你列舉了四種網絡內容審核員的工作模式，有些是在科技公司工作的內部員工，有的外包至更小的公司，比如呼叫中心和零工平臺。不同審核員的工作情況是否有差別？

莎拉·羅伯茨：內容審核工作發展到現在，科技公司內部雇傭的審核員大多位于較高的職位，他們可以對一些重要的審核導向做出決策，比如兒童性虐待這類非常敏感、需要警察干預的案例。大多數底層網絡審核工作現在基本都是外包，工作被分配到菲律賓、印度等廉價勞動力相對集中的地方。人們熟悉英語，也有一些相關的文化和專業知識，年輕人更傾向于企業環境中的工作，不愿從事其他類型的艱苦工作。

然而，這種情況也非常不公平。想象一下大型科技公司內部的審核員所擁有的權力——如果他們懷疑某項審核規則，他們可以對規則做出一些反饋。但當馬尼拉的審核員難以忍受他在每天工作中看到的內容，往往是沒有任何途徑向大科技公司投訴的，因為他和公司沒有任何地理、司法管轄和組織結構上的聯系，更不用說懷疑審核標準了。如果他們對谷歌說不喜歡某項審核標準，谷歌只會回答“再見”。

界面文化：內容審核是一項全球性產業，就像大多數全球化中的常規做法，跨國公司會把非技術性工作外包至廉價勞動力集中的地區。你在書里提到，為了爭取美國的客戶，菲律賓把殖民地的歷史包裝成了一種優勢，在官網上宣揚員工的英語能力和對西方流行文化的了解，這似乎是內容審核產業和其他實體制造業相比更顯著的特點。

莎拉·羅伯茨：美國將主要的內容審核外包到菲律賓完全不是巧合。在100多年的時間里，菲律賓在軍事、經濟和政治上都受到美國的主導。從最初通過軍隊殖民菲律賓，逐漸轉變為政治關系，再到經濟關系，殖民和帝國關系為這種轉變奠定了基礎。

現在，菲律賓有大量受過教育的人口，能夠理解美國英語。而且就像很多東亞國家那樣，菲律賓政府設立了經濟特區，用更低的稅收、更好的電力和基礎設施鼓勵外國公司入駐。當我去馬尼拉考察內容審核園區時，它的們所在地曾經就是美國軍事基地——我很震驚，這一切是真的嗎？

我在書中提到的愛荷華的內容審核公司，他們的口號是“外包給愛荷華，而不是印度”。為了與印度區別，它把美國鄉村白人的文化資本作為賣點，官方主頁顯示的也是紅谷倉和中西部農場圖片，并表示這里的員工對內容審核更有文化敏銳度，這就涉及到了排外主義和種族等方面的問題。對于那些愛荷華州的審核員來說，他們的身份——主流、白人、美國中西部的成長背景、異性戀、生活在傳統家庭環境中——就是他們對審核判斷工作的價值。換句話說，如果這個群體看到某件事覺得不合適，公司會覺得其他人很可能也這樣認為。

界面文化：審核產業“流動”的軌跡看上去很像是建立于正式殖民統治時期，但表現出來的機制與流程已經不再是政治和軍事上的，而是經濟上的。

莎拉·羅伯茨：的確，除了菲律賓之外，不要忘了印度也有大量的內容審核產業。我們都知道，印度曾經是英國的殖民地，他們也同英語世界具有文化上的“親近感”。無論我去到哪里，巨頭科技公司、菲律賓或其他地方，他們都會提及，如果工作不夠努力，合同就會轉移到印度。審核員好像隨時都面臨著一個風險，就是這份外包工作可能會轉移到成本更低、生產力更高的地方。最早審核員們評估一條內容的時間大概是30秒，后來時間被要求縮短到10-15秒左右，并被告知要么接受這個，要么合同將被轉去印度，因為他們承諾會按照這個速度去做。

界面文化：和“流動”相關的是，許多調查與研究都關注過發達國家的垃圾回收產業會把廢物轉移至貧窮國家，比如中國、菲律賓、印度、加納和全球南方的其他地區。內容審核產業也讓我聯想到類似的關系，只是在電子時代，垃圾不再止于實物，更擴展至了數字垃圾或者精神垃圾。

莎拉·羅伯茨：事實正是如此，我在2016年寫過一篇相關文章。有一艘大駁船離開加拿大溫哥華，載滿了所謂要“回收”的垃圾，這家公司實際上做的就是把所有東西裝上一艘船，然后運到馬尼拉。幾十年來公司一直在這樣做，在非洲如此，在世界各地如此。這艘船到了馬尼拉港，但港口的人說我們不會接受你們的垃圾，因為他們的小城市已經全部都建在了垃圾填埋場周圍，人們靠垃圾為生。

我無法將這個故事從我的腦海中抹去，因為它是一個隱喻，象征著巨型公司總是把他們制造的問題推給地球另一端的人們。

03 想象未來：AI取代人工不會更好，公共領域不只有社交網絡

界面文化：你在書中提到，我們不能把捍衛信息的希望寄托在科技公司的身上，并指出公眾在網絡上滿足信息需求時忽視了另一種重要的機構——圖書館。可以具體談談這個觀點嗎？

莎拉·羅伯茨：我感到非常沮喪的是，多年來社交媒體以各種方式偽裝自己是全然的公共領域，似乎所做的是為了公共利益。與此同時，在美國，公立學校系統以及橫跨鄉村和城市、向所有人免費開放的公共圖書館的資金支出都在下降，難以獲得任何資助。社交媒體偽裝自己可以和這些公共機構一樣滿足公眾的信息需求，但實際上并非如此。人們熱衷在社交媒體這些虛假的公共空間交流，實際的公共空間卻越來越少。

并不是說圖書館沒有問題，作為文化機構，它們經常維護主導的權力結構。但在大多數情況下，我更相信公共圖書館，而不是那些在股市上交易、對股東負責的公司。我提到圖書館只是想說，別忘了，我們作為一個集體擁有這種能力，我們曾共同想象過一些為所有人存在的東西，我們愿意支持它，不是為了追求利潤，而是為了集體價值。

我們不必只是等待，看看硅谷會想出什么方式讓我們相互交流，決定我們獲取信息的方式——它們只有利潤動機以及公司意識形態，似乎唯一值得做的事情就是用每個人的言論獲取利潤——這是一種狹隘的觀念，也許我們不應該將每一次互動、每一段關系、每一個想法和理念都當作商品來對待，也許這是一個糟糕的想法，對吧？

界面文化：你在書中也倡導，關于信息交流的集體想象力不應該局限在大互聯網平臺，那其他的可能性是什么呢？

莎拉·羅伯茨：我已經在互聯網上待了30年了，我經常說的一件事是，讓20億人使用同一個平臺可能不是一個好主意。很久以前，我們會用BBS，社區的治理方式與現今完全不同，當時的利害關系要低得多，很少有金錢利益參與其中，更不用說政治利益，國家安全機構從沒想過要去BBS觀察人們的行為和言論。但我也想強調，我不想陷入懷舊濾鏡之中，那時存在很多問題，比如大多數人無法獲得互聯網資源。但這確實讓我覺得，人們可以通過不同方式自我組織、自我管理社區，以有意義的方式聚集在一起，形成小型的集體。

這就是為什么我非常喜歡分布式社交媒體的概念，尤其是像Mastodon，因為它允許幾乎類似根狀的組織方式——根狀理論是早期互聯網學者的理想。在某種程度上，它是一種自治機制，通過它可以用對你有意義的方式形成和改革社區，而不是現在這樣——現在的社交媒體是有圍墻的花園，你以為自己身處這座巨大而美妙的花園中，周圍卻全是邊界，只不過你感受不到。

界面文化：ChatGPT幾個月前備受關注，一部分人覺得重復性勞動很快會被AI替代，諷刺的是，《Times》當時發布了一篇調查，指出OpenAl外包了大量時薪1.32美元的肯尼亞工人，對其進行內容審核。你覺得AI的發展會如何影響內容審核工作？

莎拉·羅伯茨：曾經我的碩士老師向我提到“人機交互”領域的概念，我想，人與計算機交互？難道還存在什么其他的計算機交互模式嗎？每一種交互背后的本質都是人與計算機的交互，計算機是我們制造和編程的，忘記這些只會抹除人的存在和人的勞動。

幾年前有一個有趣的藝術項目，谷歌圖書將許多大學圖書館的書籍進行了電子化，如果你在谷歌上瀏覽一本書，可能翻到300多頁時，會突然看到圖像邊緣出現了一個手指，這是掃描工人工作時拿著書本的手指。

另一個例子發生在幾年前，當我偶然打開一部自己的iPhone，發現其中有一張照片，是一位戴著白色帽子、穿著白色實驗室外套的年輕女孩。很明顯，她在中國的工廠里，一個富士康之類的地方，可能當時是在測試手機，但最后這張照片沒有刪掉。我很后悔當時沒有把她保存下來。

很長時間以來，當我提出對內容審核員的工作條件、不當薪酬、工作的危險性或整個系統的關注時，經常有人告訴我不要擔心，幾年后計算機就能夠完成所有這些工作。我對此有兩個反應：首先我覺得不會實現，然后我會想，為什么這樣就更好呢？這并不能改變人們繼續使用暴力、繼續性虐待兒童，為什么人們如此喜歡計算機？因為計算機不像人，它們不會罷工、不會抗議工作條件、不會組織工會。

ChatGPT技術屬于所謂事前內容審查的范疇，但針對類似的每一個新工具的開發，無論是圖像AI、視頻AI、音頻還是文本，所有這些都需要龐大的工人隊伍輔助，而且隨著我們的依賴程度增加，裁決材料的人工需求也會一直增加。有人必須收集AI訓練數據，有人必須審核算法，有人必須處理誤判的問題。這些都讓人們越來越多地暴露在非常乏味且具有傷害性的工作中。我們只是在改變人類審核的時間點，但審核工作本身將繼續是不可見的、被低估的、環境惡劣的，并且可能以最糟糕的方式全球化。

（除注明外，本文圖片均來自《幕后之人》，由出版社供圖并授權）