LV. 31
GP 555

【情報】前新浪微博內容審核員專訪:中共如何打造網絡“真理部”

樓主 永遠 wuh08100
41 -
劉力朋工作期間新浪微博審核辦公室內懸掛的橫幅(劉力朋提供)

2020年8月12日20:11

華盛頓—
劉力朋曾在中國做了十年的內容審核員,今年三月來到美國。近日,他接受美國之音專訪,講述中共的網絡審查體制是如何運行的,各個權力機構是如何一起打造網絡“真理部”,從而實現言論控制與思想控制,實現極權主義統治的。他的經歷使人聯想到英國作家喬治·奧威爾的小說《1984》。

這本小說描述了一個恐怖的極權主義國家大洋國,在大洋國祇有四個部門:專門製造假新聞的部門被稱為真理部(Ministry of Truth),監督、逮捕和迫害異己人士的秘密警察被稱為友愛部(Ministry of Love),發動戰爭的部門被稱為和平部(Ministry of Peace),負責挨餓的部門叫做富裕部(Ministry of Plenty)。小說的主角溫斯頓(Winston Smith)的職業就是“真理部”的審查員,為了適應“老大哥”的政治需要,天天篡改歷史,控制言論,從而控制國民的思想而實現極權統治。其實這個世界對中國人來說並不遙遠。
前新浪微博內容審核員劉力朋2020年8月在美國家中(劉力朋本人提供)

一個內容審核員的工作日常

2011年的一天,一大早,劉力朋坐上公司的大巴前往工業園區上班。當時,天津工資標準較低、成本也較低,新浪等互聯網公司把一些部門搬到天津的工業園區內,比如勞動密集型的審查部門。因此,當時天津有一個綽號叫“刪都”。劉力朋正是新浪微博的一位內容審核員。

公司大巴穿越天津市河西區、南開區,一直開到西青區的偏僻的海泰產業園區,大概要1個小時,只要上了大巴,公司就算是到崗。“每一個人都會在艱苦的一天開始前選擇睡一大覺,真的不是小憩,是非常踏實的一覺。

到了公司後,首先是交接班,告訴今天工作的有害樣本和需要注意的東西。
劉力朋工作期間新浪微博審核部門辦公室(劉力朋提供)

此時,新浪微博的內容審核員一共有120名,一共分為4組,大約23人一組,分為兩班倒,白日班工作大約11小時多,晚間班工作時間大約為13小時多。為了保證24小時都有審核人員在審核微博內容,兩個組的交接班必須嚴絲合縫,甚至有一點點重疊,因此是24小時全方位審核,不能有空缺時間和紕漏。劉力朋強調,交班非常重要,否則就會出現空檔。

交接班結束,散會,每一個人回到自己的工位,打開電腦,打開後台,每一個電腦都是一模一樣的,多年後,劉力朋回憶那會上班的情景,依然感到有些恐怖:“每一個人都在一個格子間,屋裡沒有別的聲音,只聽到滾輪刷刷刷往下翻頁,時不時會停幾秒,然後就是鼠標噠噠噠的點擊聲,這是在刪除內容。如今回想有些可怕。”

打開後台,系統已經進行用“敏感詞庫”進行了第一遍機審。他說:“有一些高危的敏感詞,如果踩中了會直接進到刪除的狀態,然後人工審核;低危的敏感詞,踩中後是一個默認通過的狀態,有先審後放和先放後審兩種策略。”他說,一些高危敏感詞是絕對要刪除的,比如六四和法輪功,然後每天都有一些新聞事件如何處理,每個班次,他們都會留下一篇工作日誌,工作日誌將如何審核微博寫得非常清楚。

劉力朋給美國之音提供了他在新浪微博做內容審查員的工作日誌,日誌按時間清楚地記錄了他們每天是如何處理每一條新聞事件和圖片的。
2011年6月1日新浪微博夜班審核日誌(劉力朋提供)

劉力朋說:“文字審查比較快,在後台輸入關鍵詞,把一些有害信息刪除,然後就是刪,私,止,隱,通,幾種操作之一。還有很多新聞機構需要微博單審,也就是過濾評論區的展示內容,來讓5毛或愛國主義者的表演能夠顯現。”

據劉力朋介紹,劉力朋和他的同事大多是剛畢業的大學生,有的還是大專生,這個工作並不難,對於學歷和技能並沒有特別的要求,所以他們的工資也並不高,甚至可以說很低了,只是比電子工廠的工人稍微高一點,只要本科或是大專高校畢業生,因為他們都經過了很長時間的政治訓練,從幼兒園開始就有政治課。必須得是大專或是本科上。他們來後其實都不要多大訓練,在學校都訓練十幾年了,什麼是黨想听,什麼是黨不想听,已經很門兒清了,而且還能分出級別來,唯一要做培訓的就是六四和法輪功。因為六四已經被洗得很乾淨,年輕一代人不知道。不過,在微博上,真正站出來為六四說話,說共產黨殺人不對,這樣的一周不會超過十條。

劉力朋還介紹說,120人審核團隊不算很大,現在做B輪C輪融資的小初創公司的都有幾百人,大一點的公司,都是數千上萬人的團隊,像字節跳動,不算外包的也有一萬人。

他說:“現在審核的標準變了,所有一切都變了,而且微博他們更傾向於用外包團隊來解決,就是更粗糙、更便宜的審核方式,他們一般在西安,後來放在重慶,用這些外包審核團隊。”

就這樣,劉力朋在這里工作了兩年,2013年離開,此後輾轉多個工作,大多與內容審核有關,最後在樂視總編室做質量監控主管,依然是內容審核方面的工作。在內容審核方面,他做了十年,“這個工作很累!”
2014年6月5日新浪微博審核日誌部分(劉力朋提供)

神秘的“有關部門”:一個立體的權力體系

審核人員到底是依照什麼標準來進行審核的呢?這些標準到底是誰制定的呢?

聽到這樣的問題,劉力朋笑了,他說:“審查的標準就是沒有標準,如果有標準,那不就可以反審查嗎?老百姓就不用自我審查了,像YouTube那樣有一個社區公約,明確規定什麼不能發,就不用自我審查了。中國審查標準是不透明的,是黑箱,就像搏擊俱樂部,第一條規則就是你不可以談論搏擊俱樂部,中國的審查也是這樣的,你不可以談論中國的審查,來防止知道這個規則。但私企內部會有自己的一套執行標準,這一套東西,嚴禁和外界溝通。”

劉力朋說,打開後台,首先是系統根據敏感詞進行了一遍機審。現在平台上的敏感詞庫有的多達幾十萬,少的至少有五千個。

敏感詞庫主要是私企網絡平台慢慢積累的一個詞庫,就是通過轉發,或是敏感用戶,或是“評論翻車”發現未命中的敏感詞,總結後加入詞庫,這是平台內的樣本積累的結果。此外,還有外部壓力給的,網信辦、公安部、甚至部隊都會告訴你,這裡有一個樣本,幫我全網清除,今天發十個樣本,明天發五十個樣本,這樣我們就從裡面摘出很多敏感詞來添加進去。

劉力朋還注意到,在微博裡,“涉警”審查得最嚴重,也被處罰得最嚴重,比如說把交警開罰單是缺錢之類的內容髮微信朋友圈,都會被當地公安抓捕,因為在警察國家,當然更注重警察權威。

劉力朋還說,之前,這些權力機構偏重開會,會讓我們的政府事務經理去學習會議精神,然後回去自己制定審核標準。但這樣非常慢,應付不了局勢的變化,現在直接下有害樣本,挑敏感詞。每一個平台都有自己的敏感詞庫,以及培訓審核的教材,這些都是絕對保密的,也不允許帶走的。平台之間也競爭看誰審查做得好,就是這些東西。

有了敏感詞庫,系統就會對平台進行第一次內容審核。

機審之後就是人工審查,“必須人工審查。沒有純機器審核,最後必須人工驗收,就像華為手機雲相冊刪除用戶隱私照片,但任何審查行業的人都知道者必定等於被反复人工翻看。 ”“另外,機審不通過的也要有人看來更正誤刪,即使人工審核通過之後,依然有清查組在反复搜索關鍵詞,應對有關部門抽風似的檢查。比如國新辦有一次發來35萬個敏感詞,要求重新再清查,這35萬個敏感詞全是有關習近平的。此外,審查的標準常常是朝令夕改的,比如薄熙來上來就放好話,下台後立即改了,又要重新清查之前的。這就是為什麼有些已經發出去很久的微博又突然被刪除。”

那麼,人工審核的這些指令來自哪裡呢?劉力朋說,每天他們都會接到各種“有關部門”的指令,要求他們審核方面具體做什麼:封殺什麼言論,讓什麼言論出現,如何引導輿論走向等等。劉力朋說,這是一個複雜的權力系統,中共的宣傳部門、公安部門,各種安全部門都有權力管網絡審查,還有國新辦、新聞機構,工信部,甚至農業部等可以追著來管網絡審查,裡面的權力一頭亂麻,基本上誰都有權利下命令哪些要禁,哪些賬號要刪號。

他說:“比如說,我在那會,慕容雪村的一個號就是國新辦下令銷號的。我看他被刪了,我就去後台看了看,是北京那邊操作的,做了一個標註,是國新辦下令。封一個用戶,其實平台是不太高興的,只不過會堅決去執行,執行起來不會那麼隨便,會標註什麼原因。”

不過,這也不是絕對的,劉力朋補充道。普通用戶和vip用戶享受的待遇是不一樣的,普通用戶只有命中了敏感詞,才人工審查,而敏感VIP,就是重點關照的頭部用戶(KOL),有著幾十萬或是上百萬甚至上千萬的粉絲,動不動討論公共話題,他們的每一條都要看,所有的東西都要審核。此外,還有“普通敏感”用戶,就是被轉發鏈上一併刪除過多,或別的觸發過多而被自動加進去的用戶,同樣每條都要看,很多敏感詞都是從這裡積累的。

不過,劉力朋強調,其實這裡也有點歧視:“平台並不會主動保護言論自由,但也不願意過度刪除,只能偏向頭部用戶(KOL),普通人沒有線下實體的,所以更容易被刪號,只要命中關鍵敏感詞,就會被刪。”

他說:“我那會還好,還可以偷偷解封,我常這麼幹。我離職之後,一個賬號封號或是解封,需要兩個人操作,就像朝鮮人出門那樣,在外國餐廳的服務員,不能一個人出門,必須兩個人出門,互相監督,你就不能胡亂操作,尤其不能隨便解封了,這個空間就沒有了。”

劉力朋表示,在微博上,凡是有了一些影響力的用戶,最後都會被封掉。

他說:“薛蠻子僅僅是蹭公共話題熱點,並沒有實質上反對現行體制,但因為其千萬粉絲,照樣被抓。”對於當下的微博言論空間,劉力朋更是表示憂心,現在真正的所謂敏感用戶,還能說話的,頂多也就一兩萬粉絲,否則公安就直接把他端了,如今完全沒有生存空間了。

騰訊一位不願意透露姓名的前內容工作人員告訴美國之音,騰訊的審查程序與此大同小異。他說,有一個專門的安全中心負責內容審核,首先是有一個關鍵詞列表,比如說一篇文章命中幾個關鍵詞,機審就直接判定不給過,你就發不出;另一種情況是你命中關鍵詞,但機審認定還需要人工審查,就送去人工審查。還有一種情況,就是機審也過,人工審查也過了,但有部門覺得你不爽,他要求騰訊刪,這時,他就要有本單位的介紹信,要么就是通過騰訊的舉報程序,要么就去找網管辦去干涉。大部分是前面情況,因為找網管辦刪稿子是很嚴重的事情。

這位騰訊的前內容工作人員說,他在那里工作期間,每天都會收到一個叫報導提示的東西,多的時候十幾條少的三四條,都是網管辦的命令,是網管辦發給騰訊安全中心,騰訊安全中心再發給各個審查部門負責人,然後審核員去執行。而可以對他們下達命令的不僅僅是網管辦。

他說:“中國可以管網絡的部門一共有五十多個,公安部、廣電總局。教育部、網信辦,工業與技術信息部愛國運動委員會等等,都可以來管,它是一個特別立體的權力體系,不是單單從網管辦網信辦到網絡平台這麼簡單地從點到面。”

劉力朋說:“我舉一個例子,比如有一部電影,出現了一個學校,那就要交給教育部審查;如果又出現兩個警察,那又要送到公安部去審查;要是出現一個礦工,還得送去國土資源部審查,總之,你出現了相關內容就要送到有關部門審查。這就是有關部門。這種審查是非常具體非常荒謬的。”

“網絡沙皇”魯煒開創的互聯網管制時代

2013年7月,著名女歌手吳虹飛在新浪微博稱“炸建委”被罰行政拘留10日。這件事轟動網民。緊接著,2013年8月20日,公安部開始集中打擊網絡有組織製造傳播謠言等違法犯罪專項行動,秦火火等人因網絡造謠而被逮捕。這可以說是互聯網上第一次大整頓,此後漸漸成為常態。

劉力朋回憶,網絡上的言論管制越來越嚴格也是從此時開始的。而這與魯煒開始掌管網絡有關。

2013年4月,魯煒開始擔任國家互聯網信息辦公室主任,開始掌管中國互聯網,從此,中國互聯網失去了早期的改良、自由之風,進入肅殺的管制時期。

2013年8月10日,魯煒召集微博、網絡名人座談,提出“七條底線”的共識,並敦促名人遵守該七條原則,當時參加座談會的有紀連海、廖玒、陳裡、潘石屹、薛蠻子等十多位網絡名人。當時魯煒就網絡名人社會責任提出六點希望,也與在場的網絡名人們達成了堅守“七條底線”的共識。這七條被網民稱為“魯七條”:法律法規底線、社會主義制度底線、國家利益底線、公民合法權益底線、社會公共秩序底線、道德風尚底線、信息真實性底線。七條底線發布當日,被大陸各大門戶網站放上首頁。大部分網民極力反對,指中國政府公然用“制度”箝制言論自由,部分人在大陸凱迪社區和個人博客等網站公開表示對第二條“社會主義制度底線”的譏諷。但是不少網站受到當局壓力,被迫刪除大量留言和跟帖,出現了幾萬人留言,只留下區區一百條的怪相。

劉力朋回憶說:“每一個互聯網平台都要雇人不停打掃平台,不然就會被政府關掉,這是我在新浪工作時當時互聯網的情況。2013年,政府對互聯網控制更加得心應手之後,平台就不光是審核員來審核,還會入駐網評員、公安系統的、共青團的這樣的官方賬號。之前網評工作也是有,就是俗稱五毛,但他們更多是攪渾水,但現在,是網評員來一統天下,刪帖封號反而讓人感受不太深了。給你感受深刻的是,現在每點擊一條新聞,下面都是支持中共的,而且花樣洗地的。”

2014年5月,中央網信辦成立,魯煒擔任中央網信辦主任。從網管辦到網信辦,雖然是一套班子的兩個牌子,但權力更加集中,審核從此更是變本加厲。

2014年10月,中央網信辦面向社會公開選拔9名業務部門處級領導幹部,分屬5個業務部門:網絡評論工作局、網絡社會工作局、移動網絡管理局、網絡安全協調局、國際合作局。10月30日,魯煒出席首屆世界互聯網大會。互聯網大會曾經被指是魯煒從政生涯的主要政績。在第一屆世界互聯網大會上,中方提出一份大會聲明草案,推出互聯網“網絡主權”的概念,一時間輿論嘩然。在新聞發布會並答記者問上,對於網絡審查制度,魯煒說:“我們現在不允許的是,(外國互聯網企業)既佔了中國市場,又掙了中國的錢,還來傷害中國。 ”因此,紐約時報中文網稱魯煒為“中國互聯網的守門人”。2015年4月,因被稱為“有權決定億萬網民看什麼”,魯煒入選《時代周刊》2015年“百位最具影響力人物”。而對於中國人民來說,他是“網絡沙皇”。

劉力朋對此評論說,因為互聯網的匿名性,看到中共突兀地提出“網絡主權”,一開始感覺很荒謬。因為中國政府總是用“主權”來遮掩中國人權問題,現在出現一個“網絡主權”,不知道其意圖。直到Tiktok出現,我才明白這個概念。TikTok能夠反常地在海外大獲成功,才讓人發現網絡主權是非常認真、嚴格執行的概念,就是所有中國人必須關在中國局域網牢籠內,若你嚴格遵守做到這一點,反向屏蔽中國公民,就可以獲准在海外執行寬鬆審核標準,甚至給予壟斷優勢,在海外大力發展。所以中國無限輸血華為,主導5G標準,綁架國際通訊協會,召開國際互聯網大會,想方設法地介入各種互聯網基礎協議,都是以其“網絡主權”為主導思想的。

黨員優先字節跳動和一國兩制的TIKTOK

在中國互聯網公司中,字節跳動有些特別。

2017年底,字節跳動公司的產品今日頭條遭到整頓:依據有關部門的整改要求,今日頭條手機客戶端“推薦”“熱點”“社會”“圖片”“問答”“財經”等6個頻道自2017年12月29日18時至12月30日18時暫停更新24小時。兩天之後的2017年12月31日,今日頭條平台稱,關閉社會頻道,將新時代頻道設置為默認頻道。同時,根據相關法規和管理要求,集中清理涉嫌違規的含低質內容的自媒體賬號,12月31號共封禁賬號36個,禁言賬號1065個。

整頓後的今日頭條不久公開招聘2000名內容審核編輯,條件是:黨員優先!即便這樣,不久之後,2018年4月,字節跳動的另一款應用程序內涵段子, 因“存在導向不正、格調低俗等突出問題”而被中國國家廣播電視總局責令永久關停。

接連兩次大整頓,對字節跳動來說,幾乎是致命的。從此,字節跳動公司比其他互聯網更加註重黨組織建設,內部人員指出,相對於其他互聯網公司,字節跳動公司的黨員與黨組織更多,也更“紅”。

據字節跳動公司的一位線人提供的內部資料看,字節跳動有著一套嚴格的審查程序和審查標準,並將政治審查放在首位,其中第一條是:“畫面中出現攻擊、醜化、惡搞共產黨、國家、政府、我國各級社會制度、我國政府高官、我國現任核心領導人(習、江、彭、李、王)、我國歷任國家領導人、朝鮮領導人金正恩等,以及涉及我國國家領導人仕途及其家屬的相關負面言論”,“中斷,永久封號”。此外,像涉及六四、法輪功的一律中斷,永久封號。
字節跳動圖片審查標準“涉政”部分(劉力朋提供)點擊圖片查看詳細信息

劉力朋說,如果沒有中國廉價審核工廠進行嚴格的審查,字節跳動不可能發展這麼快。

同時,與微博微信不同的是,TikTok雖然是抖音海外版,但實際上是兩個不兼容的版本,TikTok嚴禁中國人入內。實行的是“一國兩制”。從技術上來講,TikTok用盡了它能承諾給中國政府的一切手段來禁止中國人進入這個平台。首先用VPN翻牆上Facebook Twitter Google Youtube等手段,在TikTok無效,它會掃描你的手機運營商信息,任何+86的號碼是絕對無法使用的,IP地址只能明確不是大陸IP的,GPS定位在中國境內也不行。另一方面,TikTok被GFW有配合的屏蔽,非常精準地屏蔽了TikTok的登錄服務器。劉力朋說,正因為如此,“中國政府才允許它的存在。微信就沒有這麼壞,也沒有特別想做海外業務。”

劉力朋同時也指出,TikTok在海外也進行審查。首先他們招聘了“海外審核經理”,他們在天津和其他各地招聘各種非中文語種審核員,這些記錄招聘網站還可以搜到緩存,儘管最近都被刪了。此外,他們也制定了一套審核標準,因為權限原因,線人沒有看到Tiktok的審核標準和流程。

作為內容審核人員,劉力朋早就發現中共審查早已用於海外。

2011年6月4日和7月1日的時候,劉力朋第一次接觸審查香港的六四維園燭光晚會和七一大遊行。他說:“我突然意識到香港人和我們共享一套審核標準,香港人本來是自由,但依然要對他們進行審核。六四的時候,七一大遊行的時候,所有香港的ip都發不出來,只要帶圖片的都發不出。在當時新浪上有很多香港用戶,看ip地址就知道是來自香港的。”

他說,這種審查必然會擴散到美國,美國人使用了這麼多年的微信,一直在被監控,一直在被審查。去年,加拿大公民實驗室的一個研究結果指出,微信監控所有的用戶也包括境外用戶,雖然和大陸用戶使用兩套標準,比如不輕易封號,但會關小黑屋,這樣國內朋友看不到你的發言。此外,他們依然可以通過海外用戶提取敏感詞。

對於當下美國的淨網行為,劉力朋表示認可:“世界的互聯網沒有邊界,中國的互聯網卻有明顯的邊界。我們只有拆掉這個骯髒的長城防火牆(GFW),讓陽光照進這個充滿戰狼式自我欺騙的謠言和反美陰謀論的中國局域網,我們才有可能安寧,不然按他們的規則,那就是雙贏,'中國贏兩次'的雙贏。”

41
-
未登入的勇者,要加入討論嗎?
板務人員:

7700 筆精華,前天 更新
一個月內新增 10
歡迎加入共同維護。


face基於日前微軟官方表示 Internet Explorer 不再支援新的網路標準,可能無法使用新的應用程式來呈現網站內容,在瀏覽器支援度及網站安全性的雙重考量下,為了讓巴友們有更好的使用體驗,巴哈姆特即將於 2019年9月2日 停止支援 Internet Explorer 瀏覽器的頁面呈現和功能。
屆時建議您使用下述瀏覽器來瀏覽巴哈姆特:
。Google Chrome(推薦)
。Mozilla Firefox
。Microsoft Edge(Windows10以上的作業系統版本才可使用)

face我們了解您不想看到廣告的心情⋯ 若您願意支持巴哈姆特永續經營,請將 gamer.com.tw 加入廣告阻擋工具的白名單中,謝謝 !【教學】