Facebook、谷歌和推特三巨頭如何圍剿ISIS

上周五，F(xiàn)acebook稱它撤掉了一個(gè)個(gè)人主頁，原因是該公司相信這個(gè)主頁屬于圣貝納迪諾槍擊案兇手塔什芬?馬利克。馬利克及其丈夫的槍擊行為造成14人喪生，美國聯(lián)邦調(diào)查局已將此事列為“恐怖活動(dòng)”，并且正在展開調(diào)查。

就在一天前，法國總理和歐盟委員會(huì)官員分別約談了Facebook、谷歌和推特等公司，要求它們以更快的速度應(yīng)對“網(wǎng)絡(luò)上煽動(dòng)恐怖主義和仇恨的言論”。

這些互聯(lián)網(wǎng)公司表示，它們的政策很簡單，那就是按照自己的服務(wù)條款來禁止用戶發(fā)布某些內(nèi)容。除此之外，要?jiǎng)h除或封殺任何東西都需要法院下令。任何人都可以舉報(bào)或標(biāo)記出需要審核乃至刪除的內(nèi)容。

然而，實(shí)際情況要微妙得多，也復(fù)雜得多。據(jù)一些曾在這些公司任職的人士透露，F(xiàn)acebook、谷歌和推特都擔(dān)心，如果自己公開和西方執(zhí)法機(jī)構(gòu)的真實(shí)合作情況，世界各國將會(huì)無休止地提出類似要求。

這些公司還擔(dān)心消費(fèi)者將其視為政府的工具。更糟糕的是，要是如實(shí)披露自己的內(nèi)容篩選機(jī)制，懂行的武裝分子就有可能更清楚怎樣入侵它們的系統(tǒng)。

一位在Facebook和推特工作過的安全專家說：“如果掌握了把內(nèi)容推送到新聞發(fā)布渠道中的竅門，垃圾郵件發(fā)布者或其他人就都可以利用這一點(diǎn)。”由于涉及敏感問題，這位專家要求不透露他的身份。

就網(wǎng)絡(luò)宣傳而言，最重要但又最不為人知的問題之一就是社交媒體通過在哪些范圍內(nèi)和政府合作。

Facebook、谷歌和推特都說，它們對來自政府的投訴和來自普通民眾的投訴一視同仁，除非政府拿到了法院判決書。包括這三巨頭在內(nèi)，越來越多的公司開始定期公布透明度報(bào)告，作用就是總結(jié)政府就其網(wǎng)站內(nèi)容提出的官方要求。

但三家公司的前雇員、活動(dòng)家以及政府官員都指出，還有其他辦法。

一條主要途徑就是政府官員或者他們的盟友就威脅性言論以及煽動(dòng)仇恨或贊揚(yáng)暴力的言論進(jìn)行投訴，稱其違反了相關(guān)公司的服務(wù)條款，而不是違法。這樣的內(nèi)容會(huì)在幾個(gè)小時(shí)甚至幾分鐘內(nèi)被撤下，而且不需要法院裁決等繁雜手續(xù)。

一位協(xié)助社交媒體封了許多賬號(hào)的活動(dòng)家稱：“聯(lián)邦政府部門直接和推特聯(lián)系并要求后者提供協(xié)助的情況很常見，這并不需要通過官方渠道。”

就圣貝納迪諾槍擊案來說，F(xiàn)acebook表示自己撤掉的是馬利克用化名建立的個(gè)人主頁，原因是該主頁違反了網(wǎng)絡(luò)社區(qū)規(guī)定，具體來說就是贊美或宣揚(yáng)“恐怖主義行為”。Facebook發(fā)言人說該主頁上有支持伊斯蘭國的內(nèi)容，但未做進(jìn)一步說明。

一些有組織的活躍分子讓社交網(wǎng)站移除某些內(nèi)容的工作也一直進(jìn)展的很順利。

一位在推特上化名NageAnon的說法語的活動(dòng)家透露，他幫YouTube刪除了數(shù)千段視頻，具體做法是把明顯違反YouTube政策的視頻鏈接發(fā)給大家，然后請其他志愿者進(jìn)行舉報(bào)。

他在發(fā)送給路透社的推特信息中表示：“舉報(bào)的次數(shù)越多，YouTube就越會(huì)快速進(jìn)行審核，并將其作為緊急事件處理。”

一位熟悉YouTube運(yùn)作方式的人士指出，以瀏覽次數(shù)為基數(shù)，YouTube管理人員往往會(huì)迅速查看那些被舉報(bào)次數(shù)較多的視頻。

但依靠數(shù)字會(huì)帶來其他一些問題。

Facebook前安全部門員工尼克?比洛戈?duì)査够榻B說，F(xiàn)acebook曾因多位說俄語用戶的投訴凍結(jié)了許多支持西烏克蘭的賬號(hào)，或者限制了這些賬號(hào)的活動(dòng)。投訴者說這些賬號(hào)散布仇恨言論，這看起來像是一次有組織的行動(dòng)。比洛戈?duì)査够菫蹩颂m移民，他幫其中多個(gè)賬號(hào)成功進(jìn)行了申訴。他還說，這樣的投訴已經(jīng)趨于緩和。

活動(dòng)家們稱，越南政府官員發(fā)起的類似投訴，讓政府批評人士發(fā)布的內(nèi)容至少遭到了暫時(shí)封殺。

Facebook拒絕就這些事例發(fā)表評論。

曾在這些公司擔(dān)任高管的人士指出，司法部門、政界人士以及部分活動(dòng)家真正希望看到的是互聯(lián)網(wǎng)公司第一時(shí)間就阻止被禁內(nèi)容被分享。但這是個(gè)巨大的技術(shù)挑戰(zhàn)，也會(huì)讓政策發(fā)生重大變化。

一些兒童色情圖片可以被封殺的原因是這些科技公司可以進(jìn)入存儲(chǔ)著此類已知圖片的數(shù)據(jù)庫。在版權(quán)音樂方面也有類似的機(jī)制。

但網(wǎng)上并不存在暴力行為視頻數(shù)據(jù)庫。同時(shí)，就同一段視頻而言，如果由匿名武裝分子上傳，就可能違反了社交網(wǎng)絡(luò)的服務(wù)條款，但如果是新聞報(bào)道的一部分，就可能是合法內(nèi)容。

曾任白宮副總技術(shù)官的黃安娜指出，科技公司不會(huì)愿意建立一個(gè)伊斯蘭圣戰(zhàn)者視頻數(shù)據(jù)庫，即便更新速度足以保證該數(shù)據(jù)庫的實(shí)際效用，原因是它們擔(dān)心政府官員會(huì)要求它們用這個(gè)數(shù)據(jù)庫來預(yù)先審核所有官方不喜歡的內(nèi)容。

黃安娜曾在推特和谷歌擔(dān)任法律顧問，她說：“科技公司有理由采取謹(jǐn)慎態(tài)度，因?yàn)樗鼈兪侨蛐云髽I(yè)。如果這些公司為了某個(gè)目的建立了這樣的數(shù)據(jù)庫，它們就有可能無法拒絕將其用于別處。建立了這種數(shù)據(jù)庫后，那些人就會(huì)找上門來。”

這些公司已經(jīng)正式調(diào)整了一些政策。推特發(fā)言人表示，該公司修訂了自己的人身攻擊政策，將其覆蓋面從直接威脅擴(kuò)展到了間接威脅，并大幅提高了處理人身攻擊投訴的速度。

該發(fā)言人稱：“我們的反應(yīng)速度得到了全面提高，而且可以說，這也包括政府投訴。”

Facebook今年已表示，禁止發(fā)布任何贊揚(yáng)恐怖分子的內(nèi)容。

谷歌旗下的YouTube也擴(kuò)展了自己鮮為人知的“信得過舉報(bào)人”項(xiàng)目。該項(xiàng)目允許各類團(tuán)體將大量視頻打上“有問題”標(biāo)記，以便YouTube立即采取行動(dòng)。這些團(tuán)體形形色色，可以是英國的反恐警察小組，也可以是國際猶太人權(quán)組織Simon Wiesenthal Center。

谷歌女發(fā)言人拒絕透露此類舉報(bào)人的數(shù)量。但她說，其中大多數(shù)都是個(gè)人，選擇標(biāo)準(zhǔn)是以往發(fā)現(xiàn)違規(guī)內(nèi)容的準(zhǔn)確度。她還透露，美國政府機(jī)構(gòu)并沒有參與該項(xiàng)目，盡管過去一年中也有一些美國非營利組織加入了進(jìn)來。

Simon Wiesenthal Center數(shù)字恐怖主義和仇恨項(xiàng)目負(fù)責(zé)人亞伯拉罕?庫珀教士說：“這里面沒什么魔法。我們投入人力物力，然后得到想要的答案。”（財(cái)富中文網(wǎng)）

譯者：Charlie

校對：詹妮