向深度偽造宣戰(zhàn)

深度偽造在巴以沖突中扮演了重要的角色，包括篡改了約旦王后拉尼婭（左中）和時(shí)尚模特貝拉·哈迪德（右上）的視頻，以及俄烏沖突（左下）和電子游戲《武裝突襲3》（右下）的戰(zhàn)斗鏡頭。圖片插圖來(lái)源：FORTUNE ; 圖片來(lái)源：SCREENSHOTS CLOCKWISE FROM TOP LEFT: @GLOOOUD/X, VERIFY/YOUTUBE, @AG_JOURNALIST/X, @GLOOOUD/X, THE QUINT/YOUTUBE

2023年10月7日破曉時(shí)分，以色列的特拉維夫市響起了空襲警報(bào)，邁克爾·馬蒂亞斯（Michael Matias）和他的女朋友從床上跳起來(lái)，跑到公寓大樓的防空洞。在防空洞里，他們手機(jī)上的信息顯示了觸發(fā)警報(bào)的恐怖場(chǎng)景：哈馬斯的武裝分子正在向以色列發(fā)起大規(guī)模軍事行動(dòng)，并且扣押了數(shù)百名人質(zhì)，距離他們安全聚集的地方不到一個(gè)小時(shí)的車(chē)程。

在令人驚愕的余波中，馬蒂亞斯突然意識(shí)到這對(duì)他的科技新創(chuàng)企業(yè)的影響。2022年年底，他創(chuàng)辦了人工智能公司Clarity，專(zhuān)注于檢測(cè)競(jìng)選活動(dòng)中的深度偽造信息；他認(rèn)為，這種虛假信息對(duì)國(guó)家構(gòu)成了緊迫威脅。但由于在10月7日大約有1,200名以色列人喪生，而且該國(guó)正處于戰(zhàn)爭(zhēng)狀態(tài)，因此這一任務(wù)需要暫時(shí)擱置。那天早上，他與Clarity的團(tuán)隊(duì)緊急召開(kāi)會(huì)議，以啟動(dòng)一項(xiàng)行動(dòng)計(jì)劃。“我們對(duì)彼此說(shuō)：‘在此次事件里，我們的技術(shù)將大有用武之地。’”Clarity的首席執(zhí)行官馬蒂亞斯說(shuō)道。

這次襲擊是以色列建國(guó)75年來(lái)最致命的一次，在之后的混亂中，以色列對(duì)加沙地區(qū)進(jìn)行了封鎖，切斷了區(qū)域內(nèi)的一切水、電、物資供應(yīng)，并向沿海飛地（居住著200萬(wàn)名巴勒斯坦人）的哈馬斯目標(biāo)投擲了數(shù)千枚炸彈。隨著以色列的行動(dòng)升級(jí)，出現(xiàn)了全面的人道主義災(zāi)難，在一個(gè)月內(nèi)有超過(guò)10,000名巴勒斯坦人喪生，其中包括平民，恐怖的畫(huà)面充斥著電視和手機(jī)屏幕，引發(fā)了全世界的憤怒和抗議活動(dòng)。這不僅是一場(chǎng)彈藥戰(zhàn)爭(zhēng)，而且是一場(chǎng)信息戰(zhàn)爭(zhēng)——真假信息混雜。在對(duì)交戰(zhàn)雙方義憤填膺的同時(shí)，一些人質(zhì)疑這些令人毛骨悚然的可怕場(chǎng)景是否真實(shí)，或是這些圖像是否是在人工智能的助力下生成的所謂深度偽造圖像。

事實(shí)上，隨著技術(shù)的進(jìn)步，人工智能生成的虛假信息越來(lái)越難以辨別。馬蒂亞斯表示，這讓Clarity這樣的新創(chuàng)企業(yè)陷入了“一場(chǎng)貓和老鼠的博弈”。

問(wèn)題是，最后是貓贏，還是老鼠贏？一些人擔(dān)心，生成技術(shù)的便利性會(huì)讓惡意用戶比那些遠(yuǎn)不是那么靈活的科技公司和試圖控制他們的政府智高一籌。常駐英國(guó)劍橋、為英國(guó)政府以及包括Adobe和Facebook的母公司Meta在內(nèi)的企業(yè)提供咨詢服務(wù)的人工智能技術(shù)顧問(wèn)亨利·艾德?tīng)枺℉enry Ajder）說(shuō)：“該技術(shù)的發(fā)展速度快得令人難以置信。20年或10年后會(huì)是什么樣子？這些工具將變得越來(lái)越容易獲得。當(dāng)確實(shí)發(fā)現(xiàn)大量的深度偽造內(nèi)容時(shí)，我們可能會(huì)全然不知所措?！?/p>

俗話說(shuō)，軍事宣傳和戰(zhàn)爭(zhēng)本身一樣古老。但自從OpenAI在2022年推出第一版人工智能聊天機(jī)器人ChatGPT以來(lái)，生成式人工智能爆炸性的流行增強(qiáng)了普通用戶創(chuàng)造自己敘事的能力。當(dāng)涉及到教皇方濟(jì)各（Pope Francis）身穿白色大號(hào)羽絨服或者金·卡戴珊（Kim Kardashian）擔(dān)任公交車(chē)司機(jī)時(shí)，其影響相對(duì)微不足道。但在戰(zhàn)爭(zhēng)里，深度偽造技術(shù)可以用來(lái)制造混亂，可能會(huì)產(chǎn)生生死攸關(guān)的后果。

2022年2月，俄烏沖突爆發(fā)，引發(fā)了歐洲幾代人以來(lái)最大規(guī)模的陸地沖突。幾天之內(nèi)，烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（Volodymyr Zelensky）在Facebook上露面，命令士兵投降。幾天后，俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）在推特（Twitter）上也命令軍隊(duì)放下武器。抽搐的動(dòng)作和模糊的鏡頭很快就暴露了這兩段視頻是虛假的。但這預(yù)示著，一旦人工智能工具得到改進(jìn)，有朝一日可能會(huì)發(fā)生的事情。

現(xiàn)在，這一天已經(jīng)到來(lái)，無(wú)論是在政府辦公室還是在家里，都能夠輕松地獲得生成式人工智能工具。這項(xiàng)技術(shù)帶來(lái)了大量經(jīng)過(guò)篡改的內(nèi)容，而這些內(nèi)容以前需要熟練的技術(shù)人員才可以制作出來(lái)。大西洋理事會(huì)（Atlantic Council）的數(shù)字取證研究實(shí)驗(yàn)室（Digital Forensic Research Lab）的研究人員萊拉·馬什庫(kù)爾（Layla Mashkoor）稱，在以色列戰(zhàn)爭(zhēng)中，這些內(nèi)容來(lái)自四面八方。該實(shí)驗(yàn)室隸屬于一家密切追蹤沖突中的社交媒體網(wǎng)站的美國(guó)智庫(kù)。她指出，雙方人士都在傳播深度偽造內(nèi)容，她舉例道，一個(gè)親以色列的Instagram賬戶里有一張人工智能處理過(guò)的照片，顯示成群的以色列人在陽(yáng)臺(tái)上為士兵歡呼。對(duì)許多人而言，手機(jī)屏幕上閃過(guò)的如海嘯般襲來(lái)的信息讓一切都顯得不可靠。馬什庫(kù)爾說(shuō)：“即便是真實(shí)的圖像，也會(huì)有反駁的聲音，所以人們很難弄清楚真相?！?/p>

當(dāng)馬蒂亞斯為他的人工智能新創(chuàng)企業(yè)取名Clarity時(shí)，這正是他想要解決的問(wèn)題。戰(zhàn)爭(zhēng)爆發(fā)后，團(tuán)隊(duì)立即行動(dòng)起來(lái)。據(jù)馬蒂亞斯介紹，隨著數(shù)以百計(jì)的視頻和照片在互聯(lián)網(wǎng)上流傳，其中一些是哈馬斯在襲擊期間拍攝的，還有一些是加沙居民在遭到摧毀的社區(qū)拍攝的，國(guó)際媒體機(jī)構(gòu)開(kāi)始給Clarity發(fā)送電子郵件，尋求幫助，以剔除深度偽造的視頻和照片。馬蒂亞斯拒絕讓《財(cái)富》雜志透露他的客戶信息。

這場(chǎng)戰(zhàn)爭(zhēng)在網(wǎng)上催生了大量的假新聞：時(shí)裝模特貝拉·哈迪德（Bella Hadid）為她的親巴勒斯坦言論道歉的視頻實(shí)際上是合成音頻。約旦王后拉尼婭（Rania）說(shuō)她的國(guó)家“與以色列站在一起”，這是在她露面接受美國(guó)有線電視新聞網(wǎng)（CNN）采訪的視頻基礎(chǔ)上，利用人工智能生成的音頻。一段據(jù)稱是哈馬斯的戰(zhàn)士摧毀以色列坦克的視頻，實(shí)際上來(lái)自俄烏沖突。另一段顯示哈馬斯擊落兩架以色列的直升機(jī)的視頻呢？那是從電子游戲《武裝突襲3》（Arma 3）中截取的。

總部位于美國(guó)加利福尼亞州帕洛阿爾托和以色列特拉維夫的Clarity還在戰(zhàn)爭(zhēng)里與以色列的情報(bào)機(jī)構(gòu)合作，以檢測(cè)戰(zhàn)爭(zhēng)錄像的真假。幾乎所有的Clarity團(tuán)隊(duì)的成員，包括馬蒂亞斯在內(nèi)，都在義務(wù)服兵役期間，在以色列國(guó)防軍（Israeli Defense Forces）的精銳技術(shù)部隊(duì)中花了數(shù)年時(shí)間磨練技能。馬蒂亞斯本人曾經(jīng)在被稱為“8200部隊(duì)”的情報(bào)機(jī)構(gòu)服役（人才選拔極其嚴(yán)格），該機(jī)構(gòu)的成員在服兵役后創(chuàng)辦了無(wú)數(shù)的全球新創(chuàng)企業(yè)。

憑借這樣的背景，馬蒂亞斯利用經(jīng)驗(yàn)豐富的創(chuàng)始人網(wǎng)絡(luò)為公司提供建議和資金。Clarity的一位天使投資人烏迪·莫卡迪（Udi Mokady）說(shuō)：“Clarity正在一個(gè)新的領(lǐng)域進(jìn)行創(chuàng)新。”莫卡迪也是“8200部隊(duì)”的退伍軍人，他創(chuàng)立了身份安全公司CyberArk。莫卡迪現(xiàn)在是CyberArk的執(zhí)行主席，他預(yù)測(cè)深度偽造檢測(cè)市場(chǎng)將急劇上升。莫卡迪稱：“隨著ChatGPT的出現(xiàn)，人們對(duì)它的興趣一夜之間急劇上升：在家里就能夠創(chuàng)建深度偽造內(nèi)容?！?/p>

Clarity并沒(méi)有對(duì)內(nèi)容進(jìn)行純粹的真假認(rèn)證，而是使用人工智能來(lái)追蹤視頻中的一系列數(shù)據(jù)點(diǎn)，例如一個(gè)人的面部抽搐或語(yǔ)調(diào)的抑揚(yáng)頓挫，然后利用神經(jīng)網(wǎng)絡(luò)將它們置于儀表板上顯示的從綠色到紅色的確定性范圍內(nèi)。“這是人工智能與人工智能的較量。”馬蒂亞斯說(shuō)道。有些視頻，比如伊朗支持的（黎巴嫩）真主黨（Hezbollah）組織領(lǐng)導(dǎo)人譴責(zé)10月7日襲擊事件的視頻，顯然是深度偽造的內(nèi)容（“遺憾的是”馬蒂亞斯打趣道）。但其他視頻就不那么一目了然了，需要人工進(jìn)行判斷，而不是由人工智能訓(xùn)練出來(lái)的機(jī)器進(jìn)行判斷。

在打擊深度偽造內(nèi)容方面，Clarity并非孤軍奮戰(zhàn)。過(guò)去幾年里，還有幾家類(lèi)似的新創(chuàng)企業(yè)相繼成立，包括美國(guó)紐約的Reality Defender和愛(ài)沙尼亞的Sentinel?？萍季揞^也在關(guān)注假新聞問(wèn)題：從2024年1月開(kāi)始，Meta將要求政治競(jìng)選活動(dòng)在Facebook的廣告中標(biāo)注任何人工智能生成的內(nèi)容，而谷歌現(xiàn)在也包含了有關(guān)圖像來(lái)源的數(shù)據(jù)。

各國(guó)政府也在努力打擊深度偽造。2023年10月，美國(guó)總統(tǒng)喬·拜登（Joe Biden）發(fā)布了一項(xiàng)關(guān)于“安全、可靠和值得信賴”的人工智能的行政命令，授權(quán)美國(guó)商務(wù)部（Commerce Department）尋找方法來(lái)驗(yàn)證內(nèi)容的真實(shí)性，并在人工智能生成的媒體內(nèi)容上添加水印。但該行政命令并沒(méi)有威脅要對(duì)違規(guī)者實(shí)施制裁。

同樣是在2023年10月，在包括中國(guó)在內(nèi)的28個(gè)國(guó)家參加的、在英國(guó)舉辦的首屆全球人工智能安全峰會(huì)（AI Safety Summit）上，官員們同意采取類(lèi)似的措施。在由27個(gè)國(guó)家組成的歐盟（European Union），一項(xiàng)旨在執(zhí)行安全標(biāo)準(zhǔn)并為新創(chuàng)企業(yè)提供資金的《人工智能法案》（AI Act）正在逐步通過(guò)錯(cuò)綜復(fù)雜的程序，歐盟的高層官員希望對(duì)未能打擊虛假信息的社交媒體平臺(tái)處以巨額罰款。

“越來(lái)越多的國(guó)家達(dá)成的共識(shí)是：人工智能會(huì)帶來(lái)災(zāi)難性的風(fēng)險(xiǎn)?！庇?guó)人工智能顧問(wèn)艾德?tīng)柋硎?，“他們希望避免我們?cè)谶^(guò)去18個(gè)月里看到的‘狂野西部’（Wild West）局面持續(xù)下去，從某種程度上說(shuō)，風(fēng)險(xiǎn)會(huì)進(jìn)一步加劇?！?/p>

但其中的風(fēng)險(xiǎn)無(wú)法和以色列對(duì)加沙地區(qū)發(fā)動(dòng)的激烈戰(zhàn)爭(zhēng)相提并論，美國(guó)的軍艦駐扎在靠近海岸的地方，伊朗和黎巴嫩也為可能發(fā)生的戰(zhàn)爭(zhēng)做好了準(zhǔn)備。在長(zhǎng)達(dá)數(shù)周的戰(zhàn)爭(zhēng)里，Clarity團(tuán)隊(duì)一直在努力解決這一問(wèn)題，同時(shí)分析了讓他們筋疲力盡的數(shù)百個(gè)視頻和照片。

經(jīng)常觀看令人毛骨悚然的視頻對(duì)Clarity的小團(tuán)隊(duì)的影響是顯而易見(jiàn)的，馬蒂亞斯稱，在戰(zhàn)爭(zhēng)結(jié)束后，他們肯定需要進(jìn)行創(chuàng)傷后治療。他說(shuō)：“我們知道，我們正在進(jìn)入一場(chǎng)高度個(gè)性化的戰(zhàn)爭(zhēng)?！彼a(bǔ)充道，這項(xiàng)工作讓他的團(tuán)隊(duì)感到“沉重的情感負(fù)擔(dān)，以及令人難以置信的重要性意識(shí)?！?/p>

*****

偵探力量

隨著深度偽造內(nèi)容的激增，企業(yè)巨頭和新創(chuàng)企業(yè)都在競(jìng)相對(duì)其進(jìn)行監(jiān)測(cè)。以下是一些參與其中的公司：

?

DeepMedia

該公司由斯坦福大學(xué)（Stanford University）和耶魯大學(xué)（Yale University）的人工智能專(zhuān)業(yè)的畢業(yè)生于2017年創(chuàng)立。該公司總部位于美國(guó)加利福尼亞州奧克蘭，與美國(guó)國(guó)防部（U.S. Department of Defense）、聯(lián)合國(guó)（United Nations）和科技公司合作，利用神經(jīng)網(wǎng)絡(luò)處理技術(shù)發(fā)現(xiàn)虛假內(nèi)容。

?

Reality Defender

這是一家總部位于美國(guó)紐約州紐約市曼哈頓的公司，由高盛集團(tuán)（Goldman Sachs Group）的前高管本·科爾曼（Ben Colman）于2021年創(chuàng)立，他表示，在深度偽造內(nèi)容病毒式傳播之前阻止它至關(guān)重要。該公司在2023年10月的一輪融資中籌集了1,500萬(wàn)美元，旨在推出能夠?qū)崟r(shí)識(shí)別合成語(yǔ)音的新工具。

?

英特爾（Intel）

該公司在2022年推出了一款名為FakeCatcher的深度偽造內(nèi)容檢測(cè)器，據(jù)稱可以實(shí)時(shí)分析視頻，并在幾毫秒內(nèi)提供準(zhǔn)確率高達(dá)96%的檢測(cè)結(jié)果。其中一種罕見(jiàn)的工具是分析像素中的血流，從而判斷圖像是否描繪的是真人。

譯者：Zhy