深度偽造（Deepfakes）是一個(gè)合成詞，是人工智能（AI）領(lǐng)域由“深度學(xué)習(xí)”（deep learning）和偽造（fake）合成的一個(gè)詞匯。它用來(lái)描繪利用人工智能技術(shù)和大數(shù)據(jù)生成的視頻、照片和其他文本，這些視頻、照片和文本看起來(lái)非常逼真，不要說(shuō)非專業(yè)技術(shù)，就連專業(yè)技術(shù)亦難以識(shí)別其真?zhèn)?。深度偽造包含兩方面的含義，首先，它是一種技術(shù)，一種制作超逼真視聽(tīng)作品的技術(shù)。其次，它指根據(jù)深度偽造技術(shù)制作的視聽(tīng)作品。深度偽造的主要危險(xiǎn)在于它會(huì)讓一個(gè)人——無(wú)論是政治家、商界精英還是普通公眾——向他人呈現(xiàn)另一種“現(xiàn)實(shí)”：一個(gè)真實(shí)的人在做一些他們從未做過(guò)的事情或者說(shuō)一些他們從未說(shuō)過(guò)的話，從而通過(guò)這樣的“現(xiàn)實(shí)”欺騙不知情的公眾。

深度偽造問(wèn)題已經(jīng)引起國(guó)內(nèi)外學(xué)術(shù)界的重視，并出現(xiàn)了一些具有一定水平的研究成果。其中，國(guó)內(nèi)學(xué)術(shù)界對(duì)深度偽造問(wèn)題的研究主要集中在以下四個(gè)方面。第一，以美國(guó)為研究對(duì)象，探討深度偽造的出現(xiàn)給美國(guó)社會(huì)帶來(lái)的各種風(fēng)險(xiǎn)、挑戰(zhàn)，以及美國(guó)州和聯(lián)邦兩級(jí)立法機(jī)構(gòu)應(yīng)對(duì)深度偽造的立法嘗試。第二，從傳播學(xué)的角度，分析深度偽造帶來(lái)的影響，認(rèn)為深度偽造加劇了更加系統(tǒng)性的平臺(tái)控制，從而催化了政治分裂和政治冷漠，也進(jìn)一步挑戰(zhàn)了傳統(tǒng)新聞體制的專業(yè)權(quán)威。傳播學(xué)研究甚至認(rèn)為，人工智能技術(shù)的“魔獸”一旦被放出籠子，對(duì)媒體的威脅就難以遏制。第三，從顛覆性技術(shù)異化以及治理的角度分析研究，認(rèn)為以深度偽造為代表的顛覆性技術(shù)異化，已經(jīng)成為數(shù)字化時(shí)代的威脅和人類社會(huì)可持續(xù)發(fā)展的重要挑戰(zhàn)，對(duì)現(xiàn)存社會(huì)倫理規(guī)范、經(jīng)濟(jì)和法律制度乃至國(guó)際秩序造成破壞性沖擊。第四，從國(guó)家安全的角度進(jìn)行分析，認(rèn)為深度偽造技術(shù)在近幾年迅速興起，為國(guó)家間的政治抹黑、軍事欺騙、經(jīng)濟(jì)犯罪甚至恐怖主義行動(dòng)等提供了新工具，給政治安全、經(jīng)濟(jì)安全、社會(huì)安全和國(guó)民安全等國(guó)家安全領(lǐng)域帶來(lái)了諸多風(fēng)險(xiǎn)。研究者提出：通過(guò)研發(fā)預(yù)警檢測(cè)手段、推進(jìn)立法管制、加強(qiáng)宣傳教育以及推進(jìn)國(guó)際安全合作治理等手段，來(lái)應(yīng)對(duì)深度偽造技術(shù)的濫用及其安全挑戰(zhàn)。

美國(guó)學(xué)術(shù)界對(duì)深度偽造關(guān)注較早，研究成果豐富，代表了國(guó)外對(duì)深度偽造研究的最高水平，并且其研究多從國(guó)家安全的角度認(rèn)識(shí)深度偽造問(wèn)題。研究者認(rèn)為，作為人工智能技術(shù)發(fā)展的產(chǎn)物，深度偽造技術(shù)雖然也有一些積極的作用，但從美國(guó)國(guó)家安全的角度看，它不僅會(huì)增強(qiáng)競(jìng)爭(zhēng)對(duì)手對(duì)美國(guó)發(fā)動(dòng)信息戰(zhàn)和政治戰(zhàn)的能力，而且會(huì)對(duì)美國(guó)國(guó)內(nèi)選舉政治造成重大影響，甚至?xí)绊懨绹?guó)國(guó)內(nèi)政治走向，加劇美國(guó)國(guó)內(nèi)政治的兩極分化；深度偽造還會(huì)引發(fā)國(guó)家間的危機(jī)和沖突，特別是增加擁有核武器國(guó)家之間爆發(fā)核戰(zhàn)爭(zhēng)的風(fēng)險(xiǎn)。美國(guó)學(xué)者給出的解決方案主要有兩個(gè)：第一，公權(quán)力部門(mén)和網(wǎng)絡(luò)平臺(tái)特別是社交網(wǎng)絡(luò)平臺(tái)，通過(guò)技術(shù)研發(fā)，遏制不道德、非法或惡意內(nèi)容深度偽造作品的傳播。第二，加強(qiáng)立法，在不抑制言論自由和技術(shù)進(jìn)步的前提下，以法律來(lái)規(guī)范深度偽造行為，減輕和消除它給國(guó)家安全帶來(lái)的威脅。

上述國(guó)內(nèi)外學(xué)術(shù)界的研究成果屬于深度偽造領(lǐng)域的開(kāi)拓之作。當(dāng)今世界技術(shù)發(fā)展一日千里，顛覆性技術(shù)不斷突破，尤其是以人工智能為代表的數(shù)字技術(shù)的發(fā)展日新月異。作為人工智能技術(shù)發(fā)展的產(chǎn)物之一，深度偽造技術(shù)同樣在不斷改進(jìn)，隨之帶來(lái)的各種問(wèn)題，尤其是與國(guó)家安全相關(guān)的問(wèn)題也在不斷涌現(xiàn)。這也決定了深度偽造不僅涉及新興技術(shù)治理的問(wèn)題，更是事關(guān)包括政治安全、經(jīng)濟(jì)安全和社會(huì)安全等在內(nèi)的綜合安全問(wèn)題。因此，有必要站在總體國(guó)家安全觀的高度，從國(guó)家治理和全球治理的角度對(duì)深度偽造問(wèn)題進(jìn)行分析，并提出應(yīng)對(duì)之策。

數(shù)字技術(shù)與數(shù)字媒體的發(fā)展和普及，使得區(qū)分真假媒體視聽(tīng)作品和文本變得越來(lái)越困難，這個(gè)領(lǐng)域的最新進(jìn)展是深度偽造的出現(xiàn)。深度偽造是運(yùn)用人工智能技術(shù)和大數(shù)據(jù)來(lái)描繪某人說(shuō)和做的從未發(fā)生過(guò)的事情，輔之以社交媒體的覆蓋面和傳播速度，可以迅速影響成千上萬(wàn)甚至更龐大的群體，進(jìn)而對(duì)社會(huì)產(chǎn)生難以估量的負(fù)面影響。

深度偽造通常被描述為使用機(jī)器學(xué)習(xí)（machine learning）技術(shù)創(chuàng)建的偽造品，這是人工智能技術(shù)的一個(gè)子領(lǐng)域，特別是生成對(duì)抗網(wǎng)絡(luò)（Generative Adversarial Networks，GANs）的產(chǎn)物。其過(guò)程是：兩個(gè)被稱為神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)系統(tǒng)會(huì)相互競(jìng)爭(zhēng)地進(jìn)行訓(xùn)練。第一個(gè)網(wǎng)絡(luò)或生成器的任務(wù)是創(chuàng)建偽造的數(shù)據(jù)，如照片、聲音，或復(fù)制原始數(shù)據(jù)集屬性的視頻片段；第二個(gè)網(wǎng)絡(luò)或鑒別器的任務(wù)是識(shí)別偽造的數(shù)據(jù)。這兩個(gè)稱為“生成器”和“鑒別器”的網(wǎng)絡(luò)在相同的圖像、視頻或聲音數(shù)據(jù)集上進(jìn)行訓(xùn)練，然后第一個(gè)網(wǎng)絡(luò)嘗試創(chuàng)建足以欺騙第二個(gè)網(wǎng)絡(luò)的新樣本，第二個(gè)網(wǎng)絡(luò)用于確定它看到的新媒體是否真實(shí)。這樣，它們互相推動(dòng)改進(jìn)?；诿看蔚慕Y(jié)果，生成器網(wǎng)絡(luò)不斷進(jìn)行調(diào)整，以創(chuàng)建越來(lái)越接近真實(shí)的數(shù)據(jù)。上述兩個(gè)網(wǎng)絡(luò)間的競(jìng)爭(zhēng)——通常是數(shù)千次甚至數(shù)百萬(wàn)次迭代——直到生成器提高其性能，使鑒別器無(wú)法再區(qū)分真實(shí)數(shù)據(jù)和偽造數(shù)據(jù)。計(jì)算機(jī)視覺(jué)技術(shù)——如焦點(diǎn)識(shí)別，可以與生成對(duì)抗網(wǎng)絡(luò)相結(jié)合，以跟蹤圖像或視頻中的特定物體。使用面部特殊標(biāo)志跟蹤，或識(shí)別人面部的主要特征，允許程序準(zhǔn)確地交換目標(biāo)面部。類似的技術(shù)也存在于增強(qiáng)現(xiàn)實(shí)領(lǐng)域，即虛擬物品在現(xiàn)實(shí)世界中實(shí)時(shí)顯示的領(lǐng)域。在Instagram和SnapChat等網(wǎng)站或應(yīng)用程序上，以面部交換和過(guò)濾的形式，換臉是一件非?？焖俸洼p松的事情，關(guān)鍵是這樣做幾乎沒(méi)有任何成本。2016年，迪士尼電影工作室將凱莉·費(fèi)雪（Carrie Fisher）年輕時(shí)的形象植入電影《星球大戰(zhàn)外傳：俠盜一號(hào)》中，耗資數(shù)百萬(wàn)美元；如果使用深度偽造技術(shù)，幾小時(shí)內(nèi)就可以免費(fèi)創(chuàng)建一個(gè)完美的復(fù)制程序。

學(xué)術(shù)界一般認(rèn)為第一個(gè)深度偽造的作品是2017年底一個(gè)署名為“Deepfakes”（深度偽造）的用戶發(fā)布在美國(guó)著名社交新聞媒體紅迪網(wǎng)（reddit）上的視頻，該視頻是使用名人的形象合成的色情視頻。這樣的視頻使用真實(shí)的鏡頭并合成了真實(shí)的聲音，因此許多觀眾認(rèn)為他們正在觀看的視頻是真實(shí)的。這段視頻一出現(xiàn)便迅速傳播，引發(fā)各界關(guān)注，深度偽造問(wèn)題也因此逐漸進(jìn)入了研究者的視野。自那個(gè)時(shí)期開(kāi)始，越來(lái)越多的深度偽造作品出現(xiàn)在電子媒體特別是社交平臺(tái)上。

1. 深度偽造技術(shù)分類

從技術(shù)角度看，深度偽造可以分為以下三類。第一類是深度偽造視頻技術(shù)。三種數(shù)字技術(shù)對(duì)于深度偽造視頻技術(shù)的發(fā)展發(fā)揮了至關(guān)重要的作用：首先，計(jì)算機(jī)視覺(jué)科技的發(fā)展開(kāi)發(fā)了一種算法，可以自動(dòng)繪制圖像中面部的標(biāo)志特征，比如眉毛和鼻子的位置，從而產(chǎn)生了面部識(shí)別技術(shù)。其次，互聯(lián)網(wǎng)的興起，特別是視頻和照片分享平臺(tái)的大量涌現(xiàn)，形成了以互聯(lián)網(wǎng)為基礎(chǔ)的龐大的視聽(tīng)數(shù)據(jù)庫(kù)，為各種深度偽造視頻提供了取之不盡的大數(shù)據(jù)。最后，圖像取證能力技術(shù)的發(fā)展，使系統(tǒng)可以自動(dòng)檢測(cè)偽造品。上述技術(shù)的發(fā)展為人工智能技術(shù)的繁榮創(chuàng)造了先決條件，機(jī)器學(xué)習(xí)特別是深度學(xué)習(xí)的優(yōu)勢(shì)就在于它的循環(huán)學(xué)習(xí)方法：它可以檢測(cè)大型數(shù)據(jù)集之中的模式，并產(chǎn)生類似的產(chǎn)品；它能夠從取證算法的輸出中學(xué)習(xí)，因?yàn)檫@些算法教會(huì)了人工智能算法在下一個(gè)生產(chǎn)周期中需要改進(jìn)什么。如此循環(huán)往復(fù)，制作出來(lái)的視頻產(chǎn)品相似度就越來(lái)越高，甚至幾乎完全一樣。

第二類是語(yǔ)音克隆技術(shù)。語(yǔ)音克隆技術(shù)也被稱為音頻深度偽造、語(yǔ)音合成、語(yǔ)音轉(zhuǎn)換或交換。語(yǔ)音克隆技術(shù)已經(jīng)發(fā)展到這樣的水平：只需采集到一個(gè)人的幾句話，人工智能語(yǔ)音克隆軟件就可以生成與目標(biāo)人類語(yǔ)音非常相似的合成語(yǔ)音。這一技術(shù)已經(jīng)成為日常家用電子產(chǎn)品的標(biāo)準(zhǔn)功能，如谷歌家庭（Google Families）、蘋(píng)果智能語(yǔ)音助手（Siri）、亞馬遜語(yǔ)音虛擬助手（Amazon Alexa）等。各種方便訪問(wèn)的人工智能應(yīng)用程序使創(chuàng)建語(yǔ)音克隆產(chǎn)品變得更加便利，語(yǔ)音克隆體的質(zhì)量也迅速提高。因此，人工智能技術(shù)使得語(yǔ)音克隆的可信度和創(chuàng)建可信克隆的速度達(dá)到了一個(gè)新的高度。

第三類是文本合成技術(shù)。在深度偽造的背景下，文本合成技術(shù)可以生成模仿目標(biāo)獨(dú)特說(shuō)話風(fēng)格的文本。這些技術(shù)主要依賴于自然語(yǔ)言處理（Natural Language Processing，NLP）技術(shù)。這是計(jì)算機(jī)科學(xué)和語(yǔ)言學(xué)交叉形成的一門(mén)科學(xué)學(xué)科，它的主要應(yīng)用是改善人類和計(jì)算機(jī)之間的文本和語(yǔ)言互動(dòng)。自然語(yǔ)言處理系統(tǒng)可以分析大量的文本，包括一個(gè)特定目標(biāo)的音頻剪輯文本，從而形成一個(gè)能夠在一定程度上解釋演講的系統(tǒng)，包括詞語(yǔ)以及對(duì)所表達(dá)的微妙情感和意圖的理解。這可能會(huì)制造一個(gè)人說(shuō)話風(fēng)格的模型，并反過(guò)來(lái)又可以用來(lái)合成新穎的演講。自然語(yǔ)言處理常用的架構(gòu)是一種稱為“機(jī)器學(xué)習(xí)模型”（Transformer）的深度學(xué)習(xí)算法。該算法基本上可以通過(guò)學(xué)習(xí)單詞序列如何在句子和文本中相互關(guān)聯(lián)，將一個(gè)輸入的文本“轉(zhuǎn)換”為一個(gè)新的文本。位于舊金山的一家人工智能研究實(shí)驗(yàn)室開(kāi)放人工智能（Open AI）創(chuàng)建的第三代語(yǔ)言預(yù)測(cè)模型（GenerativePre-trained Transformer 3，GPT-3）被認(rèn)為是這一技術(shù)領(lǐng)域的領(lǐng)先者。開(kāi)放人工智能實(shí)驗(yàn)室的研究人員聲稱，“GPT-3甚至可以生成新聞文章，而人類評(píng)估者很難將其與人類所寫(xiě)的文章區(qū)分開(kāi)來(lái)”。

作為數(shù)字時(shí)代人工智能技術(shù)發(fā)展的產(chǎn)物，深度偽造技術(shù)就如同基本的圖像和視頻桌面編輯器一樣，并不存在錯(cuò)誤和邪惡之處，它只是一個(gè)工具。與其他技術(shù)一樣，深度偽造技術(shù)同樣具有雙刃劍的特性，人們出于不同的目的可以創(chuàng)作出不同性質(zhì)的深度偽造作品。

2. 深度偽造作品分類

從深度偽造產(chǎn)品本身的性質(zhì)看，目前出現(xiàn)的深度偽造作品可以分為三類。第一類是具有積極作用的產(chǎn)品或應(yīng)用。深度偽造技術(shù)在許多行業(yè)具有積極用途，包括電影、教育媒體和數(shù)字通信、游戲和娛樂(lè)、社交媒體和醫(yī)療保健、材料科學(xué)以及各種商業(yè)領(lǐng)域（如時(shí)尚和電子商務(wù)）等。電影業(yè)可以通過(guò)多種方式從深度偽造技術(shù)中受益。例如，它可以幫助因疾病而失去聲音的演員制作數(shù)字聲音，或者更新電影片段而不需要重新拍攝；它還可以為任何語(yǔ)言的電影自動(dòng)配音，從而讓不同語(yǔ)言的觀眾更好地欣賞電影和教育媒體。例如，在醫(yī)學(xué)上，漸凍人協(xié)會(huì)（The ALS Association）正在利用深度偽造技術(shù)，為漸凍癥患者提供幫助。漸凍人協(xié)會(huì)與一家名為“琴鳥(niǎo)”（Lyrebird）的公司合作，使用語(yǔ)音克隆技術(shù)來(lái)幫助漸凍癥患者。該公司鼓勵(lì)漸凍癥患者在他們還能夠發(fā)聲時(shí)備份他們的聲音，并將語(yǔ)音克隆技術(shù)與眼睛閱讀器輔助技術(shù)聯(lián)系起來(lái)，使?jié)u凍癥患者在喪失說(shuō)話能力之后，依然能夠用他原始的、獨(dú)特的聲音而不是“機(jī)器”聲音來(lái)與家人和朋友進(jìn)行交流。

第二類是較為中性的深度偽造，主要是娛樂(lè)和幽默性質(zhì)的深度偽造作品。這類作品往往是以公眾人物作為娛樂(lè)對(duì)象。例如，2020年在中國(guó)社交媒體上廣為流傳的一段深度偽造視頻，表現(xiàn)的是時(shí)任美國(guó)總統(tǒng)唐納德·特朗普（Donald Trump）和國(guó)務(wù)卿邁克爾·蓬佩奧（MichaelPompeo）兩個(gè)人用中文合唱了一首歌曲《我愛(ài)你中國(guó)》，明顯屬于娛樂(lè)大眾之作。優(yōu)兔（YouTube）上有1 820萬(wàn)粉絲的吉米·坎摩爾（Jimmy Kimmel）在他的節(jié)目中播放了特朗普總統(tǒng)的視頻，總統(tǒng)的聲音在“醉酒唐納德·特朗普”的片段中慢了下來(lái)，聽(tīng)起來(lái)像是喝醉了。這樣的深度偽造作品沒(méi)有惡意，純屬幽默，觀眾也明白這樣的視頻并不是真的，所以不會(huì)造成不良的社會(huì)后果。

第三類屬于惡意的深度偽造。這一類深度偽造被創(chuàng)作者用于某種特殊的目的，往往會(huì)給國(guó)家安全、社會(huì)治理帶來(lái)嚴(yán)峻的威脅和挑戰(zhàn)。如在深度偽造中占比最高的是利用深度偽造技術(shù)合成的色情視頻。深度偽造的色情視頻受害者不僅包括一些影視明星，也包括一些普通女性，屬于人工智能技術(shù)發(fā)展帶來(lái)的新的性別安全問(wèn)題。深度偽造還被用來(lái)抹黑政治人物，尤其是正在從事選舉工作的政治候選人，從而影響一些國(guó)家的政治進(jìn)程。深度偽造也被用來(lái)對(duì)一些國(guó)家正在發(fā)生的政治事件作出不利的描述，不僅可能激化社會(huì)矛盾、導(dǎo)致群體性事件的發(fā)生，也可能影響國(guó)家的政治形象，在國(guó)際舞臺(tái)上給這些國(guó)家制造難題和困境。深度偽造還會(huì)給企業(yè)和個(gè)人在經(jīng)濟(jì)上帶來(lái)?yè)p失，無(wú)論是通過(guò)深度偽造影響一些企業(yè)股票，還是影響一些企業(yè)剛剛上市的產(chǎn)品，都會(huì)給企業(yè)帶來(lái)巨大的損失。深度偽造造成的詐騙活動(dòng)，更是讓一些企業(yè)和個(gè)人蒙受了重大損失。更嚴(yán)重的是，深度偽造可能會(huì)摧毀社會(huì)信任，信任赤字將惡化整個(gè)社會(huì)的心理生態(tài)環(huán)境。

美國(guó)眾議院常設(shè)情報(bào)特別委員會(huì)（House Permanent Select Committee on Intelligence）主席亞當(dāng)·希夫（Adam Schiff）在其主持的“人工智能對(duì)國(guó)家安全的挑戰(zhàn)”聽(tīng)證會(huì)上，曾經(jīng)得出這樣的結(jié)論：“讓深度偽造和其他虛假信息模式變得真正有害的是社交媒體的無(wú)處不在，以及虛假信息傳播的速度?！毕７虻姆治稣f(shuō)明了深度偽造的主要特征：以網(wǎng)絡(luò)社交平臺(tái)為主要傳播媒介，傳播速度快。

1. 網(wǎng)絡(luò)社交平臺(tái)是傳播深度偽造作品的最主要渠道

在20世紀(jì)甚至21世紀(jì)初的大部分時(shí)間里，雜志、報(bào)紙和電視廣播公司管理著向公眾傳遞的信息。上述媒體均建立了嚴(yán)格的專業(yè)標(biāo)準(zhǔn)來(lái)控制新聞質(zhì)量，而大眾媒體和自媒體的數(shù)量相對(duì)較少，這意味著只有有限數(shù)量的個(gè)人和組織可以廣泛傳播信息。然而，在過(guò)去十來(lái)年，智能手機(jī)的普及使得社交媒體被廣泛運(yùn)用，越來(lái)越多的人開(kāi)始習(xí)慣從各種社交媒體平臺(tái)獲取信息，如國(guó)外用戶從臉書(shū)、推特，國(guó)內(nèi)用戶從微信、微博等平臺(tái)獲取信息。這些平臺(tái)依賴大量用戶來(lái)生成相對(duì)未經(jīng)過(guò)濾的內(nèi)容，而用戶傾向于展示他們自身的體驗(yàn)，瀏覽并發(fā)送他們同意的觀點(diǎn)（平臺(tái)算法也增強(qiáng)了這種趨勢(shì)），將他們參與的社交媒體平臺(tái)變成了“回音室”。這些平臺(tái)也容易受到所謂的信息級(jí)聯(lián)影響（cascading impacts），即受深度偽造作品影響的人向其所在的多個(gè)群組傳遞、分享信息，選擇相信這些信息的群組受眾又會(huì)將這些未加鑒別的深度偽造作品傳播到更大范圍，從而造成深度偽造的累積效應(yīng)。《科學(xué)》（Science）雜志的一項(xiàng)研究報(bào)告稱，推特上的虛假信息通常會(huì)被更多的人轉(zhuǎn)發(fā)，而且比真實(shí)信息要快得多，尤其是政治話題。

2. 深度偽造發(fā)展迅猛

自第一個(gè)深度偽造視頻出現(xiàn)后，深度偽造以其質(zhì)量、數(shù)量和多樣性的特點(diǎn)穩(wěn)步上升而受到極大的關(guān)注，這反向推動(dòng)了深度偽造更為迅猛的發(fā)展。聯(lián)合國(guó)裁軍研究所（The United Nations Institute for Disarmament Research，UNIDIR）的追蹤研究發(fā)現(xiàn)，自2018年11月以來(lái)，在線識(shí)別的深度偽造視頻數(shù)量每六個(gè)月就會(huì)翻一番。

3. 深度偽造傳播迅速且點(diǎn)擊量巨大

當(dāng)一段關(guān)于美國(guó)眾議院議長(zhǎng)南?！づ迓逦鳎∟ancyPatricia Pelosi）似乎喝多了、走路搖擺不穩(wěn)的深度偽造視頻上傳到互聯(lián)網(wǎng)后，不到48個(gè)小時(shí)，僅僅在臉書(shū)和推特兩個(gè)社交平臺(tái)就獲得了幾百萬(wàn)的點(diǎn)擊量。另外根據(jù)筆者在優(yōu)兔（YouTube）的觀察，此類深度偽造的作品傳播速度普遍都十分迅速，擁有非常高的點(diǎn)擊量。如拜登唱歌、特朗普跳舞的深度偽造視頻自2020年11月17日上傳，到2021年12月23日，已經(jīng)獲得了10 941 585次的點(diǎn)擊量；特朗普總統(tǒng)與英國(guó)伊麗莎白女王的“史詩(shī)之舞”，從2017年7月4日發(fā)布，到2022年4月12日已經(jīng)有3 972 528人次觀看。

4. 深度偽造以公眾人物等為主要對(duì)象

公眾人物主要包括國(guó)家政要、跨國(guó)公司老板和影視界明星等，因其具有高知名度和較大的社會(huì)影響而備受深度偽造者的青睞，美國(guó)前總統(tǒng)貝拉克·奧巴馬（Barack Obama）及其妻子米歇爾·奧巴馬（MichelleObama）、特朗普及其女兒伊萬(wàn)卡·特朗普（Ivanka Trump），眾議院議長(zhǎng)佩洛西、英國(guó)女王伊麗莎白、臉書(shū)創(chuàng)始人和老板馬克·扎克伯格（Mark Zuckerberg）、2018年被《時(shí)代》（Times）雜志評(píng)為“最具影響力100人”的以色列著名演員蓋爾·加朵（Gal Gadot），以及中國(guó)的一些影視界明星等，都曾經(jīng)出現(xiàn)在各種深度偽造的視頻作品中。

深度偽造之所以能夠迅速流行并傳播，主要有以下幾個(gè)原因：

1. 人工智能技術(shù)的發(fā)展和普及使得制作深度偽造作品更簡(jiǎn)單易行

與其他人工智能技術(shù)一樣，深度偽造和合成媒體不需要專門(mén)的硬件或設(shè)備來(lái)開(kāi)發(fā)，擁有強(qiáng)大顯卡的臺(tái)式電腦就足夠了。商業(yè)性甚至免費(fèi)的深度偽造服務(wù)已經(jīng)出現(xiàn)在公開(kāi)市場(chǎng)上，這些服務(wù)的普及將降低進(jìn)入門(mén)檻，使得任何有興趣的人幾乎都可以擁有創(chuàng)建專業(yè)級(jí)深度偽造作品的能力。

2. 互聯(lián)網(wǎng)空間免費(fèi)獲取數(shù)據(jù)集使深度偽造的門(mén)檻變得很低

計(jì)算機(jī)視覺(jué)社區(qū)已經(jīng)創(chuàng)建了帶有標(biāo)記的視覺(jué)材料的大型數(shù)據(jù)集，其中許多數(shù)據(jù)集都可以在互聯(lián)網(wǎng)上免費(fèi)獲得。這些數(shù)據(jù)集是訓(xùn)練機(jī)器學(xué)習(xí)算法所必需的。深度偽造數(shù)據(jù)的創(chuàng)建者可以很容易地訪問(wèn)這些數(shù)據(jù)集；此外，由于云計(jì)算提供的服務(wù)，訓(xùn)練機(jī)器學(xué)習(xí)算法所需的計(jì)算能力成本較低，如谷歌的Colaboratory（簡(jiǎn)稱Colab）可以讓任何人通過(guò)瀏覽器編寫(xiě)和執(zhí)行任意高級(jí)通用編程語(yǔ)言（Python）代碼。它尤其適合機(jī)器學(xué)習(xí)、數(shù)據(jù)分析和教育目的。用戶無(wú)需進(jìn)行設(shè)置，就可以直接使用，同時(shí)還能獲得圖形處理單元（Graphics Processing Unit，GPU）等計(jì)算資源的免費(fèi)使用權(quán)限。因此，一臺(tái)普通的電腦，甚至是一部能上網(wǎng)的智能手機(jī)，都足以創(chuàng)造出高質(zhì)量的深度偽造作品。

3. 深度偽造中占比最高的是色情和政治類作品

從傳播學(xué)的角度看，色情和政治類作品往往具有低俗、虛假、傳播快的特性，加上人性的獵奇心理——這在東西方國(guó)家都是一樣的，如中國(guó)有“好事不出門(mén)，惡事行千里”的諺語(yǔ)，西方國(guó)家則有“當(dāng)真相還在穿鞋時(shí)，謊言已經(jīng)傳遍半個(gè)世界”（A lie travels halfway around the world while the truthis getting its shoes on）的諺語(yǔ)，講的都是同樣的道理——這些因素使得色情和政治類深度偽造作品傳播最廣。美國(guó)麻省理工學(xué)院（MIT）通過(guò)對(duì)推特進(jìn)行深入研究，“分析了十多年來(lái)300萬(wàn)用戶發(fā)布的約12.6萬(wàn)條級(jí)聯(lián)新聞報(bào)道”，結(jié)果發(fā)現(xiàn)，“一個(gè)捏造的故事傳播到1 500人的速度是一個(gè)真實(shí)故事的6倍”。而且，虛假的政治故事比關(guān)于商業(yè)、恐怖主義或科學(xué)的虛假故事傳播得更快。

4. 近年來(lái)歐美國(guó)家的政治極化也加快了深度偽造信息的傳播速度

冷戰(zhàn)結(jié)束后，外部壓力的弱化反而加劇了歐美國(guó)家國(guó)內(nèi)政治的兩極分化。政治極化的一個(gè)重要后果就是減少了公眾之間跨領(lǐng)域政治互動(dòng)的機(jī)會(huì)；而同質(zhì)的社交網(wǎng)絡(luò)又降低了對(duì)不同觀點(diǎn)的容忍度，放大了理念上的兩極化，在一定程度上提高了接受意識(shí)形態(tài)兼容新聞的難度，并增強(qiáng)了對(duì)不同信息的封閉程度。這些趨勢(shì)創(chuàng)造了一個(gè)深度偽造作品高度吸引特定受眾群體的環(huán)境。

總之，人工智能、大數(shù)據(jù)技術(shù)的發(fā)展和普及，使得有心者制作各種深度偽造作品的門(mén)檻大大降低，導(dǎo)致互聯(lián)網(wǎng)和各種社交媒體充斥著各式各樣的深度偽造作品。盡管深度偽造只是一種技術(shù)工具，并且具有造福于社會(huì)的功能，但是，深度偽造技術(shù)更多地表現(xiàn)出負(fù)面作用，因而給國(guó)家安全和社會(huì)治理帶來(lái)的挑戰(zhàn)更為復(fù)雜。

當(dāng)今世界，安全的時(shí)空領(lǐng)域較之以往更加寬廣，各國(guó)人民命運(yùn)與共、唇齒相依，沒(méi)有任何國(guó)家能夠?qū)崿F(xiàn)脫離國(guó)際安全的自身安全，也不存在建立在其他國(guó)家不安全基礎(chǔ)之上的自身安全。所以，國(guó)際安全是國(guó)家安全的重要依托。

盡管深度偽造技術(shù)出現(xiàn)的時(shí)間還不長(zhǎng)，但已經(jīng)對(duì)國(guó)際形勢(shì)和國(guó)際安全環(huán)境造成了沖擊，并在一定范圍內(nèi)產(chǎn)生了重大影響。主要體現(xiàn)在以下幾個(gè)方面：

1. 深度偽造會(huì)破壞國(guó)際社會(huì)的戰(zhàn)略互信并沖擊脆弱的和平環(huán)境

在國(guó)際關(guān)系中，戰(zhàn)略互信是國(guó)際安全與國(guó)際形勢(shì)穩(wěn)定的核心支柱，可以為全球合作和多邊合作體制建設(shè)奠定堅(jiān)實(shí)的基礎(chǔ)。但信息的數(shù)字化以及幾乎無(wú)處不在的快速通信的數(shù)字手段，促進(jìn)了虛假和誤導(dǎo)性內(nèi)容的傳播。從國(guó)際安全和國(guó)際形勢(shì)穩(wěn)定的角度看，深度偽造與其他顛覆性數(shù)字技術(shù)相結(jié)合，將極大地降低全球和區(qū)域多邊機(jī)構(gòu)以及國(guó)際關(guān)系行為體彼此間的信任。對(duì)于在國(guó)際社會(huì)和國(guó)際安全領(lǐng)域試圖制造事端的國(guó)家與非國(guó)家行為體而言，它們可以隨時(shí)獲取和利用日益先進(jìn)的深度偽造技術(shù)，減少信息武器化的障礙，擴(kuò)大參與并深度影響國(guó)際安全形勢(shì)。2019年，印度和巴基斯坦之間的緊張局勢(shì)升級(jí)期間，路透社發(fā)現(xiàn)了30起關(guān)于該事件的深度偽造視頻：這些視頻大部分是2017年印巴沖突期間，發(fā)生在印巴兩國(guó)一些城市的民眾向?qū)Ψ娇棺h示威的場(chǎng)景?！坝行娜耸俊崩萌斯ぶ悄芗夹g(shù)對(duì)這些視頻作了處理，被有意錯(cuò)誤描述為正在印度和巴基斯坦發(fā)生的視頻片段。這些深度偽造的合成視頻極大地刺激了印巴兩國(guó)的民族主義者，導(dǎo)致事態(tài)升級(jí)。由于擔(dān)心事態(tài)失控，印度和巴基斯坦官方被迫暫時(shí)關(guān)閉了一些社交平臺(tái)。

2. 深度偽造有可能會(huì)影響軍事決策和軍備控制

一些國(guó)家的政治和軍事領(lǐng)導(dǎo)人依賴公開(kāi)與秘密的信息環(huán)境作出重大決策，特別是在重大危機(jī)面前，需要快速作出決策。但武器化的深度偽造可以被用來(lái)擾亂信息環(huán)境，這在持續(xù)的政治和軍事緊張局勢(shì)中，可能會(huì)引發(fā)國(guó)際危機(jī)甚至導(dǎo)致對(duì)立或?qū)沟纳?jí)。例如，一段關(guān)于某擁有核武器國(guó)家將其核武庫(kù)提升至高度警戒的深度偽造信息，可能會(huì)導(dǎo)致其他擁有核武器的國(guó)家相應(yīng)提高其核力量的警戒等級(jí)。以核大國(guó)對(duì)其他擁核國(guó)家核武器監(jiān)控能力而言，這樣的深度偽造不必然會(huì)導(dǎo)致核武器的使用，但很可能會(huì)破壞敵對(duì)國(guó)家之間以及盟友之間圍繞戰(zhàn)略穩(wěn)定的政治和安全氛圍。倫敦國(guó)王學(xué)院的瑪麗娜·法瓦羅（Marina Favaro）將深度偽造歸類為“大規(guī)模扭曲的武器”（Weapons of Mass Distortion），認(rèn)為它能夠降低一個(gè)國(guó)家的態(tài)勢(shì)感知能力，并可能侵蝕核指揮、控制和通信（NC3）；隨著深度偽造的復(fù)雜程度不斷提高，核武器決策者將發(fā)現(xiàn)越來(lái)越難以信任機(jī)器生成的信息，無(wú)論是在快速作出決策還是根據(jù)事實(shí)信息作出決策方面，都將因?qū)κ盏降男畔⑷狈π湃味鴮?dǎo)致決策者在危機(jī)期間處于不利地位。在2021年3月舉行的“技術(shù)復(fù)雜性下的核武器決策”研討會(huì)上，北約一些前高級(jí)決策者討論了深度偽造的危險(xiǎn)并作出判斷，認(rèn)為新興技術(shù)尤其是人工智能技術(shù)的發(fā)展，“將影響決策者管理、吸收、解釋、信任、驗(yàn)證信息以及最終作出決定和決策的能力”。

3.涉及他國(guó)領(lǐng)導(dǎo)人的深度偽造作品會(huì)對(duì)國(guó)家關(guān)系造成影響

涉及他國(guó)領(lǐng)導(dǎo)人的深度偽造作品不僅給國(guó)家領(lǐng)導(dǎo)人帶來(lái)負(fù)面影響，也會(huì)影響國(guó)家間關(guān)系。2018年，比利時(shí)社會(huì)黨在電視臺(tái)播放了一段美國(guó)總統(tǒng)特朗普關(guān)于氣候變化的視頻。在視頻中，特朗普呼吁在即將到來(lái)的全民公投中投票退出《巴黎氣候變化協(xié)定》。他說(shuō)：“正如你所知，我有勇氣退出《巴黎氣候變化協(xié)定》，你也應(yīng)該如此。因?yàn)槟銈儸F(xiàn)在在比利時(shí)所做的實(shí)際上更糟。你們同意了，但你們沒(méi)有采取任何措施?！北壤麜r(shí)社會(huì)黨制作這一視頻的出發(fā)點(diǎn)并不是出于惡意，而是希望吸引比利時(shí)人簽署在線請(qǐng)?jiān)笗?shū)，呼吁比利時(shí)政府采取更緊急的氣候行動(dòng)。特朗普在視頻的最后說(shuō)：“我們都知道氣候變化是假的，就像這個(gè)視頻一樣?！边@相當(dāng)于最后說(shuō)明了這是一段偽造的視頻。但是，恰恰是最后這一句話，并沒(méi)有以當(dāng)?shù)卣Z(yǔ)言出現(xiàn)在字幕中，再加上特朗普對(duì)待氣候變化的一貫立場(chǎng)，讓收視者理所當(dāng)然地認(rèn)為這就是特朗普的演講，是在干涉比利時(shí)的內(nèi)政。這段視頻就這樣激發(fā)了比利時(shí)人對(duì)美國(guó)總統(tǒng)干預(yù)比利時(shí)氣候政策的憤慨。

4. 深度偽造很可能會(huì)成為國(guó)際恐怖活動(dòng)的催化劑

深度偽造技術(shù)對(duì)非國(guó)家行為者尤其是國(guó)際恐怖組織來(lái)說(shuō)，無(wú)疑具有很高的利用價(jià)值。早期的恐怖組織缺乏制作虛假但可信的音頻和視頻的資源，如今隨著深度偽造技術(shù)的成熟，它們可以輕而易舉地制造這類作品了?？植澜M織通過(guò)深度偽造的視頻或音頻，展現(xiàn)對(duì)手包括政府官員發(fā)表煽動(dòng)性言論或從事挑釁性行動(dòng)，最大限度地對(duì)其目標(biāo)受眾產(chǎn)生有利于恐怖組織的影響。如“伊斯蘭國(guó)”（ISIS）的附屬機(jī)構(gòu)可能制作這樣的視頻：某軍事聯(lián)盟的士兵射殺伊斯蘭國(guó)家的平民和婦女兒童，或轟炸了某伊斯蘭國(guó)家的清真寺；某國(guó)政府官員、執(zhí)法人員焚燒《古蘭經(jīng)》等。這類視頻無(wú)疑會(huì)激起伊斯蘭國(guó)家穆斯林的怒火，釀成針對(duì)特定國(guó)家目標(biāo)如大使館、領(lǐng)事館或企業(yè)的抗議活動(dòng)，甚至導(dǎo)致類似于2012年美國(guó)駐利比亞班加西領(lǐng)事館遇襲之類事件。這樣的深度偽造作品還有利于恐怖組織招募人員，補(bǔ)充后備力量。而對(duì)這種深度偽造的逆向?qū)Φ炔僮鳎褪俏鞣絿?guó)家的媒體也可以制作深度偽造的宣傳視頻，讓西方國(guó)家的公眾相信恐怖組織及其活動(dòng)給西方世界構(gòu)成的威脅。

總體來(lái)看，深度偽造給本就緊張的大國(guó)關(guān)系和國(guó)際安全形勢(shì)帶來(lái)了更為復(fù)雜的挑戰(zhàn)，尤其是加劇了國(guó)際社會(huì)和現(xiàn)有國(guó)際體系本就存在的信任赤字，給國(guó)際和平、安全和穩(wěn)定帶來(lái)了多方面的挑戰(zhàn)，引發(fā)了國(guó)際社會(huì)對(duì)深度偽造問(wèn)題的關(guān)注。聯(lián)合國(guó)裁軍研究所2021年的創(chuàng)新對(duì)話大會(huì)（The 2021 Innovations Dialogue Conference）的主題就是“深度偽造、信任和國(guó)際安全”。會(huì)議探討了信任對(duì)國(guó)際安全與穩(wěn)定的重要性、日益增長(zhǎng)的深度偽造現(xiàn)象如何破壞這種信任，以及如何通過(guò)以聯(lián)合國(guó)為中心的多邊合作機(jī)制，應(yīng)對(duì)深度偽造給國(guó)際安全帶來(lái)的挑戰(zhàn)。

深度偽造同樣會(huì)對(duì)民族國(guó)家的傳統(tǒng)安全即國(guó)防、軍事安全和政治安全帶來(lái)更大的沖擊和挑戰(zhàn)。虛假信息是與戰(zhàn)爭(zhēng)和軍事相生相伴的一門(mén)古老的“藝術(shù)”。以欺詐、偽造的信息影響國(guó)家的政治決策和軍事行動(dòng)在人類歷史上屢見(jiàn)不鮮。遠(yuǎn)一點(diǎn)的有1898年“緬因號(hào)”戰(zhàn)列艦在哈瓦那港爆炸后，美國(guó)媒體利用這一事件進(jìn)行誤導(dǎo)性報(bào)道，從而煽動(dòng)公眾支持對(duì)西班牙開(kāi)戰(zhàn)；近到美國(guó)前國(guó)務(wù)卿科林·鮑威爾（Colin Powell）以手中塑料袋里疑似洗衣粉的粉末，指稱伊拉克擁有大規(guī)模殺傷性武器，進(jìn)而為美國(guó)發(fā)動(dòng)伊拉克戰(zhàn)爭(zhēng)提供合法理由。它們都屬于較為經(jīng)典的對(duì)虛假信息的利用。深度偽造技術(shù)的發(fā)展和傳播，將使虛假信息在政治和軍事領(lǐng)域的應(yīng)用更為普遍和容易，從而使民族國(guó)家在傳統(tǒng)安全領(lǐng)域面臨更為復(fù)雜的挑戰(zhàn)。

1. 指揮自動(dòng)化系統(tǒng)方面的深度偽造為雙方軍事行動(dòng)提供戰(zhàn)術(shù)優(yōu)勢(shì)

在現(xiàn)代軍事體系中，指揮自動(dòng)化系統(tǒng)（C4ISR）是軍隊(duì)的神經(jīng)中樞，先進(jìn)的C4ISR能力通過(guò)對(duì)態(tài)勢(shì)的感知、對(duì)環(huán)境和對(duì)手的了解、對(duì)戰(zhàn)場(chǎng)信息的處理以及縮短感知和響應(yīng)之間的時(shí)間，為己方的軍事行動(dòng)提供優(yōu)勢(shì)。這一系統(tǒng)的核心就是戰(zhàn)爭(zhēng)或戰(zhàn)場(chǎng)信息的獲取、處理以及運(yùn)用。這就給對(duì)手提供了利用信息的空間。在未來(lái)的軍事行動(dòng)中，戰(zhàn)爭(zhēng)和戰(zhàn)場(chǎng)上的對(duì)手可以生成高級(jí)指揮官的深度偽造，向?qū)κ值牟筷?duì)下達(dá)虛假或矛盾的命令。為此，他們可以使用從媒體或通過(guò)情報(bào)獲得的真實(shí)指揮官的視頻或錄音；或者創(chuàng)建不真實(shí)的衛(wèi)星情報(bào)圖像，誤導(dǎo)基于人工智能的目標(biāo)識(shí)別系統(tǒng)，這樣就可以“毒化”圖像數(shù)據(jù)并將民用基礎(chǔ)設(shè)施識(shí)別為軍事設(shè)施，或?qū)④娛履繕?biāo)歸類為非軍事目標(biāo)，引導(dǎo)對(duì)手錯(cuò)誤地攻擊目標(biāo)；他們還可以運(yùn)用人工智能技術(shù)發(fā)起錯(cuò)誤信息活動(dòng)，從而導(dǎo)致盟友之間產(chǎn)生爭(zhēng)端。在人工智能時(shí)代，軍事指揮官再也不需要像二戰(zhàn)時(shí)期那樣設(shè)計(jì)復(fù)雜的騙局，以虛假的D日登陸地點(diǎn)信息欺騙納粹德國(guó)總參謀部。未來(lái)的軍事行動(dòng)中不再需要這種物理欺騙，因?yàn)槿斯ぶ悄転樵O(shè)置數(shù)字陷阱和虛假信息提供了更強(qiáng)大的“武器”——深度偽造。

2.深度偽造給國(guó)家政治安全帶來(lái)更大的挑戰(zhàn)和威脅

數(shù)字時(shí)代特別是人工智能技術(shù)的發(fā)展給各國(guó)進(jìn)行政治戰(zhàn)（Political Warfare）帶來(lái)了顛覆性的變化。深度偽造將極大地改變政治戰(zhàn)的內(nèi)涵和實(shí)施方式，那些擁有先進(jìn)人工智能能力和侵入性訪問(wèn)其他國(guó)家大數(shù)據(jù)庫(kù)能力的國(guó)際關(guān)系行為體，將在政治戰(zhàn)中獲得巨大優(yōu)勢(shì)。人工智能為虛假信息的傳播者提供了快速偵察目標(biāo)國(guó)家社交媒體受眾并識(shí)別其心理弱點(diǎn)的能力。人工智能驅(qū)動(dòng)的系統(tǒng)可以快速生成修改過(guò)的內(nèi)容和深度偽造的數(shù)字產(chǎn)品，從而推動(dòng)針對(duì)目標(biāo)國(guó)家民眾和國(guó)家利益的虛假敘事，沖擊目標(biāo)國(guó)家民眾的心理，侵蝕目標(biāo)國(guó)家社會(huì)的信任，給目標(biāo)國(guó)家的政治安全帶來(lái)更大的挑戰(zhàn)和威脅。

自20世紀(jì)中期高速攝影機(jī)發(fā)明以來(lái)，捕捉高度可靠證據(jù)的技術(shù)比制造令人信服的偽造品的技術(shù)要便宜得多，也更容易獲得。如今，每個(gè)擁有智能手機(jī)的人都可以錄下他們所見(jiàn)證的事件高清視頻。人們習(xí)慣于相信自己所看到的東西——“眼見(jiàn)為實(shí)”“有圖有真相”——但人工智能技術(shù)的發(fā)展已經(jīng)使得制作逼真的假視頻和假圖片變得簡(jiǎn)單而廉價(jià)，從而徹底顛覆“眼見(jiàn)為實(shí)”“有圖有真相”的認(rèn)知。紐約州立大學(xué)奧爾巴尼分校（Universityat Albany，StateUniversity of New York）的計(jì)算機(jī)視覺(jué)專家在談到深度偽造對(duì)社會(huì)心理的沖擊時(shí)分析說(shuō)：“媒體通過(guò)微妙的操縱來(lái)改變?nèi)藗儗?duì)政客、事件和想法的理解，可以產(chǎn)生更廣泛的心理影響?！比藗兛赡軙?huì)質(zhì)疑他們?cè)诰W(wǎng)上或媒體上看到的更多視頻的有效性，即使這些視頻完全真實(shí)，也會(huì)導(dǎo)致更多的混亂。深度偽造最具破壞性的方面可能不是虛假信息本身，而是不斷接觸虛假信息，會(huì)導(dǎo)致公眾覺(jué)得包括視頻在內(nèi)的很多信息根本不可信，從而導(dǎo)致一種被稱為“信息世界末日”（information apocalypse）或“現(xiàn)實(shí)冷漠”（reality apathy）的現(xiàn)象。實(shí)際上，最大的威脅不是人們會(huì)被欺騙，而是人們會(huì)開(kāi)始將一切都視為欺騙。這種效應(yīng)也被描述為“騙子的紅利”（liars dividend）：那些傳播懷疑和不確定性的國(guó)際關(guān)系行為體最終會(huì)受益，因?yàn)樗麄儷@得了掩蓋真相的能力，這恰恰就是政治戰(zhàn)的核心內(nèi)涵。很明顯，這樣的效應(yīng)已經(jīng)初現(xiàn)。美國(guó)優(yōu)利公司（Unisys Corporation）2018年的安全指數(shù)調(diào)查發(fā)現(xiàn)，將近19%的美國(guó)人不太可能參加中期選舉投票，因?yàn)樗麄儞?dān)心外部行為者會(huì)損害該國(guó)的選舉投票系統(tǒng)；近86%的受訪者對(duì)美國(guó)選舉投票系統(tǒng)可能受到局外人影響的前景表示擔(dān)憂。優(yōu)利公司的首席信托官湯姆·帕特森（TomPatterson）說(shuō)：“2018 年優(yōu)利安全指數(shù)暴露出民眾對(duì)我們的投票選舉制度缺乏信任，這可能會(huì)削弱對(duì)美國(guó)民主制度的信心?！?/span>

3. 深度偽造會(huì)改變“脆弱國(guó)家”在國(guó)家治理方面的政治進(jìn)程

經(jīng)濟(jì)合作與發(fā)展組織（Organisation for Economic Co-operation andDevelopment，OECD）將脆弱性視為一種普遍現(xiàn)象，在政治、社會(huì)、安全、環(huán)境和經(jīng)濟(jì)五個(gè)主要維度上，每個(gè)國(guó)家都不同程度地以不同方式存在脆弱現(xiàn)象。脆弱指數(shù)比較高的國(guó)家往往存在政治與社會(huì)局勢(shì)不穩(wěn)定、經(jīng)濟(jì)落后和治安混亂等現(xiàn)象。被視為“脆弱國(guó)家”（Fragile States）的往往都是整體發(fā)展水平比較落后的發(fā)展中國(guó)家。在“脆弱國(guó)家”，深度偽造還可能加劇社會(huì)分裂、內(nèi)亂、恐慌和沖突，造成政局動(dòng)蕩，甚至?xí)?dǎo)致暴力沖突和軍事政變。例如，2018年10月，加蓬總統(tǒng)阿里·邦戈·翁丁巴（Ali-Ben Bongo Ondimba）在訪問(wèn)沙特阿拉伯時(shí)因病住院，并從11月起在摩洛哥繼續(xù)接受治療。由于邦戈長(zhǎng)期未公開(kāi)露面，加蓬民眾普遍認(rèn)為其健康狀況不佳，甚至已經(jīng)死亡。2018年12月31日，邦戈在摩洛哥向國(guó)內(nèi)民眾發(fā)表新年賀詞，承認(rèn)自己身體有恙但正在康復(fù)。這段視頻引發(fā)了一場(chǎng)全國(guó)性的危機(jī)。包括部分軍人在內(nèi)的相當(dāng)多的人認(rèn)為視頻是深度偽造作品，加蓬政府的目的是試圖隱瞞總統(tǒng)的健康狀況。最終，這一敘事導(dǎo)致了加蓬軍方的政變，政變軍人的理由就是，他們懷疑總統(tǒng)正在康復(fù)的視頻屬于深度偽造，認(rèn)為總統(tǒng)已經(jīng)失去履行職責(zé)的能力。事后根據(jù)《華盛頓郵報(bào)》記者尋求專業(yè)數(shù)字技術(shù)公司查證，邦戈新年賀詞視頻盡管存在瑕疵，但并無(wú)明確的深度偽造算法介入的證據(jù)；而反對(duì)派成員提供的說(shuō)明視頻，反而存在人工智能操縱的跡象。這一案例表明，深度偽造的視頻可能會(huì)引起一些國(guó)家的政局動(dòng)蕩。

特定情況下適時(shí)出現(xiàn)的深度偽造會(huì)造成社會(huì)動(dòng)蕩，激化社會(huì)矛盾甚至改變一個(gè)國(guó)家的政治進(jìn)程。有特定目的的人或團(tuán)體可能會(huì)制作深度偽造的作品煽動(dòng)民眾聚集，制造群體性事件，引發(fā)公共安全危機(jī)或者暴力事件。2019年印度的印度教教徒通過(guò)WhatsApp傳播大量深度偽造的視頻，助長(zhǎng)了針對(duì)印度穆斯林群體暴力和騷亂暴發(fā)的頻率和強(qiáng)度；同一年，發(fā)生在緬甸針對(duì)羅興亞人的騷亂，出現(xiàn)在社交平臺(tái)的深度偽造視頻和圖片同樣發(fā)揮了推波助瀾的作用。

深度偽造在非傳統(tǒng)安全領(lǐng)域帶來(lái)的挑戰(zhàn)主要是經(jīng)濟(jì)領(lǐng)域。深度偽造既給包括股票、期貨市場(chǎng)帶來(lái)重大沖擊，也對(duì)國(guó)家的經(jīng)濟(jì)運(yùn)行造成負(fù)面影響，對(duì)企業(yè)的影響更為直接。此外，各國(guó)公眾也都會(huì)面臨各種各樣的基于深度偽造的經(jīng)濟(jì)詐騙活動(dòng)。深度偽造對(duì)經(jīng)濟(jì)安全的威脅可以從國(guó)家、企業(yè)和個(gè)人三個(gè)層面來(lái)理解。

1. 國(guó)家層面：深度偽造的內(nèi)容會(huì)損害國(guó)家的經(jīng)濟(jì)穩(wěn)定

深度偽造危害國(guó)家經(jīng)濟(jì)安全的常見(jiàn)手段有以下幾種：一是捏造政府的行為。世界各國(guó)的財(cái)政、商務(wù)和金融監(jiān)管機(jī)構(gòu)一直在與試圖影響市場(chǎng)走勢(shì)的謠言作斗爭(zhēng)——這些謠言往往通過(guò)各種社交平臺(tái)流傳開(kāi)來(lái)。如2019 年，印度中央銀行試圖平息社交媒體有關(guān)當(dāng)局將很快關(guān)閉某些商業(yè)銀行的謠言。深度偽造可能會(huì)編造諸如政府官員關(guān)于稅收政策調(diào)整的討論，或具有官方背景的銀行家私下討論未來(lái)利率變化，或被視為政府智囊的智庫(kù)學(xué)者關(guān)于地區(qū)開(kāi)發(fā)的討論，等等。在經(jīng)濟(jì)和金融危機(jī)時(shí)期，深度偽造可能利用和放大先前存在的經(jīng)濟(jì)擔(dān)憂和市場(chǎng)的波動(dòng)。

二是制造虛假的突發(fā)性事件。突發(fā)性事件往往對(duì)期貨市場(chǎng)和股市構(gòu)成重大沖擊。2013年4月23日，一個(gè)名為“敘利亞電子軍”（Syrian Electronic Army）的黑客組織劫持了美聯(lián)社的推特賬戶，并在推特上寫(xiě)道：“突發(fā)：白宮發(fā)生兩次爆炸，奧巴馬受傷?！边@一虛假聲明立即引發(fā)了大量交易，接下來(lái)的三分鐘，原油價(jià)格暴跌，10年期美國(guó)國(guó)債收益率下跌，投資者轉(zhuǎn)移風(fēng)險(xiǎn)，道·瓊斯工業(yè)指數(shù)下跌150點(diǎn)，標(biāo)準(zhǔn)普爾500指數(shù)資本價(jià)值損失超過(guò)1.36億美元。三分鐘之后，一名美聯(lián)社員工在推特上寫(xiě)道：“我們被黑客入侵了?！本o隨其后的是官方確認(rèn)該“新聞”是一個(gè)騙局，劇烈動(dòng)蕩的市場(chǎng)很快恢復(fù)正常。為交易公司提供市場(chǎng)數(shù)據(jù)的Nanex創(chuàng)始人埃里克·亨薩德（Eric S. Hunsader）說(shuō)：“美聯(lián)社的假推文是股市歷史上最活躍的兩分鐘。”可以盡快控制的一般的虛假信息尚且造成如此大的金融和經(jīng)濟(jì)動(dòng)蕩，由深度偽造引起的懷疑要想消除將更為困難，后者會(huì)讓市場(chǎng)動(dòng)蕩持續(xù)更長(zhǎng)的時(shí)間，造成的損失也更加巨大。

三是惡意銀行擠兌。一些國(guó)家的銀行發(fā)生擠兌，這樣的新聞經(jīng)常出現(xiàn)在社交媒體中。發(fā)生擠兌的原因很多，其中部分原因與社交媒體的深度偽造有關(guān)。盡管基于社交媒體的深度偽造如制造銀行排長(zhǎng)隊(duì)的視頻或照片并不一定是銀行擠兌的主要原因，但社交媒體為此類謠言的快速傳播提供了平臺(tái)，當(dāng)公眾對(duì)金融形勢(shì)或銀行健康運(yùn)轉(zhuǎn)的懷疑開(kāi)始變得普遍時(shí)，社交媒體可以迅速放大它們，從而讓擠兌變得更加瘋狂。

2. 企業(yè)層面：深度偽造給企業(yè)帶來(lái)的威脅和挑戰(zhàn)更為直接

2021年3月10日，鑒于針對(duì)企業(yè)的深度偽造活動(dòng)日益猖獗，美國(guó)聯(lián)邦調(diào)查局特意對(duì)美國(guó)私營(yíng)企業(yè)發(fā)出了警告。聯(lián)邦調(diào)查局預(yù)測(cè)，在未來(lái)12—18個(gè)月，外國(guó)行為者將越來(lái)越多地使用支持人工智能的虛假媒體進(jìn)行“網(wǎng)絡(luò)釣魚(yú)和社會(huì)工程犯罪”，其中深度偽造工具將用于創(chuàng)建“合成企業(yè)角色”或模仿現(xiàn)職員工，并且很可能對(duì)受害企業(yè)和組織造成“非常重大的財(cái)務(wù)和聲譽(yù)影響?！蹦碌贤顿Y者服務(wù)公司（Moody’s Investor Service）也向客戶發(fā)出警告，先進(jìn)的技術(shù)使得制作旨在損害企業(yè)聲譽(yù)的深度偽造視頻和圖像變得更加容易，導(dǎo)致公司的業(yè)務(wù)和信用質(zhì)量受到威脅。

其實(shí)，我們只要看特斯拉（Tesla）首席執(zhí)行官埃隆·馬斯克（ElonMusk）的案例就可以明白，深度偽造給企業(yè)負(fù)責(zé)人制造的負(fù)面形象對(duì)企業(yè)造成的沖擊有多大。馬斯克在一個(gè)流行的直播播客中吸食大麻，導(dǎo)致特斯拉股價(jià)下跌6%。因此，看起來(lái)非常逼真的深度偽造視頻，會(huì)產(chǎn)生與馬斯克直播同樣的效果，無(wú)論是針對(duì)企業(yè)負(fù)責(zé)人，還是針對(duì)企業(yè)的產(chǎn)品，造成的后果是顯而易見(jiàn)的：很有可能會(huì)讓高管和公司的聲譽(yù)崩盤(pán)，并在很短的時(shí)間內(nèi)摧毀公眾對(duì)企業(yè)的信任和股東價(jià)值，而要修復(fù)這些損失還需要企業(yè)付出更大的代價(jià)。一項(xiàng)研究估計(jì)，受深度偽造信息的影響，全球企業(yè)每年損失高達(dá)780億美元，其中包括90億美元用于修復(fù)聲譽(yù)損失和170億美元因財(cái)務(wù)虛假信息而造成的損失。

全球領(lǐng)先的戰(zhàn)略傳播和公共事務(wù)咨詢公司富思博睿格潤(rùn)（Finsbury Glover Hering）分析了深度偽造對(duì)企業(yè)構(gòu)成的五種潛在威脅：一是網(wǎng)絡(luò)釣魚(yú)攻擊。即利用深度偽造技術(shù)偽裝成其他人欺騙目標(biāo)泄露敏感信息。二是交易欺詐。即以高級(jí)管理人員身份向毫無(wú)戒心的員工或經(jīng)濟(jì)伙伴打電話或發(fā)送電子郵件，要求緊急轉(zhuǎn)賬。三是利用深度偽造的視頻對(duì)企業(yè)進(jìn)行勒索，在這種敲詐勒索的情況下，深度偽造的真實(shí)性幾乎無(wú)關(guān)緊要，因?yàn)閾p害瞬間就會(huì)發(fā)生。四是股票操縱，即在財(cái)務(wù)業(yè)績(jī)季適時(shí)進(jìn)行的深度偽造，例如冒充企業(yè)的首席執(zhí)行官（CEO）宣布重大經(jīng)營(yíng)虧損，導(dǎo)致股價(jià)暴跌。五是偽造的監(jiān)管行為，這種深度偽造活動(dòng)針對(duì)的不一定是特定公司而是整個(gè)行業(yè)。想象一下捏造的中央銀行會(huì)議的視頻剪輯，其中描繪了官員討論流動(dòng)性問(wèn)題或未來(lái)利率變化，或者新聞主播或股市專家宣布市場(chǎng)崩盤(pán)，這些視頻將會(huì)在整個(gè)行業(yè)掀起多么大的波瀾。

富思博睿格潤(rùn)研究報(bào)告提到的上述五種“潛在威脅”，有一些實(shí)際已經(jīng)發(fā)生了。2019年，一位英國(guó)能源公司的董事長(zhǎng)被深度偽造的語(yǔ)音電話所欺騙。詐騙者使用商業(yè)語(yǔ)音生成軟件與他進(jìn)行交流，而與他交流的人發(fā)出的聲音是他非常熟悉的總公司首席執(zhí)行官的聲音。他被說(shuō)服將220 000歐元（約243 000美元）轉(zhuǎn)入匈牙利供應(yīng)商的銀行賬戶，直到第三次通話時(shí)，他才發(fā)現(xiàn)了一點(diǎn)破綻，但錢(qián)已經(jīng)被詐騙者轉(zhuǎn)移。目前為止，已知的深度偽造造成的最大損失發(fā)生在中國(guó)香港。2020年年初，一名香港銀行的經(jīng)理被他認(rèn)為是“一家阿聯(lián)酋公司董事的人”騙取了3 500萬(wàn)美元。詐騙者同樣是使用人工智能語(yǔ)音合成軟件，合成了這位以前與香港經(jīng)理交流過(guò)的阿聯(lián)酋公司董事的聲音。據(jù)美國(guó)智庫(kù)卡內(nèi)基和平基金會(huì)（Carnegie Endowment For International Peace）學(xué)者研究，利用深度偽造技術(shù)對(duì)企業(yè)進(jìn)行的付款欺詐，僅2019年就給美國(guó)企業(yè)造成了高達(dá)17億美元的損失。

3. 個(gè)人層面：深度偽造主要被用于欺詐或勒索行為

針對(duì)個(gè)人的深度偽造主要有以下幾種情形：一是身份盜竊。深度偽造至少有兩種可以導(dǎo)致身份盜用的方式：一種形式是有針對(duì)性的深度偽造來(lái)竊取個(gè)人身份，然后用受害者的合成語(yǔ)音對(duì)其親朋好友發(fā)起欺詐性匯兌；另一種形式是以虛假身份創(chuàng)建銀行賬戶的深度偽造音頻或視頻，促進(jìn)洗錢(qián)活動(dòng)或偷稅漏稅。

二是冒名頂替詐騙。主要指的是犯罪分子冒充“政府執(zhí)法部門(mén)、知名企業(yè)或技術(shù)支持專家”向受害者施壓，迫使其付款。深度偽造可以增強(qiáng)冒名頂替者詐騙的真實(shí)性。詐騙者可能會(huì)復(fù)制特定個(gè)人的聲音，通過(guò)人工智能系統(tǒng)撥打許多受害者的電話號(hào)碼，而且還能夠根據(jù)受害者所在地區(qū)自動(dòng)模擬當(dāng)?shù)氐姆窖曰蚩谝簟Ｔp騙犯通過(guò)操縱受害者的情緒并制造一種虛假的緊迫感，讓受害者往往無(wú)暇顧及甄別真假。而且，許多騙局故意針對(duì)更脆弱的受害者，包括老年人和女性群體。

三是網(wǎng)絡(luò)勒索。在網(wǎng)絡(luò)勒索計(jì)劃中，犯罪分子聲稱擁有有關(guān)受害者的令人尷尬乃至恐慌的信息，并威脅要發(fā)布這些信息，除非他們得到報(bào)酬或提供更多他們想要的材料。網(wǎng)絡(luò)勒索者可以使用深度偽造來(lái)生成更有說(shuō)服力的虛假勒索材料，有時(shí)還在與受害者通信中引用受害者的密碼或電話號(hào)碼，這些密碼或電話號(hào)碼通常來(lái)自公開(kāi)的數(shù)據(jù)轉(zhuǎn)儲(chǔ)。勒索者可能向受害者發(fā)送受害者本人的面部圖像或視頻，這些圖像或視頻被合成疊加到色情內(nèi)容中，作為他們?cè)L問(wèn)敏感信息的證據(jù)。根據(jù)美國(guó)聯(lián)邦調(diào)查局的數(shù)據(jù)，2019 年，美國(guó)居民報(bào)告的網(wǎng)絡(luò)勒索損失（不包括勒索軟件造成的損失）為1.07億美元。

總體來(lái)看，深度偽造對(duì)全球經(jīng)濟(jì)體系或者成熟健康的市場(chǎng)經(jīng)濟(jì)國(guó)家的穩(wěn)定性不太容易構(gòu)成嚴(yán)重威脅。發(fā)展中國(guó)家或新興市場(chǎng)經(jīng)濟(jì)體面臨來(lái)自深度偽造的威脅更大。經(jīng)濟(jì)不穩(wěn)定和政府機(jī)構(gòu)不那么受民眾信任的國(guó)家在深度偽造的信息面前更加脆弱；而對(duì)于正在經(jīng)歷經(jīng)濟(jì)或金融危機(jī)的發(fā)達(dá)國(guó)家來(lái)說(shuō)，深度偽造信息可能發(fā)揮“最后一根稻草”的作用。另外，深度偽造對(duì)目標(biāo)個(gè)人和企業(yè)造成經(jīng)濟(jì)損失的危險(xiǎn)更大。

需要指出的是，單一深度偽造的影響并不局限于單一類型或類別的風(fēng)險(xiǎn)，而是會(huì)在不同層次引發(fā)連鎖反應(yīng)。首先，由于深度偽造的目標(biāo)是個(gè)人，其影響往往從個(gè)人層面開(kāi)始。其次，可能會(huì)對(duì)個(gè)人所在的團(tuán)體或組織如政黨造成傷害。再次，深度偽造案例的累積和疊加，可能會(huì)影響社會(huì)心理。最后，導(dǎo)致社會(huì)信任的普遍缺失，從而造成嚴(yán)重的社會(huì)危害。

隨著互聯(lián)網(wǎng)特別是移動(dòng)互聯(lián)網(wǎng)的普及，深度偽造技術(shù)也給中國(guó)帶來(lái)了非常復(fù)雜的安全問(wèn)題。2019年11月29日，國(guó)家互聯(lián)網(wǎng)信息辦公室（以下簡(jiǎn)稱“國(guó)家網(wǎng)信辦”）負(fù)責(zé)人，在談到《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）出臺(tái)的背景時(shí)強(qiáng)調(diào)：“出臺(tái)《規(guī)定》是促進(jìn)網(wǎng)絡(luò)音視頻信息服務(wù)活動(dòng)健康有序發(fā)展的需要。當(dāng)前，網(wǎng)絡(luò)音視頻信息服務(wù)迅速發(fā)展，用戶規(guī)模不斷壯大……與此同時(shí)，也帶來(lái)了傳播違法和不良信息、侵犯人民群眾合法權(quán)益等風(fēng)險(xiǎn)隱患，特別是隨著‘深度偽造’等新技術(shù)新應(yīng)用在網(wǎng)絡(luò)音視頻領(lǐng)域的運(yùn)用，這些風(fēng)險(xiǎn)進(jìn)一步集聚、放大，可能被利用從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，造成政治安全風(fēng)險(xiǎn)和國(guó)家安全、公共安全風(fēng)險(xiǎn)，對(duì)社會(huì)穩(wěn)定造成不良影響?！边@一判斷說(shuō)明，深度偽造給中國(guó)國(guó)家安全、社會(huì)穩(wěn)定和公民權(quán)益帶來(lái)了威脅和挑戰(zhàn)，也從一個(gè)側(cè)面印證了習(xí)近平總書(shū)記對(duì)中國(guó)安全形勢(shì)的總體判斷。

習(xí)近平總書(shū)記在中央國(guó)家安全委員會(huì)第一次會(huì)議上，對(duì)中國(guó)面臨的安全形勢(shì)曾經(jīng)作出這樣的判斷：“當(dāng)前我國(guó)國(guó)家安全內(nèi)涵和外延比歷史上任何時(shí)候都要豐富，時(shí)空領(lǐng)域比歷史上任何時(shí)候都要寬廣，內(nèi)外因素比歷史上任何時(shí)候都要復(fù)雜?！鄙疃葌卧旒夹g(shù)給國(guó)家安全帶來(lái)不同類型的威脅和挑戰(zhàn)，這些威脅與挑戰(zhàn)又表現(xiàn)在不同的層次上，既給包括政治和軍事安全在內(nèi)的傳統(tǒng)國(guó)家安全帶來(lái)新的問(wèn)題和挑戰(zhàn)，同時(shí)也對(duì)包括國(guó)家、企業(yè)和個(gè)人在內(nèi)的經(jīng)濟(jì)安全構(gòu)成了多層次的挑戰(zhàn)。因此，應(yīng)對(duì)深度偽造在不同領(lǐng)域、不同層次的挑戰(zhàn)，不能“頭痛醫(yī)頭腳痛醫(yī)腳”，應(yīng)該以總體國(guó)家安全觀為指導(dǎo)，建立應(yīng)對(duì)深度偽造技術(shù)的綜合治理體系。

堅(jiān)持以人民安全為宗旨，是中國(guó)共產(chǎn)黨執(zhí)政為民的基本原則在國(guó)家安全領(lǐng)域的反映。作為新興技術(shù)的副產(chǎn)品，深度偽造同樣也給中國(guó)國(guó)民安全帶來(lái)了威脅和挑戰(zhàn)，是當(dāng)今中國(guó)國(guó)民安全領(lǐng)域需要重點(diǎn)關(guān)注的問(wèn)題。深度偽造在其他國(guó)家給公眾帶來(lái)的安全威脅，在中國(guó)也同樣存在。某些方面，中國(guó)公眾面臨的安全形勢(shì)甚至更為嚴(yán)峻，如，中國(guó)是運(yùn)用新技術(shù)的電信詐騙的重災(zāi)區(qū)。

據(jù)央視網(wǎng)報(bào)道，在中國(guó)公安部門(mén)和金融機(jī)構(gòu)加大反詐騙宣傳的情況下，2020年，全國(guó)立案電信網(wǎng)絡(luò)詐騙案件92.7萬(wàn)起，案件造成群眾財(cái)產(chǎn)損失353.7億元；2021年以來(lái)，全國(guó)電信網(wǎng)絡(luò)詐騙案件日均發(fā)案2 700起，日平均損失達(dá)到了1.4億元；2021年1—9月，全國(guó)共破獲電信網(wǎng)絡(luò)詐騙案件26.2萬(wàn)起，抓獲犯罪嫌疑人37.3萬(wàn)人，同比分別上升41.1%和116.4%。盡管無(wú)法確認(rèn)使用深度偽造技術(shù)在電信詐騙中所占的比例有多高，但可以肯定的是，隨著人工智能技術(shù)的發(fā)展，詐騙分子越來(lái)越多地將最新技術(shù)應(yīng)用于詐騙活動(dòng)中。習(xí)近平總書(shū)記在網(wǎng)絡(luò)安全和信息化工作座談會(huì)上指出：“現(xiàn)在網(wǎng)絡(luò)詐騙案件越來(lái)越多，作案手段花樣翻新，技術(shù)含量越來(lái)越高。這也提醒我們，在發(fā)展新技術(shù)、新業(yè)務(wù)時(shí)，必須警惕風(fēng)險(xiǎn)蔓延?！薄懊髡叻赖溣谖疵?，智者圖患于將來(lái)”。由于越來(lái)越多的新興技術(shù)可能被應(yīng)用于詐騙活動(dòng)，我們必須主動(dòng)防范、積極應(yīng)對(duì)。

對(duì)深度偽造的治理，要本著對(duì)社會(huì)負(fù)責(zé)、對(duì)人民負(fù)責(zé)的態(tài)度，加強(qiáng)對(duì)人工智能和網(wǎng)絡(luò)空間的治理，因此，還要廣泛依靠人民培養(yǎng)積極健康、向上、向善的數(shù)字生態(tài)系統(tǒng)。數(shù)字時(shí)代帶來(lái)的一個(gè)巨大變化就是個(gè)人以個(gè)體行為主體的角色來(lái)參與培育和保護(hù)值得信賴的數(shù)字和信息生態(tài)系統(tǒng)。尤其是，相當(dāng)大比例的數(shù)字內(nèi)容是由個(gè)人用戶生成的，個(gè)人也可以確保準(zhǔn)確和良性的信息被共享。所以，整個(gè)社會(huì)要有意識(shí)地在個(gè)人層面培養(yǎng)公眾在數(shù)字時(shí)代、人工智能時(shí)代的道德意識(shí)和社會(huì)責(zé)任感。

鑒于中國(guó)各地區(qū)特別是城鄉(xiāng)發(fā)展不平衡，民眾對(duì)于數(shù)字產(chǎn)品認(rèn)知存在巨大差異，管理部門(mén)、網(wǎng)絡(luò)平臺(tái)和技術(shù)專家，都有義務(wù)和責(zé)任向社會(huì)說(shuō)明人工智能時(shí)代新合成媒體的影響力及可能造成的危害，只要公眾了解到合成媒體和可能造成的不良后果，這種欺騙產(chǎn)生影響的可能性就會(huì)降低。當(dāng)公眾被教導(dǎo)去發(fā)現(xiàn)和識(shí)別深度偽造的特征和缺陷，就能夠用自己的判斷決定該相信什么、不該相信什么。

此外，還要注重對(duì)特定群體的數(shù)字技術(shù)掃盲，特別是提高沒(méi)有接受過(guò)系統(tǒng)數(shù)字知識(shí)訓(xùn)練、只了解數(shù)字知識(shí)皮毛、只能簡(jiǎn)單地使用數(shù)字產(chǎn)品（如智能手機(jī)）的老年人的數(shù)字知識(shí)水平。據(jù)美國(guó)學(xué)者丹妮爾·西特倫（Danielle Citron）研究，在數(shù)字素養(yǎng)方面存在“代際鴻溝”（generational divide），55歲以上的一代更有可能傳播謊言和假新聞。全國(guó)人大代表、中國(guó)銀監(jiān)會(huì)消費(fèi)者保護(hù)局局長(zhǎng)鄧智毅在接受記者專訪時(shí)表示，在中國(guó)，電信詐騙的受騙者多為老年人。盡管這并非專門(mén)因深度偽造而起，但深度偽造可能會(huì)加劇這種現(xiàn)象。因此，任何數(shù)字技術(shù)掃盲政策都應(yīng)考慮所有年齡組和社會(huì)不同層面，以彌合數(shù)字鴻溝和代溝。

只有更多的公眾意識(shí)到了深度偽造可能造成的危害，進(jìn)而在整個(gè)社會(huì)培養(yǎng)防范深度偽造的公眾意識(shí)，深度偽造對(duì)國(guó)民安全造成的威脅才能降到最低。從這個(gè)角度看，公眾意識(shí)是防范深度偽造音頻、視頻不良影響的最好“疫苗”。

國(guó)家政治安全涉及國(guó)家主權(quán)、國(guó)家制度、國(guó)民意識(shí)形態(tài)和執(zhí)政安全等方面。深度偽造對(duì)中國(guó)政治安全帶來(lái)的挑戰(zhàn)主要表現(xiàn)為宗教極端意識(shí)形態(tài)和民族分離勢(shì)力的滲透和分裂活動(dòng)，特別是西方國(guó)家利用所謂的新疆民族和宗教問(wèn)題，試圖分裂中國(guó)，以及利用“港獨(dú)”勢(shì)力禍亂香港，給“一國(guó)兩制”在香港的實(shí)施制造麻煩。

在涉疆問(wèn)題上，西方媒體制作了包括深度偽造在內(nèi)的大量的虛假報(bào)道，極力抹黑中國(guó)政府的治疆方略和政策，污蔑中國(guó)政府在新疆實(shí)施“強(qiáng)迫勞動(dòng)”和“種族滅絕”政策。2021年4月29日，中華人民共和國(guó)駐比利時(shí)王國(guó)大使館專門(mén)發(fā)布了揭露以美國(guó)為首的西方國(guó)家制作包括深度偽造在內(nèi)的關(guān)于涉疆問(wèn)題的虛假信息的文章，揭露在美國(guó)反華勢(shì)力的操縱下，一些歪曲事實(shí)的“學(xué)術(shù)機(jī)構(gòu)”、造謠的“專家學(xué)者”和不顧道德的“業(yè)余演員”，是如何制造謊言、包括利用現(xiàn)代人工智能技術(shù)制造更加逼真的謊言，以通過(guò)誹謗中國(guó)的治疆政策誤導(dǎo)國(guó)際公共話語(yǔ)。與這兩個(gè)主題配套的深度偽造視頻也不斷出現(xiàn)在西方主流媒體上。如英國(guó)廣播公司（BBC）關(guān)于所謂“強(qiáng)迫勞動(dòng)”的專題報(bào)道。在那個(gè)視頻中，使用的是中央電視臺(tái)的扶貧報(bào)道——出于剪輯的需要，它甚至無(wú)法完全遮蔽中央電視臺(tái)的標(biāo)志——該深度偽造視頻將安徽省在對(duì)口幫扶的新疆和田地區(qū)皮山縣招聘工人的鏡頭，扭曲改變?yōu)椤皬?qiáng)迫”新疆的維族青年到內(nèi)地工作，原來(lái)報(bào)道中的笑容一閃而過(guò)，而將父母對(duì)即將出行兒女的擔(dān)憂描繪成生離死別。還有一些深度偽造視頻污蔑中國(guó)政府通過(guò)計(jì)劃生育政策在新疆實(shí)施所謂的“種族滅絕”政策等。正是這樣深度偽造的假視頻、假音頻，給中國(guó)政府的新疆政策抹黑，將涉疆問(wèn)題建構(gòu)成為所謂的“人權(quán)”問(wèn)題和中國(guó)政府的“種族滅絕政策”，不僅誤導(dǎo)了外部世界的民眾，讓中國(guó)外交面臨更為惡劣的國(guó)際環(huán)境，也影響了新疆的和平安定和民族團(tuán)結(jié)局面以及未來(lái)的發(fā)展。

涉港問(wèn)題是西方國(guó)家插手中國(guó)內(nèi)政、給中國(guó)政治安全帶來(lái)挑戰(zhàn)的另一個(gè)重要抓手。2019年，香港黑暴動(dòng)亂期間，英國(guó)和美國(guó)媒體都利用了深度偽造視頻向外界傳遞對(duì)香港特區(qū)政府和執(zhí)法警隊(duì)的不滿。香港一家專門(mén)驗(yàn)證深度偽造虛假信息的平臺(tái)——“求驗(yàn)傳媒”管理人員在接受BBC訪問(wèn)時(shí)指出，他們觀察發(fā)現(xiàn)，有許多社交網(wǎng)站專頁(yè)在這次“修例風(fēng)波”期間“不負(fù)責(zé)任地散播謠言”，發(fā)布許多符合它們政治理念的消息；智能手機(jī)的性能提升，讓更多人可以拍攝照片或視頻，再按圖片或短片內(nèi)容編造故事而不理會(huì)這些描述是否準(zhǔn)確，是這次香港動(dòng)亂出現(xiàn)“大量假新聞或誤導(dǎo)性訊息流傳的原因”。

上述涉疆和涉港的案例表明，深度偽造已經(jīng)并將日益成為威脅中國(guó)政治安全的重要手段，讓中國(guó)的政治安全面臨更為復(fù)雜的形勢(shì)。對(duì)深度偽造技術(shù)的治理，要上升到維護(hù)國(guó)家政治安全的高度以嚴(yán)密防范和打擊利用人工智能和數(shù)字技術(shù)進(jìn)行滲透、顛覆破壞活動(dòng)、暴力恐怖活動(dòng)、民族分裂活動(dòng)和宗教極端活動(dòng)。

治理深度偽造問(wèn)題，既要重視傳統(tǒng)安全，又要重視非傳統(tǒng)安全。與其他國(guó)家一樣，深度偽造給中國(guó)傳統(tǒng)安全和非傳統(tǒng)安全帶來(lái)了新的威脅和挑戰(zhàn)。在傳統(tǒng)安全領(lǐng)域，除了上述所提到深度偽造給新疆和香港地區(qū)的政治穩(wěn)定帶來(lái)的挑戰(zhàn)外，深度偽造在國(guó)土安全和國(guó)防安全領(lǐng)域同樣給中國(guó)帶來(lái)了一些新的威脅和挑戰(zhàn)。無(wú)論是在和平時(shí)期，還是在未來(lái)可能的戰(zhàn)爭(zhēng)條件下，中國(guó)指揮自動(dòng)化系統(tǒng)同樣會(huì)面臨競(jìng)爭(zhēng)對(duì)手利用深度偽造技術(shù)進(jìn)行干擾和誤導(dǎo)的威脅；競(jìng)爭(zhēng)對(duì)手和境外敵對(duì)勢(shì)力也會(huì)繼續(xù)利用深度偽造技術(shù)對(duì)中國(guó)發(fā)動(dòng)政治戰(zhàn)，在中國(guó)社會(huì)制造不信任的情緒和氛圍，以降低中國(guó)民眾對(duì)中國(guó)社會(huì)制度和執(zhí)政黨的信任度。

為此，一方面，中國(guó)要加快國(guó)防和軍隊(duì)的現(xiàn)代化建設(shè)，要貫徹習(xí)近平強(qiáng)軍思想，貫徹新時(shí)代軍事戰(zhàn)略方針，統(tǒng)籌推進(jìn)傳統(tǒng)安全領(lǐng)域和新型安全領(lǐng)域軍事斗爭(zhēng)準(zhǔn)備。在堅(jiān)持黨對(duì)人民軍隊(duì)的絕對(duì)領(lǐng)導(dǎo)、堅(jiān)持政治建軍的基礎(chǔ)上，以科技強(qiáng)軍、人才強(qiáng)軍，加快機(jī)械化、信息化和智能化的融合發(fā)展。尤其是“加快軍事智能化發(fā)展，提高基于網(wǎng)絡(luò)信息體系的聯(lián)合作戰(zhàn)能力、全域作戰(zhàn)能力，有效塑造態(tài)勢(shì)、管控危機(jī)、遏制戰(zhàn)爭(zhēng)、打贏戰(zhàn)爭(zhēng)”。

另一方面，針對(duì)深度偽造的音/視頻基本上是以互聯(lián)網(wǎng)為基本載體，維護(hù)政治安全一定要高度重視網(wǎng)絡(luò)意識(shí)形態(tài)安全問(wèn)題。習(xí)近平總書(shū)記將網(wǎng)絡(luò)稱為“當(dāng)前意識(shí)形態(tài)斗爭(zhēng)的最前沿”，認(rèn)為“掌握網(wǎng)絡(luò)意識(shí)形態(tài)主導(dǎo)權(quán)，就是守護(hù)國(guó)家的主權(quán)和政權(quán)”；各級(jí)管理部門(mén)“要把維護(hù)網(wǎng)絡(luò)意識(shí)形態(tài)安全作為守土盡責(zé)的重要使命，充分發(fā)揮制度體制優(yōu)勢(shì)，堅(jiān)持管用防并舉……切實(shí)維護(hù)以政權(quán)安全、制度安全為核心的國(guó)家政治安全”。可以說(shuō)，人工智能和數(shù)字時(shí)代政治戰(zhàn)的特征表明，在互聯(lián)網(wǎng)這個(gè)戰(zhàn)場(chǎng)上能否頂?shù)米?、打得贏，已經(jīng)直接關(guān)系到中國(guó)的意識(shí)形態(tài)安全和政治安全。

但我們也要看到，深度偽造更多是針對(duì)個(gè)體用戶，其所帶來(lái)的非傳統(tǒng)安全問(wèn)題也更為普遍和突出。無(wú)論是前述涉及針對(duì)中國(guó)企業(yè)和中國(guó)公眾經(jīng)濟(jì)安全的詐騙問(wèn)題，還是因?yàn)椤皥?bào)復(fù)色情”引發(fā)的性別安全問(wèn)題，或者因?yàn)樘摷傩畔⒁l(fā)的中國(guó)期貨市場(chǎng)以及股票市場(chǎng)劇烈波動(dòng)等問(wèn)題，都已經(jīng)成為中國(guó)各執(zhí)法部門(mén)必須面對(duì)和應(yīng)對(duì)的現(xiàn)實(shí)問(wèn)題。在國(guó)家和社會(huì)日常治理活動(dòng)中，管理和執(zhí)法部門(mén)面對(duì)的更多的也是上述非傳統(tǒng)安全領(lǐng)域的問(wèn)題。

深度偽造引發(fā)的非傳統(tǒng)安全問(wèn)題直接關(guān)系到中國(guó)公共安全。公共安全是基本的民生，因而需要把處理和應(yīng)對(duì)深度偽造引發(fā)的非傳統(tǒng)安全問(wèn)題“放在維護(hù)最廣大人民根本利益中來(lái)認(rèn)識(shí)，放在貫徹落實(shí)總體國(guó)家安全觀中來(lái)思考，放在推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化中來(lái)把握”。唯有形成有效的社會(huì)治理和良好的社會(huì)秩序，才能促進(jìn)社會(huì)公平正義，充實(shí)中國(guó)公眾的獲得感、幸福感和安全感，進(jìn)而實(shí)現(xiàn)中國(guó)社會(huì)的良好治理以及確保人民安居樂(lè)業(yè)、社會(huì)安定有序和國(guó)家的長(zhǎng)治久安。

“共同構(gòu)建和平、安全、開(kāi)放、合作的網(wǎng)絡(luò)空間，建立多邊、民主、透明的全球互聯(lián)網(wǎng)治理體系”，是深度偽造治理的國(guó)際路徑。

1. 各國(guó)須齊心協(xié)力應(yīng)對(duì)作為全球共同安全威脅的深度偽造

安全問(wèn)題早已越出國(guó)界，任何一個(gè)國(guó)家的短板都可能會(huì)造成外部風(fēng)險(xiǎn)的涌入，形成安全風(fēng)險(xiǎn)洼地。在安全領(lǐng)域中，深度偽造造成的危害非常突出。如歐美國(guó)家對(duì)“報(bào)復(fù)色情”的寬容政策，導(dǎo)致深度偽造的色情視頻基本上集中在這些國(guó)家，不僅給這些國(guó)家女性帶來(lái)巨大威脅，也給其他國(guó)家的女性——無(wú)論是包括影視界名人在內(nèi)的公眾人物，還是普通民眾——帶來(lái)性別安全的隱患。所以，在深度偽造導(dǎo)致的安全威脅面前，沒(méi)有哪個(gè)國(guó)家可以獨(dú)善其身，各國(guó)可謂安危與共、唇齒相依。因而要給予內(nèi)部和外部、自身與共同安全同等的重視，協(xié)調(diào)應(yīng)對(duì)深度偽造帶來(lái)的安全威脅與挑戰(zhàn)，維護(hù)各國(guó)公眾的共同利益。

2. 以建立在各國(guó)共同價(jià)值基礎(chǔ)之上的數(shù)字生態(tài)系統(tǒng)治理深度偽造問(wèn)題

深度偽造治理取決于建立良好的全球數(shù)字生態(tài)系統(tǒng)，這樣的數(shù)字生態(tài)系統(tǒng)必須建立在各國(guó)共同價(jià)值基礎(chǔ)之上。數(shù)字技術(shù)已經(jīng)成為支撐社會(huì)功能的核心，正在徹底改變社會(huì)的各個(gè)方面。國(guó)際安全和穩(wěn)定都依賴于維護(hù)一個(gè)值得信賴和穩(wěn)定的數(shù)字生態(tài)系統(tǒng)。因此，國(guó)際社會(huì)迫切需要優(yōu)先考慮數(shù)字信任和安全問(wèn)題，并采取具體措施來(lái)保護(hù)和促進(jìn)共享的共同價(jià)值標(biāo)準(zhǔn)。目前，在全球數(shù)字技術(shù)領(lǐng)域，發(fā)展不平衡、規(guī)則不健全、秩序不合理等問(wèn)題日益突出，尤其是歐美一些國(guó)家在數(shù)字技術(shù)領(lǐng)域采取雙重標(biāo)準(zhǔn)，數(shù)字空間治理規(guī)則難以反映包括中國(guó)在內(nèi)的廣大發(fā)展中國(guó)家的意愿和利益。中國(guó)要繼續(xù)推動(dòng)數(shù)字領(lǐng)域的全球治理體系變革，特別是在作為深度偽造作品最主要載體的互聯(lián)網(wǎng)領(lǐng)域。

建立良好的全球數(shù)字生態(tài)系統(tǒng)應(yīng)該堅(jiān)持以下幾個(gè)原則：一是尊重網(wǎng)絡(luò)主權(quán)。即要尊重各國(guó)自主選擇網(wǎng)絡(luò)發(fā)展道路和管理模式、互聯(lián)網(wǎng)公共政策和平等參與國(guó)際網(wǎng)絡(luò)空間管理的權(quán)利，不干涉他國(guó)內(nèi)政，不從事、縱容和支持危害他國(guó)國(guó)家安全的網(wǎng)絡(luò)活動(dòng)。二是維護(hù)和平安全。網(wǎng)絡(luò)空間不能成為各國(guó)角力的戰(zhàn)場(chǎng)，不能成為違法犯罪的溫床。各國(guó)應(yīng)共同防范和反對(duì)利用網(wǎng)絡(luò)空間進(jìn)行恐怖、淫穢和各種經(jīng)濟(jì)犯罪的活動(dòng)。三是構(gòu)建良好秩序。既要提倡自由，也要保持秩序；既要尊重公眾交流思想、表達(dá)意愿的權(quán)利，也要依法構(gòu)建良好的網(wǎng)絡(luò)秩序，保障公眾在網(wǎng)絡(luò)空間的合法權(quán)益。四是堅(jiān)持多邊主義。各國(guó)應(yīng)加強(qiáng)溝通交流，完善網(wǎng)絡(luò)空間對(duì)話機(jī)制，同時(shí)發(fā)揮政府、國(guó)際組織、互聯(lián)網(wǎng)企業(yè)、技術(shù)社群、民間機(jī)構(gòu)和公民個(gè)人等各個(gè)主體的作用，共同制定全球互聯(lián)網(wǎng)治理規(guī)則，使全球互聯(lián)網(wǎng)治理體系更加公正合理。

3. 打造良好的全球數(shù)字生態(tài)系統(tǒng)須發(fā)揮聯(lián)合國(guó)等機(jī)構(gòu)的作用

聯(lián)合國(guó)的關(guān)鍵作用是促進(jìn)合作、多邊主義、實(shí)質(zhì)性對(duì)話和對(duì)最緊迫和最具有挑戰(zhàn)性的問(wèn)題提出協(xié)商一致意見(jiàn)。網(wǎng)絡(luò)空間中的信任、安全和穩(wěn)定問(wèn)題也不例外。到目前為止，國(guó)際安全的現(xiàn)有多邊框架并沒(méi)有明確處理深度偽造技術(shù)的規(guī)范和標(biāo)準(zhǔn)，因而，在聯(lián)合國(guó)及其相關(guān)機(jī)構(gòu)的參與主導(dǎo)下，參考一些國(guó)家和地區(qū)處理深度偽造的監(jiān)管機(jī)制和方法，制定國(guó)際公認(rèn)的規(guī)范和技術(shù)標(biāo)準(zhǔn)，是目前能夠被大多數(shù)國(guó)家所接受的、打造良好的數(shù)字生態(tài)系統(tǒng)的可行路徑。

隨著以互聯(lián)網(wǎng)、人工智能技術(shù)為代表的數(shù)字技術(shù)的飛躍發(fā)展，它帶來(lái)的負(fù)面影響也逐漸顯現(xiàn)，中國(guó)也在總體國(guó)家安全體系架構(gòu)下，逐漸建立并完善數(shù)字治理體系。深度偽造技術(shù)出現(xiàn)后，中國(guó)比較早認(rèn)識(shí)到這一新興技術(shù)對(duì)國(guó)家安全的威脅，并不斷采取應(yīng)對(duì)舉措加強(qiáng)在這一領(lǐng)域的治理，已經(jīng)形成了較為完善的綜合治理體系。

首先，中國(guó)正在逐漸完善應(yīng)對(duì)深度偽造的法律體系。2016年11月7日，第十二屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)第二十四次會(huì)議通過(guò)了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，并從2017年5月1日起正式實(shí)施；2021年6月10日，第十三屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)第二十九次會(huì)議通過(guò)了《中華人民共和國(guó)數(shù)據(jù)安全法》，從2021年9月1日起正式實(shí)施；為保護(hù)中國(guó)公眾的個(gè)人信息安全，2021年8月20日，第十三屆全國(guó)人民代表大會(huì)常務(wù)委員會(huì)第三十次會(huì)議通過(guò)了《中華人民共和國(guó)個(gè)人信息保護(hù)法》，從2021年11月1日起開(kāi)始實(shí)施。上述三個(gè)法律，構(gòu)建了比較完善的應(yīng)對(duì)數(shù)字時(shí)代、維護(hù)國(guó)家安全的法律體系，為危及國(guó)家安全的各種深度偽造活動(dòng)設(shè)置了不可觸碰的高壓線。

其次，有針對(duì)性地頒布遏制惡意深度偽造行為的管理?xiàng)l例和規(guī)定。這在歐美國(guó)家稱為“軟法律”（Soft Law）。2019年11月18日，國(guó)家互聯(lián)網(wǎng)信息化辦公室會(huì)同文化和旅游部、國(guó)家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，要求“任何組織和個(gè)人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動(dòng)，不得制作、發(fā)布、傳播煽動(dòng)顛覆國(guó)家政權(quán)、危害政治安全和社會(huì)穩(wěn)定、網(wǎng)絡(luò)謠言、淫穢色情，以及侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益等法律法規(guī)禁止的信息內(nèi)容”。

再次，從立法到執(zhí)法，強(qiáng)化并壓實(shí)信息發(fā)布平臺(tái)的責(zé)任?！吨腥A人民共和國(guó)數(shù)據(jù)安全法》規(guī)定：“開(kāi)展數(shù)據(jù)處理活動(dòng)，應(yīng)當(dāng)遵守法律、法規(guī)，尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，誠(chéng)實(shí)守信，履行數(shù)據(jù)安全保護(hù)義務(wù)，承擔(dān)社會(huì)責(zé)任，不得危害國(guó)家安全、公共利益，不得損害個(gè)人、組織的合法權(quán)益?！薄毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》則對(duì)數(shù)據(jù)平臺(tái)提出了更具體的要求：“網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)落實(shí)信息內(nèi)容安全管理主體責(zé)任，配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，建立健全用戶注冊(cè)、信息發(fā)布審核、信息安全管理、應(yīng)急處置、從業(yè)人員教育培訓(xùn)、未成年人保護(hù)、知識(shí)產(chǎn)權(quán)保護(hù)等制度……有效應(yīng)對(duì)網(wǎng)絡(luò)安全事件，防范網(wǎng)絡(luò)違法犯罪活動(dòng)，維護(hù)網(wǎng)絡(luò)數(shù)據(jù)的完整性、安全性和可用性。”這一規(guī)定壓實(shí)了信息發(fā)布平臺(tái)的責(zé)任和義務(wù)。

與此同時(shí)，國(guó)家監(jiān)管機(jī)構(gòu)和執(zhí)法部門(mén)加大了對(duì)違規(guī)平臺(tái)的執(zhí)法力度。2021年3月，針對(duì)未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉及深度偽造技術(shù)的應(yīng)用，國(guó)家網(wǎng)信辦、公安部指導(dǎo)北京、天津、上海、浙江和廣東等地網(wǎng)信部門(mén)、公安機(jī)關(guān)依法約談包括小米、快手、字節(jié)跳動(dòng)、阿里巴巴、網(wǎng)易云音樂(lè)、騰訊等11家企業(yè)，督促這11家數(shù)字企業(yè)按照《網(wǎng)絡(luò)安全法》《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開(kāi)展安全評(píng)估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對(duì)安全評(píng)估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

最后，完善公民公共安全教育體系。習(xí)近平總書(shū)記在提到如何落實(shí)總體國(guó)家安全觀時(shí)強(qiáng)調(diào)：“把公共安全教育納入國(guó)民教育和精神文明建設(shè)體系，推動(dòng)安全教育進(jìn)企業(yè)、進(jìn)農(nóng)村、進(jìn)社區(qū)、進(jìn)學(xué)校、進(jìn)家庭，加強(qiáng)安全公益宣傳，健全公共安全社會(huì)心理干預(yù)體系，積極引導(dǎo)社會(huì)輿論和公眾情緒，動(dòng)員全社會(huì)的力量來(lái)維護(hù)公共安全?！薄吨腥A人民共和國(guó)網(wǎng)絡(luò)安全法》也明確要求，“各級(jí)人民政府及其有關(guān)部門(mén)應(yīng)當(dāng)組織展開(kāi)經(jīng)常性的網(wǎng)絡(luò)安全教育，并指導(dǎo)、督促有關(guān)單位做好網(wǎng)絡(luò)安全宣傳教育工作。大眾傳播媒介應(yīng)當(dāng)有針對(duì)性地面向社會(huì)進(jìn)行網(wǎng)絡(luò)安全宣傳教育”。各級(jí)政府和相關(guān)機(jī)構(gòu)在全國(guó)范圍內(nèi)加大了對(duì)公眾的公共安全教育力度。公共安全教育的普及，有助于提高公眾的公共安全意識(shí)，防范和降低深度偽造造成的各種安全威脅。

中國(guó)是一個(gè)網(wǎng)絡(luò)大國(guó)，但并非網(wǎng)絡(luò)強(qiáng)國(guó)，國(guó)內(nèi)民眾教育水平、知識(shí)水平參差不齊。國(guó)內(nèi)部分地區(qū)存在著民族分離勢(shì)力、暴力恐怖勢(shì)力和宗教極端思想。再加上境外敵對(duì)勢(shì)力利用技術(shù)和話語(yǔ)權(quán)優(yōu)勢(shì)，在國(guó)際社會(huì)加大對(duì)中國(guó)的意識(shí)形態(tài)攻勢(shì)。深度偽造是境內(nèi)外各種不穩(wěn)定勢(shì)力針對(duì)中國(guó)社會(huì)越來(lái)越頻繁使用的重要手段，對(duì)中國(guó)國(guó)家安全造成的影響會(huì)更為復(fù)雜，這就要求我們?cè)诳傮w國(guó)家安全觀的指導(dǎo)下，統(tǒng)籌應(yīng)對(duì)新興技術(shù)發(fā)展給國(guó)家安全形勢(shì)帶來(lái)的新挑戰(zhàn)。

人工智能和其他數(shù)字技術(shù)的不斷進(jìn)步，互聯(lián)網(wǎng)技術(shù)的進(jìn)一步普及，使得深度偽造技術(shù)產(chǎn)品的質(zhì)量、數(shù)量和多樣性在穩(wěn)步上升；而相關(guān)軟件工具的出現(xiàn)，服務(wù)的開(kāi)放性和數(shù)據(jù)的易采集性等，都使得制造深度偽造產(chǎn)品的大眾化能力不斷增強(qiáng)。接觸深度偽造產(chǎn)品已經(jīng)成為互聯(lián)網(wǎng)和數(shù)字社交平臺(tái)用戶日常生活的一部分。如在最近的俄羅斯—烏克蘭沖突中，即使遠(yuǎn)離戰(zhàn)場(chǎng)的中國(guó)公眾，也幾乎每天都會(huì)接觸到一些深度偽造的軍事、政治方面的信息。這些深度偽造的信息數(shù)量和影響之大、在世界各地傳播速度之快，引起了一些數(shù)字平臺(tái)的警覺(jué)。它所造成的潛在風(fēng)險(xiǎn)，也為各國(guó)敲響了警鐘。

同時(shí)，惡意使用深度偽造技術(shù)以及這種技術(shù)的泛濫，無(wú)論是在傳統(tǒng)安全領(lǐng)域，還是在非傳統(tǒng)安全領(lǐng)域，都給國(guó)家和國(guó)際的和平、安全和穩(wěn)定帶來(lái)了多方面的風(fēng)險(xiǎn)和挑戰(zhàn)，也讓公眾面臨的安全問(wèn)題更加復(fù)雜化。越來(lái)越容易獲得的深度偽造技術(shù)讓一系列國(guó)家和非國(guó)家行為體參與到原本復(fù)雜的虛假信息活動(dòng)中，也更加容易和方便去影響其他國(guó)家的政治局勢(shì)甚至政治走向；國(guó)家與非國(guó)家行為體還可以利用深度偽造來(lái)破壞其他國(guó)家的信息環(huán)境，從而在持續(xù)的政治和軍事緊張局勢(shì)中引發(fā)危機(jī)或?qū)е戮o張局勢(shì)的升級(jí)。深度偽造最深刻的影響在于，它創(chuàng)造了“騙子的紅利”——對(duì)從個(gè)人、社會(huì)、國(guó)家和國(guó)際社會(huì)不同層面的信任關(guān)系造成破壞，從而給社會(huì)、國(guó)家乃至全球治理制造更多、更持久的困難。

目前，包括中國(guó)、美國(guó)、歐盟和聯(lián)合國(guó)在內(nèi)的大國(guó)和國(guó)際組織都已經(jīng)認(rèn)識(shí)到深度偽造對(duì)個(gè)人、社會(huì)、國(guó)家和國(guó)際安全帶來(lái)的挑戰(zhàn)和威脅，并且從新技術(shù)的研發(fā)、加強(qiáng)對(duì)信息發(fā)布平臺(tái)的監(jiān)管以及社會(huì)立法等方面采取行動(dòng)，力求遏制惡意深度偽造給國(guó)家安全帶來(lái)的各種威脅。但是，數(shù)字活動(dòng)的跨境性也決定了要解決深度偽造帶來(lái)的國(guó)家安全問(wèn)題，國(guó)家間的合作是必不可少的。國(guó)際社會(huì)必須摒棄國(guó)際安全治理的雙重標(biāo)準(zhǔn)，在相互尊重、相互信任的基礎(chǔ)上，倡導(dǎo)綜合安全、合作安全、共同安全的理念，共同打造數(shù)字時(shí)代人類安全的命運(yùn)共同體。

來(lái)源：國(guó)際安全研究ISS