增長率超330%,美英成重災區!一文了解Deepfake 2020發展現狀

Deepfake的興起,讓視頻和音頻不再是記錄歷史的可靠證據!

近日一則電影片段在YouTube爆火,影片中兩位主演分別是好萊塢兩位頂級流量巨星西爾維斯特·史泰龍(Sylvester Stallone)和阿諾·施瓦辛格(Arnold Schwarzenegger)

然而,短片爆火的原因不是兩位巨星,而是它逼真的視頻合成效果。

事實上,這部名為《Step Brothers》的電影主演是兩位小眾演員,短片創作者利用Deepfake將面部替換成了兩位巨型。

短片中,人臉自然、毫無痕迹的融合效果,讓不少網友們驚嘆:太恐怖。

但事實上,更讓人恐怖的是短片背後,Deepfake愈演愈烈的負面應用。自2017年,某Reddit用戶首次將其用來偽造色情視頻開始,Deepfake造假已逐漸滲透到政治、媒體等多個領域,甚至還威脅到了今年的美國總統大選。

與此同時,偽造品的數量也在逐年增長,特別是在2020年再次創下歷史新高,達到49081個。

那麼,快速增長的Deepfake有哪些特點,背後有哪些應對措施?

Deepfake泛濫成災,增長率超330%

近些年,計算機視覺技術得到飛速發展。

尤其是2014年生成式對抗網絡GAN的提出,讓圖像和視頻合成不斷取得驚人的效果。


2017年,這項技術被不良分子用來偽造了一段色情視頻,由此該技術被人們稱為「Deepfake」,後來Deepfake的負面應用不斷發酵,並逐漸覆蓋到更廣泛的圖像、視頻,乃至音頻領域。

具體來說,Deepfake主要是對人臉進行篡改和重新編輯,包括表情修改,換臉、換口型、合成新人臉四種模式。其中,換臉和對口型是Deepfake最主要的應用模式,其破壞性和殺傷力也最強。如篡改政客公開演講以及偽造色情視頻。

值得注意的是,造假者無需了解這些修改模式背後的技術原理,諸多開源軟件,已經可以讓他們輕鬆地製造虛假內容。比如DeepFaceLab之類的工具,任何人都可以拍攝一張圖片或視頻,並替換或操縱人臉。

技術的普及和便捷性,讓造假品數量成指數級增長。根據安全分析公司Sensity最新結果顯示,

自2018年12月以來,Deepfake在線造假品的數量大約每六個月翻一番。

2019年7月Deepfake的總數達到14,678,相比於2018年12月的7964部造假視頻增加了近100%。而截至今年6月,造假視頻已多達49081個,比2019年7月增長了330%以上。

色情視頻佔比最高,美英成重災區

2019年,在14678個公開發布的Deepfakes作品中,假色情視頻佔據了96%。

另外,根據Sensity調查分析顯示,Deepfake用來製作色情作品的目標對象超過95%全部來自影視娛樂業,只有剩下的一小部分來自商業、新聞媒體以及政治領域。

而今年,影視娛樂仍然是覆蓋最廣的行業,佔據了62.7%,加上時尚類別(21.7%)和運動類別(4.4%),總計占所有目標的88.9%。

其中,在娛樂行業62.7%的佔比中,來自Instagram,Twitch以及Youtube等社交媒體的目標對象數量顯著增加。同時,來自商業(4.1%)和政治(4%)背景的目標對象也有所增加。

值得注意的是,上述4%政治背景的目標對象,主要集中在一些知名政客身上,如特朗普、奧巴馬等。信息時代,利用這些政客身份偽造虛假政治言論,可能會造成災難性成果。

尤其是隨着技術的提升,偽造品越來越難以用肉眼分辨。去年,一名馬來西亞政治家就因涉嫌從事同性戀活動的視頻而被判入獄(在馬來西亞同性戀是非法的),但後來證實該視頻是Deepfake偽造的。

另外,比利時政治團體也曾利用Deepfake偽造了一段特朗普關於巴黎氣候協定的演講視頻,在當時產生了不小的轟動。

不過,總體來看,大部分有關政客的虛假作品還多以諷刺為目的。

另外,這些虛假作品有明顯的地區分別特點。從Sensity的統計結果來看,政客偽造品主要集中在西方國家,尤其是美國和英國。同時,韓國和印度在今年也成為了主要目標。

圖中,美國和英國在整體中佔據了61%,超過了一半。韓國(9.6%),印度(5.0)和日本(4.0)也構成了很大一部分。總體來看,說明亞洲的政治造假活動在持續增長。

反Deepfake技術有哪些?

Deepfake的危害無需再多說。

為了應對日益泛濫的偽造品,學、政界和各大企業也在聯合發力,研發反Deepfake技術。

值得一提的是,Kaggle和Facebook已經舉辦了多場Deepfake探測器研發競賽,並收集了大量用於訓練的數據集。

Deepfake檢測器,主要通過對大量圖像和視頻進行訓練,並從中查找不同的Deepfake標識符來鑒別內容真偽。目前最先進的監測手段,分為以下幾種:

  • 人臉X射線( Face X-ray)檢測:它是一種將假臉重新混入目標圖像或視頻,以從中尋找邊界的方法。經過FaceForensics 數據集上測試,精準度可達99%以上。(https://arxiv.org/abs/1912.13458)

  • 背景差異檢測:該方法通過將人臉區域與背景區域進行對比,從中尋找微小差異以辨別真假。(https://arxiv.org/pdf/2008.12262.pdf)

  • 情緒識別網絡(Emotion Recognition Network):該方法通過檢測面部情緒是否與場景上下文或音頻內容相匹配,來確定視頻是真是偽。(https://arxiv.org/abs/2003.06711)

  • 生物學信號:通過檢測視頻目標的心跳並分析該信號的殘差確定真假,該方法的準確率已達到97.29%,同時還可以檢測背後所用的Deepfake模型。(https://arxiv.org/pdf/2008.11363.pdf)

以上大多數這些Deepfake檢測方法都沒有可用的開源代碼,不過,目前也有一些商業上可用的API,例如Sensity,Deepware,以及微軟的 Video Authenticator。

此外,要說明的是,雖然人臉X射線檢測法精度已經達到99%,但它僅限於FaceForensics數據集,對於「Wild」數據集可能並不適用,很多其他檢測工具也是如此。

一位研究人員證實說,他上述某款模型用於《Step Brothers》和川普偽造視頻檢測,結果並不能證偽。儘管川普的偽造視頻有明顯的缺陷(嘴邊周圍有合成痕迹)

因此,在特定Deepfake檢測數據集上表現良好的模型,在現實世界中也不一定達到理想效果。

但慶幸的是,高質量的Deepfake造假品仍需要人工干預來完善輸出,這會極大地減慢傳播速度,並為改進Deepfake檢測模型提供時間。

引用鏈接:

https://www.skynettoday.com/overviews/state-of-deepfakes-2020

https://sensity.ai/deepfake-threat-intelligence-a-statistics-snapshot-from-june-2020/

https://www.creativebloq.com/news/the-irishman-deepfake

雷鋒網雷鋒網雷鋒網


想在手機閱讀更多社交網絡資訊?下載【香港矽谷】Android應用
分享到Facebook
技術平台: Nasthon Systems