給照片穿上「隱身衣」,最強人臉識別算法也失靈!業界推出最新AI工具Fawkes,幫你保護照片隱私數據

社交媒體平台正在泄露你的個人隱私。

一張自拍照就能夠識別出姓名、聯繫方式、家庭住址,這對於面部識別技術來說,可能已經不是什麼難事兒。換句話說,只要能夠獲取到照片數據,面部識別技術就能輕鬆獲取個人敏感信息。

如今,我們在社交媒體上的大量曝光,獲取這些照片數據也變得很容易。此前,美國面部識別公司便創建了一個約有30 億張圖像的超大容量人臉數據庫,而這些數據均從 Facebook,Venmo,YouTube 等社交媒體平台抓取而來。

無處不在的面部識別技術和未經授權的數據獲取已經對個人隱私造成了嚴重威脅。面對這些威脅,芝加哥大學Sand Lab團隊提出了一種新的解決思路——或許我們可以為照片添加一層「隱身衣」!

人臉識別的剋星Fawkes

Fawkes ,已經讓曠視、微軟、亞馬遜等公司的面部識別算法失靈。

來自芝加哥的調查團隊稱。Fawkes的正是為照片添加防識別「隱身衣」的AI軟件,經檢測,它已經在最先進的面部識別技術中取得了百分百的勝利。

我們先來看一組圖片。

相信你很難看出兩組照片有任何差別。事實上,後者已經過了Fawkes處理,並能夠屏蔽任何人臉識別算法。

研究人員介紹,Fawkes軟件對人臉圖像進行了像素級的細微更改,肉眼幾乎無法察覺到。而任何掃描這些圖像的算法都會將這些「高度失真」的圖片視為完全不同的人。

而且,Fwkes的處理速度很快,單個圖像僅需要幾分鐘。

如此說來,經過Fawks快速處理的圖像,可以在不改變原貌的基礎上,隨意分享在各大社交媒體平台,而不用擔心照片被相關公司隨意抓取或用於非法途徑。

據了解,Fawkes的命名取自Guy Fawkes Mask(蓋伊·福士克面具)。該面具形象是英國插圖畫家大衛·勞埃德(David Lloyd)以16世紀英國陰謀家蓋伊·福克斯的臉為原型而創造。最早出現在漫畫《V 字仇殺隊》中。研究人員以此表示,通過AI技術巧妙地,不可察覺地更改照片以欺騙面部識別系統。

研究團隊表示,他們希望Fawkes能夠被廣泛部署和使用,以降低個人隱私泄露的風險。因此,Fawkes已經完全對外開放,任何人都可以下載和使用,Windows和Macs系統均可以支持。據統計,這款軟件已經被下載超過100,000次。

下載連接:http://sandlab.cs.uchicago.edu/fawkes/#paper

Fawkes「隱身衣」的實現過程

目前Fawkes軟件已經升級到V0.3版本。V0.3更新了目標選擇算法,比此前的V0.1、V0.2相比,可顯着降低偽裝后攝動偽像的可能性。目前,關於它的技術論文已經對外開放。據了解,該論文將在8月12日至14日舉行的USENIX安全研討會上正式發表。

論文中表明,在此項研究取得了以下幾個關鍵的發現。

•以肉眼無法察覺的擾動對圖像的特徵空間表示進行更改。

•不管跟蹤器(Tracker )如何訓練其模型,圖像偽裝都可為用戶識別提供95%以上的保護。

•結果使用Microsoft(Azure Face API),Amazon(Rekognition)和Face ++的最新面部識別進行檢測,Fawkes模型可以100%成功。

對於以上的研究發現,論文中也給出了明確的說明。我們可以看到,整個系統分為用戶圖像和模型驗證兩個階段。

前者是基於Fawkes算法來生成用戶圖像的偽裝版本,後者是通過追蹤器(Tracker )從網絡資源中檢索偽裝的圖像,並使用它們來訓練未經授權的面部識別模型。最終可以發現模型輸出的圖像與原始圖像並不相同。

其中,Fawkes算法整個系統的關鍵。在這裡,研究人員利用特徵提取器Φ和目標圖像T,對原始圖像進行偽裝處理,這些目標圖像T均來自可公開獲得的數據集(均大於500K)。

為了確保偽裝圖像在視覺上與原始圖像基本相似,研究人員採用DSSIM來衡量二者的差異,實驗結果表示,DSSIM均小於0.007。(DSSIM是衡量用戶感知圖像失真程度的方法)。

此外,研究人員認為,通過提高用戶特徵提取器的魯棒性來實現可移植性。這一目標需要通過對抗訓練來完成。該訓練採用擾動數據訓練模型,可以使輸入的目標圖像不那麼敏感。具體來說,對於每個特徵提取器,使用PGD攻擊(一種廣泛用於對抗訓練的方法)來生成對抗示例,然後將更新后的特徵提取器用於在PubFig和FaceScrub數據集上生成用戶偽裝圖像。

結果表明,每個健壯的特徵提取器都會產生隱身衣(Cloaks),而且這些隱身衣幾乎可以完美地轉移到跟蹤器的模型中。可以看到,跟蹤器使用其他特徵提取器時,其隱身衣的保護成功率均大於 95%。

最後為驗證圖像實際的偽裝效果,研究人員將經過Fawkes處理過的圖像泄露給了基於雲平台的面部識別系統,包括Microsoft Azure Face ,Amazon Rekognition 和Face ++ 。 

這些是面部識別系統是全球最領先技術,被廣泛用於美國和亞洲的企業,警察,私人實體以及政府。結果來看,Fawkes對圖像的保護率達到了100%。

需要了解論文詳細內容,可點擊鏈接:https://www.shawnshan.com/files/publication/fawkes.pdf

引用鏈接:雷鋒網雷鋒網雷鋒網

https://github.com/Shawn-Shan/fawkes

https://www.nytimes.com/2020/08/03/technology/fawkes-tool-protects-photos-from-facial-recognition.html

https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes


想在手機閱讀更多中國內地資訊資訊?下載【香港矽谷】Android應用
分享到Facebook
技術平台: Nasthon Systems