編輯導讀：AI面相識別、AI測膚、人臉識別解鎖，人臉識別運用的范圍越來越廣泛，但這背后的“人臉信息安全”問題也需要大家關(guān)注。本文對網(wǎng)絡(luò)上泛濫的“人臉偽造”現(xiàn)狀展開了梳理盤點，對其存在的問題進行了討論，一起來看看~

全世界有76億人口，但是在“查無此人”的網(wǎng)站上，你能看到的人臉遠不止這個數(shù)字。

網(wǎng)站全拼是ThisPersonDoesNotExist.com，網(wǎng)頁里并無其它信息，只有一張人臉——每刷新一次，就會有一張新的臉出現(xiàn)，發(fā)色發(fā)型、膚色臉型、瞳孔的顏色和皺紋全是新的，每一張照片似乎都暗示背后存在一個真人?？扇缇W(wǎng)址所言，“查無此人”。

網(wǎng)站是優(yōu)步的軟件工程師菲利普·王（Philip Wang）所搭建，背后是最近幾年炙手可熱的生成式對抗網(wǎng)絡(luò)（GANs）。

GANs的神奇之處，在于它同時擁有一對圖片偽造者和甄別者，一個負責生成盡可能逼真的圖像，另一個負責判別生成的圖片與原始真實圖像的區(qū)別，然后將結(jié)果反饋給圖片生成者。在二者的競爭里，圖片不斷重新生成、判定、修改，直到真假難辨。

臉書的首席AI科學家嚴·勒存（Yann LeCun）稱，GANs是過去20年里深度學習領(lǐng)域最酷的想法，而百度前首席科學家安德魯·吳（Andrew Ng）說，這是“重大而根本性的進步”。學者們說，當未來的技術(shù)歷史學家回首往事，可能會認為GANs是通往類人工智能之路上的重要一步。

在”查無此人“網(wǎng)站上，每刷新一次，就會有一張新的人臉生成。（圖源：網(wǎng)站截圖）

但在科技發(fā)展之前，這項技術(shù)已經(jīng)走向了另一個令人擔憂的方向。在過去的兩年間，不停有媒體曝出，這些圖片被附加一系列身份信息，偽裝成媒體或者社交平臺上的用戶，發(fā)布信息、影響輿論。

在臉書上搜索阿方索·馬西亞斯，能找到不少于500個搜索結(jié)果，這些同名的男性遍布西班牙、墨西哥、哥倫比亞、委內(nèi)瑞拉等西語國家。

搜索者或許無法注意到其中那個中年的阿方索，他的面容并不顯眼，嘴邊一圈胡子，頭頂是稀疏的黃褐色頭發(fā)，微笑著露出幾顆牙齒。他是親特朗普的媒體The BL（美麗人生）某個臉書興趣小組的管理員，有時會點擊鏈接，為網(wǎng)站帶來流量。

但如果仔細看他的頭像，專業(yè)人士會發(fā)現(xiàn)一些端倪——眼鏡框并不左右對稱，而且在右耳邊有一處詭異的扭曲，而他背后的風景則更加模糊，似乎是建筑，但顏色與線條都難以辨認。社交媒體情報集團Graphika和大西洋理事會數(shù)字取證研究實驗室為這個用戶身份出具報告，他們認為，這個人的圖像資料是偽造的。

而與阿方索并肩作戰(zhàn)的幾十個假賬戶被用來運營幾十個支持特朗普的臉書群組，名稱包括“美國需要特朗普總統(tǒng)”和“我們與特朗普和彭斯站在一起”。

阿方索的照片里，眼鏡框與背景泄露了他的AI身份。（圖源：FT）

這個問題從2018年6月開始發(fā)酵，當時美聯(lián)社在領(lǐng)英上發(fā)現(xiàn)了一個偽裝成智庫員工的賬戶。而2019年12月，Graphika和大西洋理事會的數(shù)字取證研究實驗室發(fā)布了一份關(guān)于一個由900多個頁面、小組和賬戶組成的網(wǎng)絡(luò)的報告，這些頁面、組和賬戶與某右翼新聞機構(gòu)有關(guān)?！八麄兝眠@些假面孔來增強影響力，并向更多的受眾傳遞他們的信息，”實驗室工作人員說。

上述主頁被發(fā)現(xiàn)后，都被臉書封禁，但由假面孔生成的假新聞不會只出現(xiàn)在臉書平臺上。深度造假檢測平臺Sensity的首席執(zhí)行官喬治·帕特里尼（Giorgio Patrini）表示，GAN生成的面孔也出現(xiàn)在企業(yè)界，截至目前，他們發(fā)現(xiàn)了一家軟件公司使用假面孔假扮用戶推薦產(chǎn)品，一家營銷公司使用該技術(shù)生成其“團隊”的照片。

在今年7月，路透社報道了一位偽造得更為精致的AI記者。他叫奧利弗·泰勒（Oliver Taylor），稱自己畢業(yè)于伯明翰大學，是個咖啡愛好者和政治迷，在一個傳統(tǒng)的猶太家庭長大。他的六篇自由撰稿的社論和博客文章表明他對反猶太主義有著濃厚的興趣，在《耶路撒冷郵報》和《以色列時報》上都有署名。

但伯明翰大學并沒有他的學籍記錄，他只在問答網(wǎng)站Quora上有一個賬戶，3月時活躍過2天，除此以外沒有任何網(wǎng)絡(luò)痕跡；他留給編輯的英國電話是假的，也從不回復(fù)核查者們發(fā)給他的郵件。至于他提供給報社的照片，牙齒上有明顯的重影，照片背景也有失真——這是多個圖像重合時留下的痕跡。

路透社無從得知這位假記者的真實身份，但假記者的言論卻在產(chǎn)生真實的影響——他稱一位巴勒斯坦權(quán)利運動家“同情恐怖分子”，這個指控令后者感到十分不安，隨后他向兩家報紙?zhí)岢隹棺h，只有《以色列時報》刪除了文章。

而在得知這位作者的假身份時，《以色列時報》的編輯也對未來產(chǎn)生了擔憂，不只因為它們可能會扭曲公共話語，更是因為這可能會使編輯們在不知名的作者身上抱有更大的疑慮，從而使新的作者、新的言論被發(fā)表的可能性降低，“我并不想，但或許不得不，阻止某些聲音被人們聽見?！?/p>

奧利弗·泰勒的頭像里，兩側(cè)的牙齒和背景都有明顯的模糊。（圖源：路透社）

在過去的一年里，圖像偽造技術(shù)已經(jīng)拓展向視頻，大西洋理事會數(shù)字取證研究實驗室的研究者利茲圖（Rizzuto）指出，去年三星公司進行的深度偽造研究將蒙娜麗莎變成了一個逼真的會說話的頭。他說，這項技術(shù)有朝一日可以應(yīng)用于創(chuàng)造更逼真的假檔案，創(chuàng)造出各種角度和表情的照片。

去年，當人工智能創(chuàng)造的假臉和假人開始在社交網(wǎng)絡(luò)上遍地開花時，事實核查組織已經(jīng)開始介入。事實核查組織Snopes和Lead Stories持續(xù)地報道類似的問題，Snopes還發(fā)布一篇報道，批評臉書的不作為。

對抗的第一步是發(fā)現(xiàn)。在這些假臉里往往存在類似的問題，大西洋理事會數(shù)字取證研究實驗室的研究者利茲圖（Rizzuto）說，盡管GANs技術(shù)取得了顯著的進展，但仍有一些蛛絲馬跡——例如，受試者的頭部可能是傾斜的，而鼻子和牙齒仍然是直的，該算法在納入背景物體和其他人時也會很吃力，有時會無意中創(chuàng)造出扭曲或模糊的眼鏡。還有專家指出，GANs生成的人臉里，眼睛都會出現(xiàn)在圖像內(nèi)的同一個地方——無論“人”面向哪個方向。

而達特茅斯學院研究數(shù)字取證學的漢尼·法里德（Hany Farid）正在研究更好的方法來發(fā)現(xiàn)假視頻，比如檢測吸氣和呼氣引起的臉部顏色的輕微變化，而GANs很難精確模仿。

但未來似乎并不樂觀，利茲圖說，AI潛在的欺騙能力已經(jīng)超過了要識破它所需的工作量，而法里德的擔憂則更為長遠——GANs的技術(shù)本身，就包含著發(fā)現(xiàn)自己的弱點、進行提升的功能，這意味著人類的識別工作或許不過是在幫助GANs完成它自己的工作，“我們從根本上來說處于弱勢地位，”法里德說。

作者：龐礡；公眾號：全現(xiàn)在

來源：https://mp.weixin.qq.com/s/gm2BkuNQIBoGPi6n6pHMOg

本文由 @全現(xiàn)在 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來自Unsplash，基于CC0協(xié)議