本文轉載自澎湃新聞，原作者承天蒙，原標題《換臉軟件美國進化史：小扎、奧巴馬都中過招，國會開過聽證會》。億歐智慧城市對文章進行二次編輯，供讀者參考。

---

一張自拍，就可以把短視頻中的人物換成用戶自己的臉。8月30日晚間以來， AI換臉 應用“ZAO”刷屏朋友圈。

從技術原理上來說，“ZAO”采用的AI（ 人工智能 ）換臉技術，早在2017年12月就在海外出現。最初，這項名為“deepfakes”的技術，被少數懂技術的人用來換臉色情片女主角。隨著一款桌面應用程序FakeApp的出現，不懂技術的人也能簡單制作換臉假視頻，互聯網上廣泛出現的假臉視頻早已廣泛流傳。

在美國，出于私人報復目的制作的 換臉視頻 ，以及政黨攻擊的政客換臉視頻隨后出現，蒙騙了數百萬人，花費了很長時間才得以辟謠。

2019年6月，Bill Posters制作的 扎克伯格 換臉視頻發布在Instagram上?

2019年6月，一則以 Facebook 創始人兼首席執行官馬克·扎克伯格為主角的的換臉視頻出現，引發媒體和輿論的廣泛關注。對此，Facebook決定不刪除這條視頻，而是根據平臺處理假新聞的一貫流程操作，最終給予了這條視頻限流處理。

同月，美國眾議員對deepfakes正式召開聽證會，敦促科技公司要在2020年美國總統大選之前制定出政策，“保護用戶免受假新聞的誤導。”

換臉技術Deepfakes初亮相，用于換臉色情視頻

2017年12月，Deepfakes被媒體曝光后首次出現在大眾視野。一位網名為“deepfakes”的Reddit論壇用戶利用人工智能技術，將色情片女主角的臉換成了《神奇女俠》主演蓋爾·加朵。

“deepfakes”發布了一系列換臉女明星的色情片視頻，Deepfakes這個網名因此在媒體報道中，成為了這類換臉假視頻的專有名詞。即把“ 深度學習 （Deep learning）”一詞改寫為“深度造假”。短短幾個月內，deepfakes賬號已經擁有了超過8萬名關注者。

2018年2月，Reddit終于出手，封禁了deepfakes色情視頻，關閉了網站上的deepfakes內容社區。

2018年2月，Reddit關閉了網站上的deepfakes內容社區

據華盛頓郵報當時報道，這種換臉視頻制作簡單，不需要專門的影視工作室，是這種視頻在網上迅速激增的主要原因。

據Vice旗下Motherboard解釋的技術原理，這種視頻采用現成的技術即可制作。首先，制作者利用開源工具在社交網絡上下載受害者的大量照片，大約需要幾百張。一旦他們獲得足夠多的目標名人面部照片之后，再尋找一個合適的色情片女演員的身體，就可以進行嫁接。從這個意義上說，色情片女演員也是受害者。

一些deepfakes視頻制造者已經可以很熟練地應用基于瀏覽器的應用，使用面部識別軟件來尋找最適合匹配的臉和身體。把數據喂給給互聯網上免費可得的機器學習算法，就能夠制造出十分逼真可信的假色情視頻。

桌面應用FakeApp出現，不懂技術的人也能制作換臉視頻

2018年1月底，一款匿名開發者根據deepfakes制作的、用戶友好的桌面應用程序FakeApp正式面世，并開放下載。這款應用采用了和最初deepfakes一樣的谷歌開源的TensorFlow框架，讓不懂技術的用戶可以相對簡單地制作換臉色情視頻。

很快，Vice發表了一篇后續文章，報道了人們發現有的換臉色情視頻中是自己在高中或其他場合認識的人，被AI換臉技術制作了報復色情片。在Reddit網站和聊天應用Discord上，都出現了指認人物的帖子，這才導致2018年2月起多家網站對這種換臉視頻的一系列封禁。

但全球互聯網上廣泛出現的作假視頻已經泛濫。

2018年4月，美國娛樂網站Buzzfeed發布了一條極其逼真的視頻，視頻中，美國前總統奧巴馬用他的聲音和慣用動作講了一段他從沒說過的話。這條視頻是一個人采用FakeApp制作的，據說花費了56個小時來搜集和匯總奧巴馬的模型。該視頻明確表示就是用AI換臉技術制作，為了警告大家這種技術的危害性。

2018年4月，Buzzfeed制作的奧巴馬換臉視頻?

但這條視頻發布之后，各類政經大佬的換臉假視頻開始病毒式傳播，騙過了數百萬人。讓Deepfakes視頻的危險性越發突出，迫使大型平臺采取技術手段對其封禁。

換臉扎克伯格視頻引發輿論爭議

除了多位美國政客講話的做假視頻掀起了輿論波瀾，花費很長時間才得以辟謠之外，2019年6月，一則Facebook創始人馬克·扎克伯格的假視頻也引發了廣泛關注。

這則扎克伯格的換臉視頻最初在Instagram上出現，打上了CBSN電視臺的角標，偽裝成電視節目，但這則節目從未有過。視頻中的“扎克伯格”說：“想象一下，一個人，完全掌握著數十億人的數據，他們的秘密、他們的生活、他們的未來。我將這一切都歸功于Spectre。Spectre向我展示了誰控制了數據，誰就控制了未來。”

上述扎克伯格換臉視頻其實是一場營銷。視頻中“扎克伯格”所說的Spectre字面意思是幽靈，實際上是指一個藝術展。該展覽中展出了藝術家Bill Posters和一個廣告公司一起制作的一系列deepfakes假視頻。Posters稱，視頻是對大型科技公司的批判。

這一換臉視頻引發了CBSN電視臺的商標投訴，另外，Facebook拒絕撤下視頻。

Facebook對Vice表示：“我們會像處理所有的Instagram上面的假新聞一樣處理這個內容。如果第三方核查者將它標記為假，我們就會從Instagram的推薦頁上將其濾除，如發現頁面和hashtag頁面。”

隨后，多個Facebook的事實核查員標記了這個視頻，并限流了這個視頻的傳播。制作了這個換臉視頻的藝術家對此表示批評，稱“如果我們不能用藝術批判性地審問科技巨頭，那我們要如何才能對這些極其重要的議題展開嚴肅探討和辯論呢？”

美國眾議院召開聽證會，敦促科技公司大選前想法解決

2019年6月，deepfakes換臉技術出現一年半之后，美國眾議院終于對deepfakes展開了一場聽證會。

這場美國眾議院情報委員會聽證會上，美國立法者終于聽到了圍繞著deepfakes展開的官方證詞，并承諾要審視“AI賦能的虛假內容引發的國家安全的威脅，要采取哪些措施才能發現并進行打擊。在這之中，公共部門、私營部門和整個社會要怎么做才能應對這種嚴峻的‘后真相’的未來。”

聽證會上，共和黨眾議員Schiff敦促科技公司，要在2020年美國總統大選之前制定出政策，“保護用戶免受假新聞的誤導。”

如今，“ZAO”刷屏朋友圈，在中國引發了關于隱私安全的擔憂。

有網友評論：“有手機號，有面部圖像，通過技術合成，犯罪分子可以替你和你家人通話了。”

---

由億歐公司主辦、粵港澳大灣區研究院（廣外）聯合主辦的“2019大灣區國際科創峰會（BATi）”結合灣區科創和青年特色優勢，將第二屆大灣區國際科創峰會的主題定位于“科技賦能、青年引領”，將圍繞5G生態、硬件創新、工業數字化、AI企服、科技出海等熱點展開探討，歡迎科技創新的觀察者參與！

報名鏈接： https://www.iyiou.com/post/ad/id/875

本文已標注來源和出處，版權歸原作者所有，如有侵權，請聯系我們。