By accepting you will be accessing a service provided by a third-party external to https://www.incgmedia.com/

假消息瘋傳的年代,如何迎戰 Deepfake 到來?SIGGRAPH Asia 專訪 Hao Li

先前為了慶賀 Disney + 的上市,YouTube 頻道 Collider 也發出了一個趣味影片,邀請「大明星們」加入會議,其中就是運用 Deepfake 的技術,呈現的效果雖然看得出些微破綻,但也卻讓網友樂開懷,紛紛敲碗頻道推出系列影片;也有人直呼,「現在的換臉技術都這麼厲害了,五年後又該發展成什麼樣子!」

娛樂大眾的背後,也有其他隱憂 

每天在網路上汲取新資訊的我們,總是習慣回應著「沒圖沒真相」,隨著修圖軟體的技術日益強大,P 圖高手也已遍佈天下。而近年在電影中的「換臉」技術,也不再是高不可攀的特效,甚至只要開啟手機 APP,就可以把自己的換成影片中的主角。前幾月火速竄紅的換臉 APP「ZAO」就是非常明顯的例子,雖然可以達到娛樂的效果,但馬上也爆出隱私權隱憂,隨即殞落。  

這樣的技術不僅牽連到個人資訊的安全性,在最早出現時,更有人加以運用在政治人物的影像、影響政治操作;而先前一項研究就曾指出,網路的影片中幾乎 96% 都被運用在色情影片的改編上,讓許多人深受其害。除此之外,更有犯罪分子利用 Deepfake 合成人像、語音甚至是筆跡,讓詐騙活動變得更難防衛。

回推到 2017 年末,一個自稱為「Deepfake」的網友開始使用AI技術,將名人的頭部嫁接到色情影片上;隨著這個作法遍及社群平台後,Deepfake 就成為了流行的字詞,廣泛被定義成「網路上任何虛假影片」的代名詞。

曾經在兩個月前,Deepfake 專家、同時也是南加州大學資訊工程副教授 Hao Li 就曾接受外國媒體 CNBC 預言道:「完美擬真的 Deepfake,將於半年至一年到來。」他認為,雖然多數的 Deepfake 可以用肉眼辨識,但是仍有完美偽造的影像讓人幾乎看不出真假。近日於澳洲舉辦完美落幕的 SIGGRAPH Asia,當時也特別開設一整日以 AI 產製內容為題的工作坊,映CG特派記者也在現場採訪工作坊籌備主席 Hao Li,分享他對於 Deepfake 技術趨勢的看法。 

(以下內容已經過微調和編修)

記者:你怎麼看 Deepfake 未來會影響的層面?

Hao Li:做研究的人,在探索過程中也要不停去想像,在幾年後會發生什麼事情,而不是問題發生了之後、才去想怎麼解決。過去運用傳統 CG 來製作虛擬角色的技術,又貴、又慢,但是那種東西不太會產生問題;但現在用深度學習的方法,就可以直接產生出高度逼真的效果。

至於半年、一年後會發生什麼事情?我認為,第一個就是 Deepfake 所產製的擬真影像,會連眼睛都沒辦法判斷真假;第二個就是,製作難易度也會越來越簡單。有些有心人會利用 Deepfake 做影片去陷害別人,但回過頭來,其實這跟技術本身並沒有太大關係,問題還是出在我們的社會上。人們習慣於得到壞消息、八卦,再加上社群平台的設計,也會讓這個消息越傳越遠。

記者:聊到 Deepfake 技術,您又怎麼看待它為社會帶來的好處、優勢?

Hao Li:Deepfake 最酷的一點,就是利用 VAE(變分自編碼器)或是 GAN(生成對抗網路)來產生圖片,這些可以運用在 VR 領域,更容易地把人物的 3D 做出來;或者是將物件辨識的技術優化得更好,自動產生出訓練的數據。Deepfake 的不斷演進,也可以讓大眾開始關心,自己所看的東西是真是假。

記者:對於整個社會的影響方面,我們縱使知道是假的,又要怎麼去避免有心人士拿來圖利、加害他人?

Hao Li:澳洲是第一個通過相關法律的國家。如果有人用 Deepfake 來陷害他人,可能罰到五十萬美金、坐五到七年的牢。在 SIGGRAPH Asia 的工作坊上,和其他專家討論,我們認為制定相關法律條文、以及罰則的訂定來產生嚇阻作用,這應該是唯一可以解決問題的方法。但目前應該也只有在澳洲有這個法律。 

映 CG 補充 至今天本文發布前,中國政府亦在上周發表《網路音視頻信息服務管理規定》,用以規範網路上偽造的音頻與視頻,將於明年 1 月 1 日開始實施。

特別可以注意的是,此法令也特別要求凡是基於深度學習或虛擬實境的新技術,且具備媒體屬性、社會動員功能的音頻與視頻服務,都須提供明顯的標示。

網路公司、社群平台怎麼迎戰?

對於同樣即將迎來 2020 總統大選的美國,研究人員亦曾表示擔憂,擔心 Deepfake 的影像將會被大量運用、傳播假消息;據紐約時報近期報導「網路公司準備迎戰Deepfake的未來」,指出Google 在近幾個月就試圖自行產出 Deepfake 影片,從中學習如何發現「仿冒品」。對於像 Google 的網路公司來說,要找到如何預防假消息的方法已然迫在眉睫。Google 也發出聲明,任何學術或公司研究人員都可以下載他們的影片合成系列,例如加入 AI 智慧學習,使用它們來建立辨識「仿冒品」的工具。

除了網路服務公司,社群平台 Facebook 最近也承諾,會在美國 2020 年大選前投入改善選舉的真實性,也表示在台灣也會推出「政治廣告透明工具」。而社群平台 Twitter 也在近日祭出防範措施,包括在推文旁邊放置通知、在用戶分享前或按讚前提出警告;若推文具有誤導性、危及他人安全,也會進行刪除。而 Twitter 也在官方部落格表示,想透過大眾尋求意見、進而解決合成影片的問題。除了提供簡易的調查表讓用戶填寫,網友也能使用 #TwitterPolicyFeedback 的標籤來反映意見。未來各大網路公司、社群平台要如何因應 Deepfake 的到來,非常值得我們關注。  

△Facebook 日前發表偵測 Deepfake用於假影片的技術(圖片來源:Facebook)

特別註明:本文與 SIGGRAPH Asia特派記者、臺藝大多媒體動畫藝術學系主任合作,除訪談外,其他內容皆為編輯團隊統整網路資訊、整合文章刊出。

 

定格動畫的崛起!《大冒險家》奪最佳動畫|第77屆金球獎動畫類入圍既得獎名單
Issue 41:開源的逆襲 BLENDER TO THE FUTURE

相關文章

 
還沒有帳號嗎? 點此立即註冊!

登入您的帳號