網易科技訊 7月14日消息，據國外媒體報道，利用Deepfake換臉技術制作的假視頻足以亂真。但日前研究人員通過人工智能對虛假視頻中的人像眨眼進行分析，從而可以有效將假視頻檢測出來。

隨著人工智能的飛速發展，不少人利用所謂的Deepfake黑科技制作出虛假視頻，這種視頻換臉技術引起了業內的強烈擔憂。

正如他們所稱的那樣，Deepfake是數字虛假信息不斷演變的最新的——也許是最令人不安的——表現。修改圖像早已有之，而篡改音頻的方法也在不斷改進。直至最近，修改視頻一直很費勁，需要大量的專業技能和耐心。然而，機器學習技術的發展卻導致該過程不斷加速。

AI換臉視頻讓人真假難辨，新技術用AI來識破它

去年年底，Reddit平臺上出現了一種新的色情視頻，是由一個名叫deepfake的用戶上傳的。通過機器學習技術，deepfake已經找到了如何將色情明星面孔換成名人面孔的方法，相關視頻引起了轟動。 DeepFake算法隨后在GitHub上發布，給任何擁有足夠專業知識和足夠配置計算機的人提供了制作虛假視頻的方法。

從那時起，類似的偽造視頻和相關軟件在互聯網上如雨后春筍般出現。雖然有些是相對無害的，但這種變臉工具顯然存在負面影響。很容易想象，一部制作精良的視頻可能會加劇緊張局勢，引發騷亂或加劇犯罪。人與人之間的相互信任可能會被侵蝕，人們普遍擔憂技術的發展速度已經超出了政策的發展。

值得慶幸的是，科學界正在應對這個問題。由紐約奧爾巴尼大學的Siwei Lyu領導的一個團隊發現了這些偽造視頻的漏洞。 DeepFake算法根據饋送的圖像創建視頻。雖然比較準確，但人工智能始終無法完美再現人類自然產生的所有生理信號。 Lyu和他的團隊特別關注一點：眨眼。人類通常每兩到三秒就會眨一次眼。但由于人像照片通常不會閉眼，因此通過照片對這些算法進行訓練意味著生成的視頻中人像很少會眨眼。

因此，Lyu和他的團隊設計了一種人工智能算法來檢測偽造視頻中哪里不存在眨眼現象。他們的算法——兩個神經網絡的組合——首先檢測出視頻中的人像面部，然后對視頻中的所有連續人像進行對齊，分析每一個人像中的眼睛區域。神經網絡的一部分決定人像是否閉眼。另一個用作記憶系統，記住幀到幀的變化，以確定是否隨著時間的推移發生了眨眼。

首先，他們在具有睜眼和閉眼人像的標記數據集上訓練人工智能。隨后，為了對訓練結果進行測試，他們自行生成了DeepFake視頻集，甚至還做了一些后期處理，讓偽造視頻顯得更自然。

結果令人印象深刻。根據Lyu的說法，他們的人工智能識別出了所有的偽造視頻。

Lyu解釋說，在偽造視頻的后期處理中手動添加眨眼并不是一個巨大的挑戰，而且一些偽造的視頻——包括BuzzFeed上的偽造視頻——確實包含眨眼。然而他們開發的這種算法，至少有助于阻止和延遲創建偽造視頻的過程。 “我們正在形成第一道防線，” Lyu說， “從長遠來看，這實際上是制作假視頻和檢測假視頻之間的持續戰斗�！�

這項研究符合更廣泛的努力。作為其媒體取證計劃的一部分，該研究由國防高級研究規劃局（DARPA）贊助，從2016年開始運行至2020年。他們的目標是開發一套工具來檢查音頻和視頻等數字化信息的真實性和準確性。

“我們希望向公眾保證，有技術可以打擊這種虛假媒體和虛假新聞，” Lyu說。