選摘自《Scientific American》
原文作者:Sarah Vitsk
Comparison of an original and deepfake video of Meta CEO Mark Zuckerberg.
“深度偽造”是指用神經網路將影片中的人臉換掉,使影片裡的人做出真人並未做過的事,或者說出真人並未說過的話。
我們非常憂慮和擔心自己無法分辨真實與虛假的區別。社交媒體平臺尤其關心能否分辨深度偽造和真實影片,因為它們需要弄清如何稽核過濾這個內容。
2020年Meta(之前的臉書)舉行了一場比賽,要求人們提交深度偽造檢測演算法。該比賽設立100萬美元現金的獎勵,由前幾名團隊瓜分。獲勝的演算法只有65%的準確率。這意味著在100個影片中,演算法能準確預測65個。
研究表明,當2個並排影片(一真一假)播放給人們時,人們的平均準確率約為80%。但是如果只播放一個影片(可能真也可能假),人類正確識別深度偽造的機率為66%-72%,此時演算法比人類更勝一籌,準確率高達80%。
人類更擅長鑑定多人影片的真假,可能AI只被訓練過鑑別單人影片。對於有點模糊、昏暗的影片,AI的解析度比人類稍強一些。人類更擅長的另一件事,就是鑑別有名人怪異行為的深度偽造影片。