業界出招 打擊濫用技術

圖：業界正在研究新技術，用以識別虛假視頻。圖為俄烏戰爭的虛假視頻。\法新社

面對深偽內容的氾濫，研究人員正加緊開發對應工具。美國聖路易斯華盛頓大學的研究團隊，正在開發的AntiFake工具，可以擾亂音頻信號，從而迷惑AI模型。被該工具修改過的音軌對人耳來說仍然正常，但對AI則十分混亂，使它難以創造乾淨的聲音克隆。

業界也在研究深偽檢測工具，例如谷歌的SynthID等深偽檢測技術，會在視頻和音頻中嵌入電子浮水印，以便用戶識別它們是否由AI製作；而Pindrop等公司開發的工具，則可以通過檢查例如單字的聲音如何與說話者的嘴巴同步等微小細節，來判斷內容的真假。

美國水牛城大學研究AI系統安全的電腦科學教授Lyu表示，深偽檢測只適用於檢測已經發布的內容，對於未被檢測出來的影片，或者偽造影片剛剛發布時，依然可以憑藉時間差造成損害。不過，美國東北大學應用AI教授帕特爾強調，生成式AI可以達到驚人的成就，包括幫助失聲的人再次說話，他希望人們不會因對AI技術的防範，而最終「把嬰兒和洗澡水一起倒掉」。 （NBC）