儘管人們對利用DeepFake來操縱選舉、在世界各國製造混亂的做法高度關注，但其中絕大多數人實際上更為幼稚，他們會將女性名人的面孔映射到色情明星的身體上，任何熟悉網際網路歷史的人都不會對此感到驚訝。
在最近關於全身DeepFake的報導中，一家名為Deep Trace Labs的公司表明他們對合成媒體領域已開展廣泛研究，這家位於阿姆斯特丹的公司過往專注於AI操控內容。今天，該公司發佈了一份備受期待的報告《DeepFake現狀：前景、威脅和影響》，他們在報告中探討了在網站、論壇和行動APP中普遍存在的DeepFake。
正如Deep Trace Labs的Giorgio Patrini所解釋的，這項研究始於該公司2017年成立之時，包括對網站、論壇和服務的全面檢查。研究人員梳理了論壇和DeepFake社群的帖子，找到晦澀和不太受到關注的元素，以全面瞭解DeepFake對現狀的威脅。Deep Trace通過其內部開發的公共API和特別工具從這些網站、渠道、論壇和社群收集數據。它還可以查看網站或YouTube頻道，在這些網站或頻道中，並非所有內容都可能來自DeepFake。
Deep Trace發現，目前網上有14678個DeepFake影片，其中96%是色情影片，並且大部分都是著名女演員的臉，被轉移到色情明星的身體上。事實上，大多數DeepFake的目標是女性，而大多數非色情的目標是男性。YouTube上超過90%的DeepFake影片都來自西方世界，從女演員、音樂家到政客和企業界人士。但Patrini強調，這不僅僅是一種僅限於西方的現象。
「在DeepFake色情網站上，近三分之一的影片中出現了非西方題材，其中韓國流行歌手占了目標對象的四分之一，」Patrini說道。「這表明，DeepFake色情是一種日益全球化的現象。」
「我們的數據顯示，大多數實際上仍然是演員，但也有少數企業和政治領導人，」Patrini說道。「我認為這可以歸因於與非色情DeepFake相關的生命力機制。」創造者主要是業餘愛好者，他們試圖創造高品質的DeepFake成果。選擇知名人物，如馬斯克、川普或者尼可拉斯·凱吉，意味著你的「DeepFake」成果更容易被人看到，同時也增加了喜劇元素。
據介紹，在過去幾年裡，關於生成性對抗網路（GANs）的論文數量激增，生成性對抗網路是兩種神經網路，一種是合成器或產生器，另一種是檢測器，可以生成DeepFake的圖像或影片，然後在回饋環中仔細檢查品質，直到最終產品令人信服地得到改進。生成性對抗網路絕不是DeepFake的幕後黑手，但Patrini表示，它們無疑是「由深度學習驅動的最流行和最有效的生成方法」。
Deep Trace的研究表明，生成性對抗網路發文量的顯著增長，只能間接地表明這兩種現象具有相關性。Deep Trace無法在更多的生成性對抗網路研究和DeepFake的增加之間，建立起直接的因果關係。
「不僅僅是具有博士學位的研究人員，更多的人都能夠試驗並提出新的演算法變體，而且我們可以透過論文的增長來間接衡量這一點，」Patrini表示。「發表更多的實驗成果並將其擴展到新的應用表明，這些想法有可能被轉化為可重用程式碼和更可靠、更高效的工具，來供非專家使用。」
Deep Trace還指出，DeepFake創作社群正在增長。Github、4chan、8chan和其他基於論壇的網站都共享開源的DeepFake程式碼。
「我們在報告中指出的一個關鍵點是，與其他社群相比，某些社群的動機和活動非常不同，」Patrini表示。「如果我們只看負面新聞，很明顯，一些社群和論壇主要集中在使用DeepFake的創作工具，來製作那些非自願的DeepFake色情作品。」
Patrini認為，其中一些社群以提供非法或邊緣化的內容而聞名，這方面以4chan和8chan為代表。在這些平台上，DeepFake創作工具的商品化，可能會導致該技術繼續產出有害和惡意的使用案例，例如網路欺凌或政治宣傳。
但Patrini很快注意到，其他平台上也都有愛好者和一些個體，在YouTube上專注DeepFake的部落客更符合他們的興趣。比如部落客Ctrl Shift Face，他曾將湯姆·克魯斯和艾爾·帕西諾的臉變成了喜劇演員和印象派比爾·哈德的臉。
Patrini認為：「我不會說這些用途具有明確的正面作用，但從表面上看，它們肯定不是惡意的。」此外，由於DeepFake不只是發生在西方的現象，Deep Trace認為，這需要全球採取行動，打擊惡意使用。
「從已經出現的各種工具和網站的數量可以看出，DeepFake對企業來說具有巨大的商機，」Patrini指出，這有助於這些工具的商品化和日益普及。「僅僅是DeepFake的想法就足以動搖政治進程。」
- 本文授權轉載自網易科技
没有评论:
发表评论