一般人也遭殃!AI 換臉太容易 外國網友用 deepfakes 技術製作高中同學色情影片

一般人也遭殃!AI 換臉太容易 外國網友用 deepfakes 技術製作高中同學色情影片
▲2017 年 12 月,網友「deepfakes」將 A 片女主角換臉成 Gal Gadot,引起轟動。(圖/翻攝自 Motherboard,下同)

陳建鈞/綜合報導

去年 12 月,利用 AI 將 A 片主角換臉而轟動一時的「deepfakes」技術,在一款任何人都能親手上手的「FakeApp」推波助瀾下,漸漸一發不可收拾;如今,被換臉的對象已經不限於各大女星等公眾人物,甚至「高中同學」、「前女友」等對象,都成為 deepfakes 千萬弟子的下手目標。

▲▼許多名人都成為 deepfakes 技術下的受害者。(圖/翻攝自 Motherboard、Pornhub)

根據《Motherboard》報導,這項技術起初被預料的「最壞發展」──利用 deepfakes 技術把現實認識的人,製作成 A 片主角──已經發生;語音軟體 Discord 一個 deepfakes 同好群裡,就有為數不少的網友彼此交換把同學、朋友等人製作成 A 片主角的小撇步。

▲網友提到,利用 FB、Instagram 的照片製作虛假 A 片的可能性。

例如,其中一位網友表示,他利用高中女同學 Instagram 和 Facebook 上約 380 張照片,製作了一部「相當讚」的 A 片;此外,也有人在 Reddit 上求教如何用前女友的照片製作 A 片,當然,這些肯定只是冰山一角,想必有更多的人在不自覺中,已經成為 deepfakes 技術的受害者。

▲「我只用 FB、Instagram 上 380 張照片,就做出一部高中女同學為主角的超讚 A 片。」

▲「480p 以上的解析度應該就可以了,不過我只用過 HD,誰叫我 Instagram 上的朋友相機都很好哈哈哈。」

社群網路蓬勃的網路文化下,要從 Facebook、Instagram 等平台取得任何人的大量照片,都是輕而易舉的事,代表一旦照片上傳到網路,就很難阻止它散播出去,而這些自拍、旅行照片,都將成為 deepfakes 技術下,最好的素材。

▲網友求教如何用前女友相片製作 A 片。

《Motherboard》指出,他們希望透過這則新聞,讓這些不自知的受害者們,能夠清楚別人究竟怎麼利用自己的照片,以及使社群平台承擔責任義務,以更好的措施保護用戶,或提供明確的隱私控管功能;消息一揭露,Discord 上的該討論群也立刻遭官方停權。

留言

延伸閱讀