海外の天才が好きな女優やアイドルの顔をエロ動画と違和感なく合成するプログラムを作成

Motherboardの取材に対しdeepfakesさんは身元を明かすことを拒否していますが、どのようにフェイクポルノを作成したのかについては部分的に語っています。
説明によると、deepfakesさんはGoogle画像検索やストックフォト、YouTubeなどから集めた著名人の顔をコンパイルし、人工知能(AI)にポルノムービーや著名人の顔を学習させたとのこと。
市販のアイテムでも上記の作業は可能であり、AIについて研究するArtificial Intelligenceさんは「これは既に高度なことではないのです」と語りました。フェイクポルノを作成したdeepfakesさんも研究者などではなく、「AIに興味があるプログラマー」だと言います。

近年、SNSには大量の自撮り写真が投稿されており、これらの写真を利用すれば、いずれは誰のポルノでも作成できるようになる恐れもあります。
技術の進歩によって専門家でなくともAIを利用できるようになること自体は否定されるものではありませんが、それによって倫理的な問題が浮上しているのも事実。
Champandard氏は「数カ月しないうちに、偽物の区別はつかなくなり、簡単に偽の画像やムービーを作れるようになるということを私たちは理解する必要があります」「大きな、そして公の議論が必要です」と語りました。