ディープフェイクでポルノにあなたを登場させる

A porn company promises to insert customers into scenes using deepfakes https://t.co/0lMDqSRGCN pic.twitter.com/OOPcq9Ze7c

— The Verge (@verge) August 22, 2018

この新サービスは AI を使って顧客の夢を叶えるものだと言う

The Verge
James Vincent
Aug 21, 2018

「ディープフェイク」という概念は去年、市井のプログラマが AI を使ってポルノ動画の出演者の顔を有名人と簡単にすり替えることができることを発見して奇妙な形で広まった。この現象によって、「同意の必要性」や「リベンジポルノ」等の重要な問題が浮上することになったが、この技術の支持者はもちろん無害な使い方についての研究を続けている。

そうした会社の１つがポルノ制作会社のノーティ・アメリカだ。同社は今週、AI を使って顧客がアダルト動画を好きなようにカスタマイズ出来るサービスを立ち上げた。顧客は自分自身をお気に入りの男優や女優と一緒に出演させたり、背景を編集したりできる。「私たちはカスタマイゼーションとパーソナライゼーションに未来があると考えています」とノーティ・アメリカの CEO アンドレアス・フロノプーロスは Variety のインタビューで述べている。

同社はこのサービスのサンプルを２つ提示している。１つは２人の女優の顔をブレンドするもので、もう一つは背景をベッドルームからビーチに変えている。これはこの技術の最先端の使い方というわけではなだろうが、顔のブレンドに関しては比較的シームレスに行われているように見える。また、これによって、AIによるビデオ操作がどの程度簡単にできるものであるかがわかる。

自分を出演させて欲しい顧客は、ソフトウェアが正確に顔を再現できるように、異なる表情を含む自身の写真と動画をある程度ノーティ・アメリカに送り渡す必要がある。同社はこれに関係する出演者たちからは法務部門が同意をとることになると述べている。料金は簡単な編集なら数百ドルだが、長時間でより複雑な変更を伴うものは数千ドルになるという。

このサービスには潜在的な問題がいくつも存在している。例えばノーティ・アメリカはどうやって顧客から送られてきた写真や動画が同意を得てのものであると確認するのだろう？顧客は本人のふりをして第三者の写真や動画を利用することもできそうである。（ The Verge はノーティ・アメリカに質問を送っているが、今の所返答を貰っていない）

完成した動画には、本物のポルノ動画であると混同しないように、消すことのできないウォーターマークを入れることも重要になる。このことは多くの企業や研究者が調査していることで、特に専門家たちは AI を用いた動画処理が政治的な情報操作を目的とした映像に使われることを危惧している。

しかしノーティ・アメリカはテクノロジーの自然な利用であるとしてこのサービスを紹介している。「ただの編集です、それだけのものです」とフロノプーロスは「ディープフェイク」の概念について語っている。「インターネットが始まったときから、人は写真で人の顔を編集してきたのです」。彼は FastCompany の取材に対して次のように述べている「ディープフェイクは人を傷つけるものではありません、ディープフェイクを使う人が人を傷つけるのです」