2019年3月6日水曜日

ディープフェイクによるプロパガンダは現実の脅威になっていない


私たちが去年拳を握りしめて覚悟していた危機は結局存在していない


The Verge
Russell Brandom
Mar 5, 2019

テクノロジー系のニュースをフォローしている人なら、昨年ディープフェイクについて聞いていたはずだ。広く利用されている機械学習で駆動するシステムで、ビデオの登場人物の顔を交換したり悪意ある編集に使ったりできる。これを最初にMotherboardが伝えたのは2017年の終わりのことで、数年後には手に負えない誤情報キャンペーンが行われるおぞましい前兆だとしている。このディープフェイク・パニックはその後数ヶ月のうちに広がりを見せ、これを警戒する記事がBuzzfeed（数回）やワシントン・ポスト（数回）、ニューヨーク・タイムズ（更に数回）にも掲載されている。2018年を通して、ジャーナリズム界の優秀な記者や権威のある出版物でもこのテクノロジーは公の言論に対する差し迫った脅威だと言い続けていた。

最近ではこの警戒は議会にも広がっている。上院議員のベン・サス（共和党：ネブラスカ州）は現在この技術を「諜報担当者を眠れなくさせるもの」だとして、利用を非合法化しようとしている。サスの主張によれば、この動画操作ソフトウエアは地政学的な規模で危険なもので、速やかに決定的な行動が議会に求められているという。

しかし、Redditに最初の偽動画が登場してから1年以上経ってもこの脅威は現実のものになっていない。私たちはこれについて多くのデモンストレーションを見る機会があった。最もよく知られているのはコメディアンのジョーダン・ピールがオバマ前大統領になりすましたBuzzfeeの動画だ。しかし、どうやら誤情報キャンペーンをするトロールたちよりもジャーナリストの方がこの技術には精通しているようだ。TwitterとFacebookはこれまでトロールがキャンペーンに使った何万もの偽アカウントの存在を明らかにしているが、今までの所、こうした偽アカウントがディープフェイクを用いたビデオを作成していたという事実は１つもない。おそらく一番よく目にしたのはベルギーで作られた反トランプの動画だが、これはキャンペーンというよりも紛らわしい宣伝でしかない（この動画は著名な政治団体の支援によってAfter Effectsを使って作られたものだった）。予言されていた政治的なディープフェイクの襲来は現実になっておらず、AIを利用したプロパガンダが襲来するというのは間違った警告だったのではないかと思えてくる。

トロール活動はこれまでになく活発になっているので、ディープフェイクのこの沈黙は特に不自然である。ディープフェイクが技術として利用可能になってから、フランス大統領選挙、ミュラー特別検察官の捜査、最近では民主党の予備選挙が標的にされている。スリランカとミャンマーでは敵対するグループに対する憎しみを掻き立てるために偽情報や噂話が頻繁に利用されていた。ロシア、イラン、サウジアラビアなどによる反対勢力を混乱させて黙らせるためのトロール活動はTwitter上で猛威を奮っている。

こうしたいずれの場合も攻撃する側はディープフェイクによるビデオを作成する動機と資源を持っていたはずだ。この技術は安価で簡単に利用でき、技術的にも単純なものである。しかし、各グループはビデオで証拠を捏造する選択肢があっても、それを問題にする価値はないと判断したようだ。それよりも私たちは都合よく作られた記事や、悪意を持って編集された動画を見ることになった。

ディープフェイクはなぜプロパガンダのための技術として使われないのか。１つの問題は追跡が簡単すぎることだ。既成のディープフェイク・アーキテクチャを利用すると改ざんした後のビデオには推測可能な跡が残る。これは機械学習アルゴリズムを使うとフィルターで検出が可能だ。こうしたアルゴリズムは既にいくつか利用可能であり、Facebookは昨年９月から改ざんしたビデオを検出するために独自のシステムを使っている。こうしたシステムは完璧なものではなく、検出を回避するものも定期的に登場している。（Facebookはディープフェイクに対して全面的な禁止を課すつもりはなかったため、実際に検出された場合にどう対応するのかという深刻な政策問題も存在する。）

しかし、ディープフェイク・フィルターは限界があったとしても、政治的なトロール部隊にこの技術を使うことを嫌がらせるには十分なのかもしれない。アルゴリズム的に改ざんされた動画は自動的にフィルターから検出される可能性がある。従来のやり方ならそういうことはない。危険を冒す必要はないのだ。

更に、こうしたトロール活動にディープフェイクがどの程度有用であるかはまだ明らかになっていない。これまで見てきた限りでは、トロール活動というのは主張を裏付けるというよりもことを濁すことの方が多い。2016年にフェイクニュースの最も顕著な例として、Facebookを中心に盛り上がったローマのフランシスコ教皇がドナルド・トランプを支持しているというものがある。これは広く共有された全くの嘘であり、フェイクニュースが暴れまわった完璧な例である。この偽の話には見たこともないウェブサイトに掲載されている大雑把な記事以外には何の証拠もなかった。だが、内容に説得力があったために、そのことは問題になっていなかった。多くの人が信じたがっていたからだ。ドナルド・トランプはアメリカをキリスト教の方針へと導こうとしている、教皇もそれに同意しているのだ、ということを納得させるのはそう難しいことではない。それでも信じない疑い深い人なら、教皇がそう話している捏造された動画を見たところで考えを変えることはないだろう。

こうしたことは、メディアについてのやっかいな事実をいくつか明らかにしていて、そもそもなぜアメリカはこうしたトロール活動にここまで影響を受けやすいのかということの理由になっている。こうしたトロール活動について、情報の上での食中毒として捉えられることがある。つまり、制度上は合理的なところに悪いものが入ってきているというのだ。しかし、政治というのはより派閥的なもので、ニュースというのは単に情報を伝えるものではない。多くのトロール活動は情報よりも人々の所属に焦点を当てて、より派閥が争う状態に駆り立てる。ビデオはその役にはたたない。議論の余地のない事実で会話に結論を付けてしまうことはあまり望まれてはいないからである。

ディープフェイク技術による実際の損害は政治の場ではなくポルノ業界に起こっている。Motherboardが最初に報じたディープフェイクに関する記事はRedditのユーザーが女優のガル・ガドットの顔をポルノ女優の体に貼り付けたというものだった。それ以来、ウェブ上のいかがわしい所では、同意なしに女性の顔をセックスシーンに貼り付けることが続けられている。これは、特に日々嫌がらせの対象にされている女性にとっては不愉快で有害なものである。しかし、ディープフェイクに関する報道の殆どは、ポルノについては守るべき政治的言論の恥ずかしいおまけ程度の扱いをしてきた。同意を得ていないポルノが問題であるなら、解決策はサスが主張するような全面的な禁止ではなく、より個人的な加害者と被害者に焦点を絞ったものになるはずだ。また、ディープフェイクの問題は地政学的な策略ではなくミソジニーによる嫌がらせであり、国政に与える影響は少ないということにもなる。

ディープフェイクによる革命がまだ起こっていないだけ、と主張する人もいるかもしれない。他のあらゆるテクノロジーと同様にビデオに手を加えるプログラムも年々洗練されてきている。次のバージョンでは現在使用が留められている原因になっている問題が全て解決されているかもしれない。悪意のある人と利用可能なツールが有る限り結局は使われることになるはずだ。ディープフェイクが政治プロパガンダで現実の問題になるのは時間の問題である、という話の基本的な論理には抗いがたい。

もちろんそれが正しいのかもしれない、明日から政治的なディープフェイクが次々登場して私が間違っていることが証明される可能性はある。しかし、私はそれにはやはり懐疑的である。ビデオや写真を改変するためのツールは昔から存在している。そしてそれは政治的な活動の中で使われたこともある。最もよく知られているのは2004年の選挙運動期間中に出回ったジョン・ケリーに関する偽造写真だろう。AIを利用したツールはこうしたものを手軽に作ることができるようになるが、実はもともと手軽だったのだ。数えきれないほどのデモンストレーションが示されているように、ディープフェイクは既にインターネットで問題を起こしたい人たちにも手が届くものになっている。技術的にまだ準備ができていないということではない。単に役に立たないということなのだ。

-
ラベル: , , , ,

0 件のコメント:

コメントを投稿

登録: コメントの投稿 (Atom)