過激主義とオンラインで闘う正しい方法

How to fight extremism online, the right way:https://t.co/6AxRCpjMSG

— Recode (@Recode) November 13, 2017

テクノロジー企業が解決策の一部にはなり得ないという言い訳は通用しないと名誉毀損防止同盟（Anti-Dfamation League）のジョナサン・グリーンブラットCEOは語る

インターネットはもはや白人至上主義、反ユダヤ主義、その他の過激主義を生み出す強力な温床である。その解決策の一部にはなり得ないというシリコンバレーの巨大企業の言い訳はもはや通用しないと名誉毀損防止同盟のジョナサン・グリーンブラットCEOは語る。

「自由至上主義者の精神として、『何事も進んでゆくし、良い方向に進むだろう、政治からは距離を取って、理想世界を想像する』のようなものがあります」グリーンブラット氏はカラ・スウィッシャーが主催する Recode Decode（Recodeのポッドキャスト）で語った。「そのような態度では人類社会が正しく機能し得ないことを私達はよく知っています。私達は新しいメディア上で過激主義が蔓延することに驚くべきではないのです。ナチスが『意志の勝利』（映画）を利用してそれをやっている、ソビエトも『プラウダ』（新聞）を利用してそれをやっている。今日の過激主義者が新しいメディア上でテロの脅威を与えようとし、暴政を拡散しようとするのは驚くべきことではないのです」

グリーンブラット氏が説明するには、解決策の一部は政治とビジネスの指導者達が自分たちの眼下で行われている有害なスピーチに対し見て見ぬふりをしないことだという。

「まず最初に、そしてもっとも重要なこととして、指導者達が率先することです」と彼は言う「トップの発言は下に影響します。私などから見て極めて明らかなものを曖昧にして誤魔化してしまう、そういう態度が過激主義が勢いづく雰囲気を作ってしまうのです。」

しかし、現実的にインターネットと社会を大きな面で良い方向に変化させるには優れたリーダーシップ以上のものが必要である。グリーンブラット氏は名誉毀損防止同盟は今司法措置ではなくプログラミングで問題を解決すべくTwitter社のような会社のエンジニアに直接働きかけを行っている。暴言がこのような巨大なスケールで起こりうる状況では人間がフィルタリングするよりも、どのように人工知能（AI）で自動的に過激主義者のプラットフォームを浄化するかに集中するべきだという。

「もはや神の緑の地球に方法は残っていないのです、ザッカーバーグが何人顧客担当者を雇おうとも、テロリストの情報を追い続けることはできないでしょう」Facebookでは毎日数十億のメッセージがやりとりされていることを引きながら、グリーンブラット氏は言う。

名誉毀損防止同盟は1913年に非営利法人として反ユダヤ主義と他の社会的な病理と闘うために設立された。グリーンブラット氏は自身のTwitterでAIによるフィルタリングの恩恵について言及している。

「私が日曜の午後にベストバイ（量販店）に行くとします、そして私はオーブンの写真のツイートを確認します、問題ありませんよね、たぶん12番通路にウィールプールのオーブンが売られているからです」
「だけど、私がこのスタジオに座っていて2つのオーブンの写真のツイートを確認したとします、『ユダヤ人用の二段ベッド』というコメントがついています。これはおそらく私に送るものとしては良いものではないでしょう」

「もしAIを使っていて、そのツイートをしたユーザーの名が『ホワイトジェノサイド』（白人至上主義者の唱える陰謀論）で自己紹介には『私はユダヤ人を殺したい』と書いてある人だったとしたら、その人はそれ以前のメッセージでマークされているのがわかるでしょうし、私と共通の友人が誰もいないこともわかります」
「AIを使ってこれらのものを、10億分の1秒、千分の1秒の単位で効率的に監視するために役立つ多くの要素が存在しています。問題を瞬時に解決とはいかないかもしれませんが、劇的に緩和することは可能でしょう」