自分が卑劣になった時、それをソーシャルメディアが教えてくれる

If Twitter scanned your followers’ faces when they reacted to tweets like this, would it make you less mean online? @ibogost reports: https://t.co/G1OtwI94lv

— The Atlantic (@TheAtlantic) June 25, 2019

顔認識技術はオンラインの世界をもっと親切に、もしかすると更に不気味にするかもしれない。

The Atlantic
IAN BOGOST
JUN 25, 2019

数年前、私がFacebookを多用していた頃、私は友人の投稿に対して極めて卑劣な返信をしてしまった。それもただの「Facebookフレンド」にではなく、本当の友人に対してだった。その余波は大きかった。ありがたいことにその友人は私を許してくれたのだが、私は自分の失態を恐れる余りアカウントを消去し、数千のフレンドを失うことになったのだった。私は個人的な活動情報の投稿も止めることになった。こうした経験から、私はソーシャルメディアに関して自分に自信を持っていない。私はTwitterでも似たような経験をしている。こうした場所で羽目を外して後で後悔するのは簡単に起こることだ。

ソーシャルメディアを利用している人なら誰でも似たような経験はあるのではないだろうか。知り合いの誰かを傷つけるようなことを言ってしまって後悔していると、更に悪い事態になると知らない人まで巻き込んだ混乱に陥る。

人工知能を扱うスタートアップ企業AffectivaのCEOであるラナ・エル・カリウビィはこうした経験に陥らないようにするために役立つ可能性のあるアイディアを持っている。アスペン研究所とThe Atlanticが主催したアスペン・アイディア・フェスティバルで彼女が提案したのは、Twitter、Instagramなどのサービスに投稿した時に、プラットフォーム側からフィードバックがあったらどうだろうということだ。例えば「あなたは今１万人を不快にさせました」というものだ。

いくつか参考になりそうなものはある。TwitterにもInstagramにもハートボタンがついているし、Facebookは悲しみや怒りを絵文字で投稿に表現することができる。しかし、これらの反応は自己申告制であり、明示的な行動を取らない選択をした人も含めた全ての人の感情的な反応を捉えたものではない。Facebookのフレンドの本当の顔から直接笑顔や怒りの表情を読み取ることはまた別な話になる。

エル・カリウビィの会社は人間の認知を分析して、そこから感情の状態を推測するAIシステムを開発している。このシステムはマシンラーニングを利用して、「顔面表情単位（facial action units）」を識別する。この表情の分類は1970年代に心理学者ポール・エクマンとウォラス・V・フリーセンによって考案された分類に基づいている。

何百万もの顔の表情を分析したエル・カリウビィのチームは、この技術を様々な分野に応用している。自動車業界では、気の散った状態で運転することを防ぐために、コンピューターがドライバーを監視してAffectivaのアルゴリズムで感情の状態を確認している。マーケティングでは、広告主に製品やサービスに対する消費者の反応を自動的に判断する方法を提供している。そして、医療に於いては子供たちが感情的な合図を学ぶのを助けることができる、自閉症セラピーの開発に貢献している。

「言葉を用いないソーシャルメディアの可能性があると本気で考えています」とエル・カリウビィは私に話してくれた。彼女の会社は消費者向けサービスそのものを作ろうと試みたが、訴求力不足を理由に停止した。ソーシャルネットワークを効果的に機能させるには大規模なネットワークが必要であり、既に多くが犇めいた市場の中に新しいものを立ち上げるのは難しい。では、例えばTwitterやFacebookで使えるAffectiva表情分析システムを想像してみよう。投稿に対する感情的な反応を判断するためにスマートフォンの前面カメラを利用する。このアプリでは「いいね」の数やシェアの数に加えて、あるいはそれらに代わって、その投稿を閲覧した人のおおよその感情的な反応を抽象的な表現、おそらく絵文字のようなもので表示することができる。

この技術から得られる利益の可能性という意味ではプライバシーのリスクよりも大きいものかもしれないが、見られることの対価として社会的な利益や安全性についてどの程度価値があるものなのか問題になることは言うまでもない。医療、広告業界、自動車業界における利用については、AIシステムは裏側で動作して、プラスの能力と危険性の両方が増幅されている。しかし、Affectivaの技術を消費者向けに利用するというエル・カリウビィの考えは他の方向を示している。ソーシャルメディアのアプリケーションが現時点で酷いものだという観点からだけ考えれば、こうしたシステムが良い影響を与える可能性は充分ある。