2018年9月12日水曜日

Facebook が問題のある投稿を識別する AI を開発中


システムが機械学習によって画像や動画の中に書かれている文字列を識別して認識できる形に書き起こす


The Verge
Jacob Kastrenakes
Sep 11, 2018

Facebook のモデレーターたちが巨大なプラットフォームに投稿される全ての画像を一つ一つ確認することは不可能かもしれないが、Facebook はそんな彼らを補助する AI を作っている。今日のブログで Facebook は、ロゼッタ（Rosetta）と名付けられたシステムが機械学習によって画像や動画の中に書かれている文字列を識別して認識できる形に書き起こすシステムを紹介している。特に、Facebook は特にミーム（meme）としてよく見られるテキストを載せた画像に対して有効だとしている。

テキストを識別して書き起こすツールは新しいものではないが、プラットフォームの大きさと現れる画像の多様さのために Facebook はまた別なチャレンジをすることになっている。ロゼッタは既に稼働していると述べられており、1日あたり Facebook と Instagram 上にある10億の画像と動画のフレームを確認しテキストを抜き出している。

現状 Facebook がこのデータを使って何をするのか全体像は明確になっていない。画像検索の基本的な機能として、あるいは投稿が指摘することを読み取るスクリーンリーダーとして役に立ちそうだ。しかしどうやら Facebook はもっと大きな目標に向かって動いているようで、例えば個人のニュースフィードの中に入れて面白いものを見つけ出したり、あるいは所謂ミームとしての文字付きの写真が、単に滑稽なだけなのか事実上のヘイトスピーチや攻撃になっているのかを判別しようとしている。

Facebook は文字列を抽出することと機械学習を「コンテンツが私たちのヘイトスピーチについてのポリシーに違反しているかどうかを自動的に判別する」ために利用していると述べていて、複数の言語に対応しているのだという。同社でよく知られているモデレーションの問題を考えれば、問題がありそうな映像に自動的に目印をつけるシステムが機能することは効果的な助けになるかもしれない。

-
ラベル: ,

0 件のコメント:

コメントを投稿

登録: コメントの投稿 (Atom)