2019年2月23日土曜日

AIにライフワークを破られてしまった科学者の話


あるハーバード大学の生物学者の憂鬱から受容までの旅


Vox
Sigal Samuel
Feb 15, 2019

ハーバード大学の生物学者モハメド・アルクライシは12月にカンクンで開かれた科学会議に向かう途中、妙に沈んだ気分だった。自身の研究分野で大きな進歩があり、普通なら彼は幸せな気分になっているはずだった。だが、その進歩は彼自身によって成されたものでも、彼の同僚の研究者たちによって成されたものでもなかったことで彼は自信を失っていた。それは機械によってもたらされたのだった。

Googleが2014年に買収したAI（人工知能）の会社DeepMindは、タンパク質構造予測のコンテストであるCASPで全ての参加者を凌駕した。これは基本的にベテラン研究者のための高度な科学コンテストだった。

「タンパク質折りたたみ問題」として知られる生化学分野における最大の謎の１つに取り組んでいる研究者たちは２年に１度、特定のタンパク質が取る３次元の形状について予測を提出することで、自身の予測力が如何に優れているかを証明しようとしている。予想するというのは奇妙なことに聞こえるかもしれないが、科学者たちが実際に新薬を開発する上では重要な役割を果たすことになる。そしてDeepMindはこれがどう機能するのか極めて明確な説明をしている。

機械学習の力を使ってDeepMindはCASPコンテストで大差をつけて勝利した。生化学と機械学習両方の進化を見せつけたこの件は、魅力的で重要な事例となった。

しかし、私が更に興味を惹かれたのは会議の直後に書かれたアルクライシによるブログの記事だった。私はニューヨーク・タイムズに取り上げられているのを見てこれを見つけたのだった。

この記事でアルクライシはCASPで経験した自身の感情の全てを描写している。彼は最初に、彼と彼の仲間の研究者たちが時代遅れになってしまったという憂鬱を感じたという。そして、彼は「自分たちが、より効率的かつ合理的に科学の価値を評価することに道を譲った時の反射的な感覚」を最終的にどう乗り越えたかを記している。彼の熟考は重要なものとして私の心を打った。それは、影響の大きい問題を解決しようと取り組んでいるなら、常に自分の考えが最善であるわけではない、という考えを心理的に受け入れる方法を見つける必要があるからだ。

私はアルクライシに、自身の専門分野と、もしかすると科学そのものの認識までAIが変えてしまうという事実に研究者はどう向き合うことができるのかについて話を聞いた。

＊＊＊

シガル・サミュエル：あなたはご自身の個人ブログに会議に向かうときから会議が終わって離れるまでの時間にあらゆる感情を経験したと書いておられます。その感情の移り変わりを説明して頂けますか？

モハメド：アルクライシ：そうですね、この分野に携わる人たちには会議が始まる２日前に実質的な結果が知れ渡っていました。私たちはみんなネットを見ることができますからね。私はDeepMindがそんなに上手くやるとは考えていなかったので驚きました。そして、私もそのコンテストの参加者であり、そこまで上手くできていなかったのでがっかりしました。私は個人的にこのテーマに賭けていたので失望の感情がありました。

それから２日間の間、この分野は人々が数十年に渡って取り組んできたものであることを思い浮かべていました。そして現実は新しいグループが登場して、極めて上手く、極めて速く進めている。私は学術界が構造的に非効率になっていることを考えて気分が悪くなりました。私よりも更に長い時間この分野に関わっている人のことを思って本当に気分が悪くなりました。ですから、そこには学術界の他のグループに対する連帯感のようなものもあったのです。

それから、私たちは別な視点から見るべきなのだと考えて、少し気分が良くなりました。これは素晴らしいことだ、タンパク質折りたたみ問題に注目が集まっているのだと。


あなたの同僚の研究者たちの間には、DeepMindが彼らの居場所を奪ってしまったことで、DeepMindの貢献を過小評価させたいという心理的な衝動はあったと考えていますか？

仮に（今回の進化が）よく知られた学術系のグループによるものだったとしたら、みんなは「驚きはしないよ、彼らはいつだって良くやってたからね」と言っていたと思います。しかし今回起こったことは全くの外から、それも機械によって成されたものでした。このことはいくらかの段階での憤りを誘ったとは思います。

ですが、DeepMindのチームは何のこだわりもなく彼らの見識を共有してくれました。私の視点からすると、新しいグループがこの分野に参入してくることは結局は良いことでしかないのです。大事なことは良き科学のために競争をすることで、信頼性に文句をつけることではありません。


AIの進化については時に過剰に宣伝されることもあり、楽観的すぎたり悲観的すぎたりして現状にはなんの得にもならないような感情を喚起することもあります。あなたはこの会議に参加した人たちは、AIが将来この分野に貢献できるという現実的な期待を持ったと思いますか？

当時の報道はやや楽観的すぎていて大げさに熱狂したものでした。科学者コミュニティの中でそのことを言うのは難しいことでした。私自身は考えが揺らぎ続けています。未来のことを占うのは難しいことです。

私は機械学習についてそれなりに楽観的な立場にいたいと思っています。科学の歴史を振り返っても改善が長期間に渡って持続的に観測できることは滅多にありません。私たちがこれまで６年間機械学習について見てきていることは間違いなく特別なことなのだと思います。これは一世代に一度起きるような第一級の進化であり、大きな知的革命に匹敵するものです。


学術界には確立された名声についての経済制度があると思います。機械学習の発達は私たちが慣れ親しんできたその名声経済を変えることになるのでしょうか？

（笑い）面白い質問です。（長い沈黙…）１つ言えそうなのは「今回のことで、例えばデータを理解できるようになることがより重要になって名声を高めることになりそうだ」ということでしょうか。これは合理的な期待でしょう。私たちの分野ではデータ収集に執着する傾向がありました。非常に大きなデータセットを収集して書かれた論文が最終的に最も権威を持つようになっています。概念的な論文や新しい分析的な洞察を提供する論文が名声を得る機会は少ないのです。

私見ではデータ収集作業から分析作業への変換が起こるのは良いことだと考えています。多くの科学者たちの間でデータに集中しすぎてその理解の方に十分に集中できていないということが起こっています。


同僚のジャーナリストからAIについて聞いた話を思い出しました。つい最近AIが記事を書く方法についてのニュースレポートが出ました。そしてブルームバーグの記事の3分の1はAIの支援を受けて書かれているそうです。多くの人はこれは心配することではなく、良いことなのだと言っています。ジャーナリストは「誰が、何を、どこで、いつ、なぜ」から開放されて、もっと微妙な問題を深く考察することに集中できるようになるのだと言うのです。ここには面白い類似性があるのではないでしょうか。

まさにその通りですね。実際のところ私は、この変化は更に将来的には科学とは何かという認識全体を変化させるものだと考えています。人間が考え出した仮説と自然現象のモデルからよりデータ駆動型の手法とモデルになっていくのだと思います。

私は私たちがこの惑星上で常に最も賢い存在になろうとしていると考えるのは少しバカげていると思っています。私たちはいずれ機械から問題にされなくなるでしょう。そのうちに、自然現象についてモデル化されたものは機械によって構築されるものを見ることが多くなって行くのだと思います。

興味深いのは、このしきい値を超えると（ある意味では既にそうなっていますが）、私たちは構築したモデルを全く理解できない境地に到達するということです。このことは科学事業の本質とは何かという疑問を投げかけることになるのではないでしょうか。「科学をする」とはどういう意味なのでしょう？自然現象を読み解くこと、あるいは何が起こるか予測可能にする数学的なモデルを構築することが科学で良いのでしょうか？


興味深い話です。私たちが科学として理解しているものがひっくり返されてしまうかもしれません。

 この種の発展を考えてちょっとした思考実験をさせて下さい。明日、将来性のある優秀な学部生があなたのところにやってきて「タンパク質の構造予測の研究にキャリアを捧げようと思っています」と言ったとしましょう。この時、あなたは彼女にどう助言しますか？研究室を離れてDeepMindで仕事をするように彼女に言いますか？

私は彼女に対しては機械学習と広くコンピューター計算全般について精通するように勧めると思います。今後数十年はそれが重要なものになるはずだからです。どんな現象を研究するかに関係なく最も重要なスキルの１つになるでしょう。大学で研究を続けるのかDeepMindや他の所にいくのかは、おそらくその人個人の動機次第なのだと思います。もし、ある問題を解決することを強く望むなら、産業系の研究所がそれをするためにあります。もっと好奇心優先で何か興味を惹かれる主題に取り組もうというなら、独立している分だけおそらく今でも大学の研究室が最良の場所でしょう。


大学の研究室だから機能していることもあるわけですよね。高度に専門化された知識について高度な訓練を受けている人は、AIと直接競合しないように、自分の仕事について焦点を当て直して再訓練するか適応することができる可能性があります。このことは例えば工場の労働者が用済みにされてしまうという直感レベルの恐れを乗り越えるのとどちらが簡単だと思いますか？

今日機械学習について知っている研究者は仕事については安泰でしょう。なにか別な種類のこと、例えばトラックの運転の仕事をしている人がそれよりも自分の仕事が安泰ではないと考えているとするなら、これは完全に別な議論です。

ある時から、多くの人は仕事については階層があると考えるようになりました。知的な仕事が最後まで残り、機械的な仕事が最初に無くなるだろうと考えられていました。しかし、実際これはわかりません。ロボットで再現することは難しい動きを要する作業もあるため、機械的な仕事が無くなるには相当に長い時間がかかるかもしれません。そして、知的で高い階層と考えられていた仕事の方はもっと早く置き換えられるかもしれません。


そうした自動化についての話には、常に人々が収入を失ってしまう心配が付き纏うわけですが、そこには同時に私たちが働くことから得ている意味を失う心配もあると思います。

 あなたはそのことについて心配していますか？つまり科学者が機械学習が自分の分野で優位に立つようになったために、研究の仕事に意味が感じられなくなるということです。あるいは、機械学習は科学の進歩を早めているだけで、そこから私たちみんなが意味を引き出すことができるのだから何の問題でもないという考えもあると思います。

両方の考え方が正しいと思います。多くの科学者たちは自分自身がどれだけ賢いか、自分がどれだけ早く問題を解決できるのか、ということを基礎において自身を評価しています。社会的に広くこの考え方に基づいています。そして、私たちは今、自分自身を他の人と比較して詐欺師のように感じています。ですから、これは広範囲に人生の意味を失う実存的危機に繋がる可能性があります。

私は、このことは短期的には破壊的なものになると考えています。収入の動機だけでは結局は人々を廃れさせてしまうでしょう。中期的には適応する方法がいくつかあるはずです。私たちは社会を今とは異なる方法で価値観やアイデンティティを定義するものに変えて行く方法を考えることになると思います。しかし、非常に長い目で見れば、サイボークや人間の拡張といった、機械と人間が何らかの方法で統合される形もあり得ると考えています。

私たちは長い時間枠の変化の時期に入ってきているために、こうした広範な問題に直面して対応をせざるを得なくなり始めています。これは私たちの義務であり、特に機械学習のコミュニティはその影響を与える可能性を話し合い、機械が人類よりも賢い時代に私たちがスムーズに移行できるようにする方法を考え始める必要があるでしょう。

私はこうしたことを考えることが人類の正義であり、将来も私たちが幸せに暮らすことができるようにするものだと考えています。

-
ラベル: , , ,

0 件のコメント:

コメントを投稿

登録: コメントの投稿 (Atom)