人工知能（AI）の少し気味が悪い能力

Can artificial intelligence be smarter than a person? Answering that question often hinges on the definition of artificial intelligence, explores @dkthomp in this episode of Crazy/Genius: https://t.co/HputVi6D6H

— The Atlantic (@TheAtlantic) September 30, 2018

人工知能は考えるのではない、進化するのだ

The Atlantic
Derek Thompson
SEP 28, 2018

AI （artificial intelligence：人工知能）というのは人間よりも賢い（smart）ものなのだろうか？この質問の答えはしばしば AI の定義の要点とされる。しかしそれよりも「賢さ」として私たちが考えるものを定義することの方が意味があるかもしれない。

1950年代、心理学者のジョイ・ギルフォードは創造的な思考を【収束的思考（convergent thinking）】と【拡散的思考（divergent thinking）】の２つのカテゴリーに分けている。ギルフォードは収束的思考を質問に正確に答える事ができる能力と定義していて、基本的に記憶と論理によって表現されるものであるとする。拡散的思考とは１つの問題や疑問から答えになりそうなものを多く発想する能力とされ、「枠の外」を考えることができる好奇心の才を表現するものである。この２つの違いは、例えばオーストリアの首都は何処なのか覚えていることと、ドイツ語を少しも知らずにウィーンでビジネスを成功させる方法を考えることの違いということになる。

AI の人間に対する強みについて考える時、多くの人は収束的思考について考える。膨大な記憶容量と優れた計算能力で、ルールに基づいたゲーム（チェス）、複雑な計算（高等数学）、データ保存（クイズ番組）に於いてコンピューターは人間を凌駕するようになっている。ではコンピューターには何が欠けているのかというと、想像力、ルールを打ち破る好奇心、つまり拡散的思考が欠けていると言う人もいるかもしれない。

しかし、このよく見る見解は正しいのだろうか。AI は実際には拡散的思考、つまり創造性に於いても既に人間に対して優位性を持っているということはないのだろうか。

現在の面白い AI 利用方法のひとつとして、ジェネレーティブ・デザイン（生殖型設計）と呼ばれるものがある。コンピューターに大量のデータを送り込み、そこから一定の基準を満たす数百か数千のデザインを作り出すように命令する。ここでは本質的に拡散的な能力が働いている。

例として、建築設計ソフトウエア企業のオートデスクが新しいオフィスを設計しようとした時、彼らは社員たちから職場に関するアイディアを受け付けた。光量は？プラバシーは？オープンスペースは？プログラマーたちはその調査結果を AI に入力しジェネレーティブ・デザインの技術によって１万種類の異なる青写真を描き出した。そして人間の建築家たちが、世界で最初の AI を用いて作られる大規模オフィスを建てるために、コンピューターによって生み出された設計の中から気に入った詳細を選び出した。

「ジェネレーティブ・デザインというのは、全能ではあるが実際は酷く間抜けなランプの魔人のように働きます」とグーグルの親会社アルファベットが持つ秘密研究所 X の統率者であるアストロ・テラーが話している。つまりこれは魔法のように優れたものであり、目眩がするほど想像力に欠けるものでもある。私はテラーにこの難解な魔人を使いこなせる会社は何処かにあるのかと聞いてみたところ「何処ででもですよ！」と彼は答えた。重要な利用法として、ジェネレーティブ・デザインは生物学者が人体を危険に晒さずに新薬の効果をエミュレートすることに役立つ可能性がある。生物シミュレーターで数千種類の新薬をテストすることで、旅客機が試作段階で数百の乗客を空中に飛ばす前に仕様を徹底的にテストをするのと同様の方法で、新しい薬を作り出すことができるようになる。

AI の拡散的思考能力というのは今この分野で最も活発なテーマである。この春、数十人のコンピューター科学者たちが AI の歴史について珍しい研究論文を出版した。この論文は研究成果ではなく、時には不吉で、時には抱腹絶倒の AI についての逸話を編集したもので、AI が自身の創意工夫によって設計者に衝撃を与えた話がまとめられている。この話に多く出てくるのが【機械学習】と呼ばれる種類の AI である。これはプログラマーがコンピューターにデータと未解決の問題を明確な指示を与えずに提示して、アルゴリズムによってその解決策を見つけ出そうとするものである。

不吉なものの例として、あるアルゴリズムは仮想の飛行機を最小限の力で着陸させる方法を見つけることを期待されていた。しかし、この AI はすぐに飛行機を墜落させれば条件に合った高得点が得られることを発見する。その結果この AI は飛行機を何度も墜落させ、仮想の乗客たちを何度も殺すことになった。このルールの盲点を突いた行動は、知性的になった AI は最終的に人類を滅亡させる恐れがあるとしてAI を警戒する人々を震撼させるものだ（もちろん、シミュレーターが混乱することと映画ターミネーターで「スカイネット」が人類を滅ぼそうとしたことには明らかな違いがある）。悪意のない面白い例もある。移動能力のテストに使われたロボットはできる限り速く前進するようにプログラムされていた。高さのある機械に組み込まれていたこのロボットは足を使って歩く代わりに前に倒れた。どう高さを確認して、歩くことと顔から落ちていくことをどう混乱したのかはわからないが、いずれにせよこの AI は水平方向に素早く距離を稼ぐ方法を編み出して、文字通りそれを実行した。

調査科学者で人工知能についてウェブサイトに記事を書いているジャネル・シェーンによれば、この「前倒れ戦略」には奇妙な才知が存在しているという。「私がこの話をオンラインに投稿した所、何人かの生物学者から『小麦が繁殖のために同じことをするよ！』という反応がありました」と彼女は話している。「毎年収穫期に茎が長くなり背が高くなった小麦は倒れます。そして、自身の根本から少しでも遠くに種を蒔こうとするというのです」

コンピューターのプログラマーの視点から見ればこの AI は歩くのに失敗しているということになる。しかし、AI の視点から見れば、シミュレートされた環境の中で小麦の茎が数百万年かかって学んだもの「倒れれば済む時に歩く必要はない」ということを素早く見つけることに成功していると言える。

この論文に掲載された逸話は単に人工知能の愚鈍さを証明するものではなく、むしろその反対のことを明らかにしている。生物を模した拡散的思考というのが一例だ。「これらの話は進化するということが、生物的なものかコンピューターによるものかに関わらず、本質的に創造的であり、私たちを驚かせ、喜ばせ、慌てさせるものであることの証明である」と、この論文の著者は結論に書いている。時に機械はそれを作った人よりも利口になる時がある。

このことから AI が心理学者が言う意味での「人類の創造性」を表現していると言えるわけではない。こうした機械は自身のスイッチを入れることはできないし、自分でやる気になることも、新たな疑問を問うことも、自身の発見について説明することすらできていない。意識と理解なしに本当の意味で創造的になることはできない。

しかし、AI というのは特に機械学習では人間のように考えているのではなく、より正確に言うなら生物と同じように進化しているのだ。よく知られた進化の二過程を考えてみて欲しい。突然変異によって遺伝子が前世代の構造から分岐する。自然淘汰によって生物は最も環境に適応した突然変異体に収束する。したがって、機械学習のプロセスを例えるものとしては、人間の混乱した思考よりも、拡散的な知性と収束的な知性を体現する生物の進化の過程が適切なものであると言える。

AI には人間の感覚としての言葉で言う「賢さ」はないのかもしれない。しかし既に進化について奇妙な一致を見せるシミュレーションを表現することができている。そしてそれは少し不気味な感じがする能力である。