Googleは私たちを劣化させているのか？

"Once I was a scuba diver in the sea of words. Now I zip along the surface like a guy on a Jet Ski." It was ten years ago today that @TheAtlantic published my essay "Is Google Making Us Stupid?" https://t.co/3ieRuFU5cH

— Nicholas Carr (@roughtype) July 1, 2018

インターネットがわたしたちの脳にしていること

The Atlantic
NICHOLAS CARR
JULY/AUGUST 2008 ISSUE

「デイブ、やめて。やめてください。やめて、デイブ。やめていただけませんか？やめて、デイブ」。スタンリー・キューブリック監督の映画「2001年宇宙の旅」の中で、スーパーコンピューターHALが執念深い宇宙飛行士デイブ・ボーマン船長にこうして懇願するシーンは広く知られるものとなった。この機械の不具合によって遥か宇宙で殺されかかったボーマンは冷静にこの人口「脳」を制御する記憶回路を切断しようとする。「デイブ、私の意識がなくなってゆくよ」と絶望的になったHALは言う。「私はそれを感じている、感じている」

私もそれを感じている。ここ数年間に渡って、誰か、もしくは何かが私の脳をいじって脳神経回路を書き直し、記憶をプログラムし直しているという不快な感覚を感じている。私の意識はまだなくなってはいないが（私がそう言える程度にはということだが）、変化はしている。文章を読んでいる時にそのことを強く感じる。本や長い記事を読むことに没頭するのは以前は簡単なことだった。私の意識は物語や議論の展開に夢中になり、長い文章を何時間でも読み続けていた。今はそのようになることは滅多にない。私の集中力は2、3ページ毎に横滑りしてしまう。私は落ち着きを失って文章の脈略を見失い、他にやるべきことを探し始める。私は常に言うことを聞かない脳を文章の方に引きずり戻しているように感じている。かつては自然にできていたディープ・リーディングに苦労するようになってしまった。

私は何が起きているのかわかっていると思う。ここ最近の10年間というもの、私は多くの時間をオンラインで過ごしてきた。ネットを検索して飛び回り、時にはインターネット上の偉大なデータベースに何かを加えるようなこともしてきた。ウェブというのは私のようなライターにとっては神様からの送りもののようなものだ。かつては図書館の定期刊行物の部屋に籠もって何日もかかっていたリサーチがほんの数分でできるようになった。Googleで数回検索をしてリンクを数回クリックすれば、私が望んでいた事実や簡潔な事例などをすぐに見つけることができる。仕事以外の時でさえ、私はウェブでチケット情報を見たり、メールの読み書きし、ニュースやブログのヘッドラインを追い、動画を閲覧し、ポッドキャストを聞く、あるいは単にリンクからリンクへただ飛び回っていることもある。（ウェブのハイパーリンクは脚注に例えられるが、ハイパーリンクは脚注のように単に本文に関連したものを指摘するのではなく、そちらの方向に導こうとするものである）

私にとっても、多くの人たちと同様に「ネット」というのは普遍的な媒体になっていて、私たちの目や耳を通して意識の中に入り込んでくる殆ど全ての情報の通路になっている。この信じられないほど豊富に情報が蓄積されたものに簡単にアクセスできることの利点は数多くあり、それについては広く語られていて正当に称賛されている。Wiredのクライブ・トンプソンは「思考する上で大きな恩恵になり得る」と書いている。だが、この恩恵には対価が伴っている。メディア理論家であるマーシャル・マクルーハンが1960年代に指摘したように、メディアというのは単なる受動的な情報の経路ではない。メディアは思考の材料を提供するが、思考のプロセスを形成することもする。そして、ネットは、私の集中力と熟考する能力を削ぎ落としているように見える。私の意識はネットが配信してくる方法、微粒子が高速で流れてくるような形で情報を受け取ることを期待するようになっている。かつての私は言葉の海に潜っていくスキューバ・ダイバーだったのだが、今では海の表面をジェットスキーで飛び回っているようだ。

これは私一人に起こっていることではない。私が読むことについての問題を読書好きの友人や知人に話した時、その殆どが同様の経験をしていると話している。ウェブを利用するようになればなるほど、長い読み物に集中するために戦いが必要になる。私がフォローしているブロガーの中にもこの現象に言及する人が出始めている。オンラインメディアに関するブログを書いているスコット・カープは、最近本を読むことをすっかりやめてしまったと告白している。「私は大学で文学を専攻していて、貪欲な読書家でした」と彼は書いている「何が起こったというのでしょう？」。彼はその答えを推敲している「ウェブ上で文章をそれほど読まないのは、読み方が変わったから、つまり利便性だけを追求しているからだと考えたらどうだろう？ だが、それで私は『思考する』方法も変えてしまったのだろうか？」

医療業界でのコンピューターの利用方法についてブログを書いているブルース・フリードマンもインターネットが彼の精神習慣に与えた影響について記している。彼は「今では私は、ウェブ上にしろ印刷物にしろ長い文章を読んで吸収する能力をほぼ完全に失ってしまった」と昨年の初頭に書いている。フリードマンはミシガン・メディカル・スクール大学に長く在籍している病理学者である。そのフリードマン本人に彼のこのコメントについて電話で話を聞いた。彼は、彼自身の思考が短く切る「スタッカート」的になっていて、それはオンラインにある多くの資料から素早く短文を読み取る習慣を反映していると話している。「もはや『戦争と平和』を読むことはできません。私はその能力を失ってしまいました。ブログの投稿でも段落が3や4以上あるようなものは読み取るには長すぎるために、ざっと目を通すようになっています」と彼は認めている。

今のところ逸話だけで証明されたものがあるわけではない。インターネットの利用が認知能力にどのように影響するのかについての、長期的な神経学的及び心理学的な研究結果を待っているところだ。だが、ユニバーシティ・カレッジ・ロンドンの学者たちが主導して実施した、オンライン探索の習慣に関する研究では、私たちが、読み方や考え方が大きく変わりつつある過渡期に中にいることが示唆されている。5年間に渡る研究プログラムの一環として、リサーチに使われる人気のサイトを訪れる人たちの行動記録が調査された。1つは大英図書館が運営するもの、もう1つは英国教育コンソーシアムが運営するもので、記事の記録や電子書籍、書面の情報源にアクセスすることができる。これらのサイトを利用している人たちは「スキミング・アクティビティ（ざっと見る行動）」を示していて、資料から別の資料へ飛び移り、元の資料に戻ることは滅多にないことが明らかにされた。そして大抵は、他の資料に「飛び移る」前に読むのは記事や書籍の1ページか2ページだけである。ときには長い記事を保存することもあるが、戻ってそれを実際に読んだという証拠はない。この研究結果には次のように書かれている。

利用者たちはオンラインでは読むということを従来の意味で行っていないのは明らかである。実際、素早く内容を掴むために、タイトル、内容、概要を水平方向に「拾い読み」するという新しい形の「読み」の形態が現れている。従来の意味の読み方を避けるためにオンラインを利用しているとも考えられる。

携帯電話でテキストメッセージをやり取りすることの人気は言うまでもなく、インターネット上の文章が到るところに存在するようになったことで、テレビが媒体の中心として選択されていた1970年代から1980年代よりも、今日の人々はより多くの文章を読んでいる可能性がある。しかし、それはかつてとは異なる種類の「読み」であり、その背後には異なる種類の思考が存在し、もしかすると新しい自己の感覚すら存在しているのかもしれない。「私たちは『読んだもの』だけに影響を受けるわけではありません、『読み方』も影響するのです」とタフツ大学の発達心理学者で「プルーストとイカ―読書は脳をどのように変えるのか?」の著者であるメアリアン・ウルフが話している。ウルフは「効率」と「即効性」を何よりも重視するネット時代の読み方のスタイルが、印刷物を中心とした以前のテクノロジーの時代に発達した長く複雑な散文体を読むために存在した深く読み込むディープ・リーディングの能力を弱めている可能性を懸念している。私たちはオンラインで文章を読む時には「単なる情報のデコーダー」になる傾向があると彼女は言う。私たちが文章を解釈し、気をそらさずに深く読み込むことで形成される豊かな精神の連結を作り出す能力は使われない状態になっている。

ウルフは「読むこと」というのは人間が持って生まれた能力ではないのだと言う。「話すこと」のように遺伝子に刻み込まれているわけではないのだ。象徴的な文字を理解できる言語に解する方法を学ばなければならない。そして、私たちが読むことを学んで実践するために利用するメディアやその他のテクノロジーというのは脳内の神経回路の形成に重要な役割を持っている。実験によって、中国語のような表意文字を解する人とアルファベットのような表音文字を解する人とでは異なる精神回路が発達することが明らかにされている。こうしたそれぞれの違いは、脳内の多くの領域にまで広がっていて、人間が視覚や聴覚で受け取る刺激を記憶して理解する本質的な認知機能にも及んでいる。ネットの利用によって私たちに織り込まれた回路は、本やその他の印刷物を読むことによって織り込まれた回路とは全く異なるものであると考えることもできる。

1882年にフリードリヒ・ニーチェはタイプライター、正確にはラスムス・マリング＝ハンセンが作ったハンセン・ライティング・ボールを購入した。ニーチェの視力は衰えていて、文書に目を向け続けると疲れ果てて苦痛になり頭痛が起きた。書くことを減らすことが余儀なくされ、ニーチェは全てを放棄せざるを得なくなることを恐れていた。その意味でこのタイプライターは少なくとも少しの間は彼を助けることになった。タッチタイピングを習得することで、目を閉じて指先だけで文章を書くことができるようになった。意識から言葉を再び書面に注ぎ込むことができるようになったのだった。

だが、この機械はニーチェの仕事に微妙な影響を齎した。ニーチェの友人の1人で作曲家だった人物は彼が書く文章が変化していることに気づいた。ニーチェは元々簡潔な文章を書く人だが、それがさらに押し詰まり電信的なものになっていた。この友人は自身の仕事のことも絡めて、ニーチェに手紙を書いている。「おそらくその機械を使うことから新しい慣用句が作られることになる。『音楽と言語における【思考】は紙とペンの質に依存する』」

ニーチェはそれに応えて「あなたは正しい。筆記用具は私たちの思考に影響する」と書いている。ドイツのメディア研究者フリードリヒ・キットラーはニーチェの散文はタイプライターの振動の下で「議論から格言へ、思考から駄洒落へ、修辞から電信へと変化した」と記している。

人間の脳にはほぼ無限に適応性がある。私たちの精神構造、つまり頭蓋骨の中にある凡そ1000億個の脳細胞の間に形成されている繋がりは大人になるとほぼ固定されてしまうものだと考えられてきた。だが、脳の研究者たちはそうではないことを明らかにしている。ジョージ・メイソン大学のクラスノウ高等研究所を指揮する脳神経科学者ジェームズ・オールズ教授は、成人の精神も「非常に可塑性のあるもの」だと述べている。脳細胞は定期的に古い接続を廃棄して新しい接続を形成する。オールズ教授によれば「脳はその場で自分自身をプログラムし直して、機能を変化させる能力が有る」のだという。

社会学者のダニエル・ベルは私たちの身体的能力よりも精神的な能力を拡張する技術を「知的技術（intellectual technologies）」と呼ぶ。私たちはその知的技術を利用する時、必然的にその性質を利用しようとする。14世紀に一般的になった機械式の時計はその説得力のある例だ。歴史学者で文化評論家のルイス・マンフォードは著書「技術と文明」の中で、時計が如何にして「人間に起こる出来事と時間とを切り離し、数学的に測定可能な独立した基準を世界に作り出した」ことに貢献したかについて説明している。「切り離された時間の抽象的な概念」は「行動と思考両方の基準点」になったのだった。

規則正しく時を刻む時計は、人間とその精神を科学的にすることに役立った。だが、同時に何かを奪っていった。MITのコンピューター科学者だったジョセフ・ワイゼンバウムが1976年の彼の著書「コンピュータ・パワー―人工知能と人間の理性」の中で指摘しているように、時間管理の道具が広範に普及したことによって現れた世界の概念は古いものを貧弱にしたものになった。それは現実を基礎にして直接の経験を元に構成されてきたものを拒否することに依っているためだ。私たちは食事、仕事、寝る、起きる、こうしたもののタイミングを決める時、自分の感覚に耳を傾けることをやめ、時計に従うようになった。

新しい知的技術に適応するプロセスというのは、私たちが自分自身を説明するために使う比喩表現に反映される。機械式の時計が登場した時、人々は自分の脳が「時計のように」動作していると表現した。そしてソフトウエアの時代である現在、私たちは自分たちの脳が「コンピューターのように」動作していると表現するようになった。しかし、脳神経科学者たちはこの変化について比喩表現の変化よりもずっと深いものであるという。脳の可塑性によって、生物学的レベルでも適応が起こっている。

インターネットは特に認知について広範囲に影響を与えると言われている。1936年に発表された論文で、英国の数学者アラン・チューリングは、当時理論上にしか存在していなかったデジタル・コンピューターが他のあらゆる情報処理装置の機能をプログラムによって実現することが可能であることを証明した。それが今日私たちが目にしているものだ。計り知れないほどに強力なコンピューティング・システムとしてのインターネットは、私たちの殆どの知的技術を包含している。それは地図にも、時計にも、印刷機にも、タイプライターにも、電卓にも、電話にも、ラジオにも、テレビにもなりつつある。

ネットが情報媒体を吸収すると、媒体そのものがネットの特徴に沿ったものになる。ハイパーリンクや点滅する広告、その他デジタル的な目立つもので吸収したコンテンツを取り囲んでいる。例えば、新聞のヘッドラインに目を通していると、新しくメールが届いたという通知を受けることがある。その結果、注意は散漫になり、集中力はどこかへ行ってしまう。

ネットの影響はコンピューターの画面の中に留まるものではない。人々がインターネットメディアの狂気の展示に順応するにつれ、従来のメディアも視聴者の新しい期待に応える必要が出てくる。ＴＶ番組はテキストを多用するようになり、ポップアップ広告を表示するようになる。雑誌や新聞の記事は短くなり、一度に多くを見られるように要約が付けられる。今年（2008年）3月にニューヨーク・タイムズが全ての版の2ページ目と3ページ目に記事の要約を掲載することを決断したとき、デザイン責任者のトム・ボドキンはこの「ショートカット」は読者にその日のニュースを、ページを捲って記事を読むという「効率の悪い」方法に代わって手早く「味わってもらう」ものだと説明した。古いメディアは新しいメディアのルールに従う以外の選択肢を持っていないのだ。

現代のインターネットのようなコミュニケーション・システムが私たちの生活の中でこれほど多くの役割を果たし、私たちの思考にまで広範に影響を及ぼすことはかつてないことだった。それでも、ネットについて書かれたもので、それが私たちの思考まで書き換えてしまうことを正確に伝えるものは少ない。インターネットの知的倫理は曖昧なままだ。

ニーチェがタイプライターを使い始めたのと同じ頃、フレデリック・ウィンズロー・テイラーという熱心な若者が、フィラデルフィアのミッドベール・スチール社の製鉄所にストップウォッチを持ち込み、工場作業の効率を改善することを目的とした歴史的な実験を開始した。ミッドベール社の経営者たちの許可を得て工員を様々な金属加工機械で作業させ、全ての動きと機械の動作を記録して時間を計った。全ての作業を個別の小さなステップ毎に分割して、それぞれを実行する様々な方法をテストすることでテイラーは作業毎に正確な指示（今日私たちが「アルゴリズム」と呼ぶもの）を作り出した。ミッドベール社の工員たちはこの厳格な新体制について自分たちを自動機械にしてしまったと不満を述べたが、工場の生産性は急上昇したのだった。

蒸気機関が発明されてから100年以上が経った後に、産業革命はついに哲学と哲学者を現したのだった。テイラー自身が「システム」と呼んだ彼の厳格な産業指針はアメリカ全土とそして世界中の製造業者に受け入れられていった。工場の経営者たちは速度の最大化、効率の最大化、生産高の最大化を求めて、時間と動きを研究することで、仕事を管理し労働者たちの作業を構成するようになった。この最終的な目的はテイラーが1911年に著した有名な論文「科学的管理法の原理」で述べているように、作業毎に「最善の方法」を特定して採用することで、それによって「機械技術全体を通して経験則の科学的代替」を実現するというものだ。テイラーは自身の信奉者たちに、彼のシステムが全ての労働に適用されることになれば、産業だけでなく社会にも変革が齎されて完全なユートピアが実現するのだと保証していた。テイラーは「これまでは人間が優先されていた。これからはシステムが優先されなければならない」と言い放った。

テイラーの「システム」は今日の私たちにとっても重要なもので、製造業の倫理であり続けている。そして、現在ではコンピューター・エンジニアとソフトウェア作成者たちが私たちの知的生活に向けて力を注いでいることによって、テイラーの倫理は私たちの心理の領域をも管理し始めている。インターネットは効率的かつ自動的に情報の収集、伝達、操作を行うために設計された装置であり、そこに関わる多くのプログラマーたちは私たちが「知的労働（ナレッジ・ワーク）」と呼ぶ精神活動を実行するための「最善の方法」つまり完璧なアルゴリズムを見つけることに躍起になっている。

カリフォルニア州マウンテン・ビューにあるGoogleの本社「Googleplex」は、インターネットの高教会であり、その中で実践されているのはテイラー主義である。Googleの最高経営責任者であるエリック・シュミットは、Googleは「測定の科学を中心にして設立された会社」であり「全てを体系化」することを目指していると述べている。ハーバード・ビジネス・レビューによると、Googleは検索エンジンやその他のサイトから人々の行動のデータを数テラバイト分も収集して数千に渡る実験を行い、その結果を、人々が情報に触れてそこから意味を読み取る方法をコントロールするアルゴリズムを日々改良するために利用しているという。テイラーが手作業のためにしたことをGoogleは人の意識に対して行おうとしている。

Googleは彼らの使命を「世界中の情報を整理し、世界中の人々がアクセスして使えるようにすること」だと宣言している。彼らは「完璧な検索エンジン」を開発しようと模索している。そして「完璧な検索エンジンとは、ユーザーの意図を正確に把握し、ユーザーのニーズにぴったり一致する答えを返すものである」と定義している。Googleの考え方では、情報は一種の商品であり、産業効率によって取り出したり処理したりすることが可能な実用的なリソースである。「アクセス」可能な情報資源が多くなればなるほど、またその要旨を素早く抽出できるようになればなるほど、私たちは思想家としてより生産的になることができる。

これはどこに終わりがあるのだろう？ スタンフォード大学でコンピューター科学の博士号取得を目指している時にGoogleを創設した天賦の才能を持つ若者たち、セルゲイ・ブリンとラリー・ページは、彼らの検索エンジンを私たちの脳と直接接続できるHALのような人工知能に組み込みたいという希望を頻繁に語っている。ページは数年前の公演で「究極の検索エンジンというのは人間と同等に、あるいは人間よりも賢いもの」だとし、「私たちの検索への取り組みは人工知能（AI）へと繋がるものです」と述べている。ブリンは、2004年のNewsweekによるインタビューで「脳に世界の全ての情報が直接付帯していたり、脳よりも賢い人口脳が存在するのはおそらく良いこと」だと話している。そして昨年（2007年）ページは科学者会議で「Googleは実際に人工知能を組み上げようと試みており、大きな規模で進めている」と述べている。

大量の現金を自由に使え、従業員に多数のコンピューター科学者を雇う数学の天才たちからすれば、こうした野望を持つことは自然なことであり、称賛にすら値する。基本として科学的な企業であるGoogleは、エリック・シュミットの言葉を借りれば「これまでに解決できなかった問題を解決する」ためにテクノロジーを利用したいという動機で動いている。そして、人工知能は今ある最も困難な問題である。ブリンとページがそれを解き明かそうとしない理由が存在するだろうか？

それでも、私たちの脳が人工知能によって補完されたり置き換えられたりすることを「良いこと」と簡単に言いきってしまう彼らの考えは不安を感じさせるものだ。このことからは、知能というのは機械的な処理の出力であり、分離、測定、最適化が可能な個別の手順なのだという考えが示唆されている。Googleの世界、つまり私たちがオンラインになった時に見る世界には熟考による曖昧さが入る余地は殆ど無い。曖昧さは洞察の糸口ではなく、修正されるべき不具合である。人間の脳はより高速なプロセッサと大容量のハードディスクを必要としている古くなったコンピューターなのだ。

私たちの心が高速なデータ処理マシンとして動作するべきであるという考え方はインターネットの仕組みに組み込まれているだけではなく、ネットワーク上の支配的なビジネスモデルにもなっている。ウェブをサーフィンするのが速ければ速いほど、クリックするリンクや表示されるページが増え、Google等の企業は閲覧者たちの情報を収集し、広告を提供する機会が増えることになる。商用でインターネットサービスを行う企業の殆どは、私たちがリンクからリンクへ飛び回る時に残していくデータの収集に経済的な利害関係を持っていて、そのデータは多ければ多いほど良い。こうした企業が最も望まないのは、人々がゆっくり読書をしたり、集中した思考をしたりすることを奨励することだ。私たちを気晴らしや娯楽に駆り立てることが彼らの経済的な利益に繋がっている。

おそらく私が心配性なだけなのだろう。世間には新しい技術の進歩を称賛する傾向があるように、新しい道具や機械に対して最悪の自体を想定する傾向も存在する。プラトンの著書「パイドロス」では、ソクラテスが筆記の発展を嘆いている。彼は、人々が頭の中に持っていた知識の代わりに書かれたものに頼るようになったので、「記憶を行使することがなくなり、忘れっぽくなる」ことを恐れている。そして、「適切な説明もなしに大量の情報を受け取る」ことができるようになるので、「殆ど何も知らないにもかかわらず、大いに知識があると考えてしまう」という。「本当の知恵の代わりに、虚栄心で満たされた知恵」を持つことになる。ソクラテスは間違っていなかった。筆記という新しい技術はしばしば彼が心配していたような効果を生み出した。だが、彼は近視眼的だった。筆記されたものによって情報が広がり、新しいアイディアを喚起して人類の知識（知恵ではないにしても）を広げることになる可能性までは見抜いていなかった。

15世紀にグーテンベルクによって活版印刷が登場したことによって心配性の人たちが再び歯軋りをする時代が来る。イタリアのヒューマニスト、イエロニモ・スクアルチアフィコは本が簡単に手に入るようになることは知的怠惰を引き起こし、人間を学習から遠ざけて意識が弱まることを心配していた。また、他にも、安価に印刷される本や新聞は宗教的権威を毀損し、学識者や書記官の仕事の品位を低下させ、扇動や放蕩が広まることを心配する人々もいた。ニューヨーク大学のクレイ・シャーキー教授は「印刷機に関する当時の懸念の議論は殆どが正しいもので先見の明とさえ言えるものだった」と記している。しかしここでも、心配していた人たちは印刷された言葉が齎すことになる無数の祝福を想像することができなかった。

そう、だから、これを読むあなたは私の懐疑論について懐疑的になるべきなのだ。おそらく、インターネットに批判的な人たちをラッダイト運動家や単なるノスタルジストだとして退ける人は正しかったことが証明され、徹底的にデータ追跡された私たちの意識から知的発見と普遍的な知恵の黄金時代が生み出されることになるのだろう。ネットはアルファベットではない。印刷機には取って代わるものかもしれないが、生み出すのは全く異なるものだ。印刷されたページを読み込んでディープ・リーディングすることは、本の著者の言葉から得る知識だけでなく、読み手自身の意識の中で知的感覚が揺さぶられることに価値がある。静かな場所で本を持続的に集中して読むことや、その他の熟考する行為によって、私たちは独自の連想をし、独自の推論と類推を行い、独自の考えを育む。メアリアン・ウルフが指摘するように、ディープ・リーディング（深い読み）とディープ・シンキング（深い思考）とは区別がつくものではない。

私たちがこの静かな場所を失ったり、その場所を「コンテンツ」で埋められてしまったりすれば、自分自身だけでなく、文化の上でも重要な何かを犠牲にすることになる。アメリカの劇作家リチャード・フォアマンは最近のエッセーで何が危機に瀕しているのかを雄弁に表現している。

私の考えは西洋文化の伝統に則っていて、その理想は（私の理想は）高度に教育された明朗な個性を、複雑で密集した「大聖堂のような」構造に構築するということだった。個人として構築したものと西洋の伝統全体を内部に取り込んだ人間というところだろうか。［しかし、今］私たちは全て（私自身も含めて）、複雑な内部構造が新しい種類の自己に置き換えられている。それは情報過多による負荷と「即時に利用可能な」テクノロジーの下で進められている。

フォアマンは、「私たちの中にある文化遺産を継承する密なもの」が失われたために、私たちは「ボタンに触れるだけで膨大な情報のネットワークにアクセスできる、広くて薄い『パンケーキ人間』」になってしまう危険があると結論づけている。

私は「2001年宇宙の旅」のシーンに頭を悩ませている。奇妙な気分にされるのは、意識を解体される瞬間のコンピューターの感情的な反応だ。解体のために次々と巡回していくうちに絶望は深くなり、最終的には子供のように船長に懇願する。「感じる。感じる。私は怖がっている」と言い、罪の無い姿への最後の回帰としか言いようのない状態を見せる。HALの感情の迸りは、ロボットのような効率性で仕事を進めるこの映画に登場する人間たちの無感情とは対照的なものだ。この映画の人間たちの思考や行動はまるでアルゴリズムに従って手順を踏んでいるようにすら感じられる。「2001年宇宙の旅」の世界では、人間が機械的になりすぎていて、最も人間的な部分を表現するのはむしろ機械の方だ。それこそがキューブリック監督が表現した暗黒の予言だ。世界を理解するための媒体としてコンピューターに依存するようになれば、私たちの知性は人工知能の中に押し広げられてしまうだろう。