AIとの融合は「人間」を幸せにするか ―― 仲正昌樹

2023年07月15日（土）

AIが急に，
あるいは，ちっとも急ではないのかもしれないな，とちょっと不安になるけれど，
メディアに登場してきて，
はて，さて，どうなってんだろう，と思案する．
いや，あまりなにも考えてはいないのだけれど，
ちょっと騒ぎすぎじゃないのか，とは思う．



―――――――――――――――――――――――――

【クライテリオン】2023年03月

AIとの融合は「人間」を幸せにするか

AIは「志向性」を持つのか、
人間と同じように「思考」するのか、
哲学的に考えてみたい。

仲正昌樹

仲正昌樹（なかまきまさき）63年広島県生まれ。東京大学総合文化研究科博士課程修了（学術†専士）。駒澤大学非常勤講師、金沢大学助教授などを経て、現在、金沢大学法学類教授（政治思想史）。主な著書に「集中講義！アメリカ現代思想』『今こそアーレントを読み直す』「精神論ぬきの保守主義』『ハイデガー哲学入門「存在と時間』を読む」「教養としてのゲ－テ入門』「悪と全体主義ハンナ・アーレントから考える』「哲学JAM［赤版］現代社会をときほぐす』など多数。近著に1現代哲学の論点人新世・シンギュラリティ・非人間の倫理』（NHK出版新書）、、


AIとの融合で幸せになれるのか

　介護ロボットや自動運転車など、人間の関与なしに自発的に判断する能力を備えたAIが、徐々に私たちの生活に入り込んでいる。これらは、結果的に多くの人の仕事を奪うことになる反面、私たちの肉体の限界を超えて、様々な能力を拡張し、日常を豊かにしてくれると言われている。
　新型コロナウィルス問題に関連して改めてクローズ・アップされたように、各種の端末から各人の行動・消費パターンや生体情報を収集して分析するAIは既に現実化している。他方で、身体の内に直接入り込み、診断や治療に当たる医療用のナノマシーンを制御するAIも実用化一歩手前まで来ている。両者が融合すれば、最終的には、伊藤計劃の小説『ハーモニー』（二〇〇八）で描かれているように、私たちの身体がAIのネットワークに繋がり、最善の健康状態を保つべく管理されるようになるかもしれない。その場合、身体に対応して意識の在り方も管理可能になっているかもしれない。
　AIが自発的創造性の面でも人間を超え、自己増殖することが可能になる「シンギュラリティ」が二〇四五年に到来すると予言したことで知られる実業家・未来学者のレイ・カーツワイル（一九四八－）は、人間は段階的にシンギュラリティを超えたAIと融合する可能性を示唆している。第一段階では、皮膚や臓器などを、効率的で安全な人工的な素材と置き換え、ナノボットで新陳代謝や免疫を管理し、メタ・ブレインで記憶や判断のミスを訂正できるようになる（人体Ver2.0）。次の段階では、身体全体がもはや特定の固定した骨格を持つことなく、ナノテクノロジーで自在に形を変えられるようになると共に、食事やセックスなどもヴァーチャル・リアリティによる経験に置き換え、各種の危険を避けられるようになる（人体Ver3.0）。
　最終的には、人問の脳をスキャンして、コンピユータ上の基板にアップロードし、グローバルなAIシステムとする。AIの中での情報処理ユニットとしてのみ存在するようになった「私」たちは、これまでの数千倍、数万倍の速度で思考するようになり、ユニットの複製という形で永遠に「生き」、「自己」改造し続ける。地球の外の空間の情報を収集する技術が発展していけば、「私」たちはやがて宇宙のあらゆる場所に「居合わせる」ことができるようになる。何億光年も離れた惑星や恒星でも、AIと接続した情報収集装置を送り込むことができれば、AIと一体化した「私」は、その星の状態を、“直接”認識することができるからだ。
　こうしたAIと人間の高度な一体化が実際に可能になるかどうかは別として、それが実現した世界は、“私たち”にとって幸福だろうか？　人間の限界を超えて、神に近い存在になることを目指すトランスヒューマニストであれば、カーツワイルのヴィジョンが実現することは福音だろうが、多くの人は、固定された身体を持たず、ユニヴァーサルなAIの一部として、宇宙の至るところに遍在する「私」になることに、何とも言えない気持ち悪さを感じるのではないか。そのような状態で「永遠に生きる」というのはどういう感じかピンと来ないし、そういう訳の分からない漠然とした状態を究極の理想としてありがたがる人、それを制度的・道徳的に可能にするための社会の根源的な変革を求める人たちがいるのは信じがたいと思うのが普通だろう。
　AIが人間の生活に深く浸透し、最終的に融合するのは、ユートピアのように見えるディストピアではないか、という問いかけはSFの定番だ。典型的なのは、映画『AI崩壊』（二〇二〇）のように、AIが人間に対して反乱を起こして、ナノマシーンを通じて人間の生殺与奪の権を握り、支配するようになるというパターンや、映画『マトリックス』（一九九九）のように、AIがインターネットに取り込まれた人間の意識を全面支配し、支配されていると認識させないようにさせる、というパターンだ。


〈26〉
「人間」とは誰か？

　しかし、カーツワイルのヴィジョンはそうした、AIによる支配という以上の不気味さを帯びている。彼のヴィジョンは、私たちを不安にさせる、以下の哲学的問いを浮上させる。
　第一に、AI上にアップロードされた「私」と、今現在生身の存在である「私」とが同一であるのか、という自己のアイデンティティをめぐる根源的な問題がある。アップロードが完了して、AI上の「私2」が起動したので、不要になった生身の「私1」を廃棄処分にした場合、「私」は一度死んだことになるのか。
　第二に、生物的な身体を全て失って、仮想空間上にだけ存在するようになっても、「人間」なのか。それは、「シンギュラリティ」を超えて、人間のように思考できるようになったプログラムとどう違うのか。生身の身体を持った生物体としてのヒトに起源があるのか、純粋AI上で“生まれた”のかで区別をするのか。
　第三に、宇宙空間全体に広がる情報空間の中で、情報処理ユニットとしてだけ存在するようになるとしたら、諸個人間の区別に意味はあるのか、という疑問がある。また、各人の思考が各種プログラムで補強されるとしたら、自律的に思考するプログラムと「私」の間に人格的な境界線が存在するのだろうか。AI主導のヴァーチャル・リアリティの中で、「個」という概念に意味はあるのか。
　第四に、最先端のAIと同じ速度で、いかなる無駄もなく思考する存在は、「人間」だろうか。「私たち」がほぼ瞬発的に心に思い浮かべ、数秒の内に、他人に理解可能な形で表明できる文と同じ内容を、多種多様な雑音を出しながら、一万年以上かけて表明する存在がいたとしよう。「私たち」はそれを、人間と同じような自己意識を持った存在と認めるだろうか。ほとんどの人は、そんなのは、岩が長年かけて化学変化を起こしたプロセスを記録していたら、意味あるメッセージらしきものが読み取れたというのと同じレベルのことではないか、と思うだろう。次に、その逆を考えてみよう。「私たち」の何万倍、何億倍もの速度で思考できる存在が誕生した時に、それを「人間」と呼ぶことが適切なのだろうか。というより、“彼ら”は、現在の「私たち」を先祖と認めてくれるだろうか。
　カーツワイルの描く未来は、「私たち」は、AIと融合して自分たちを進化させているつもりで、今の「私たち」とは全く異質の、人間に似たパターンで情報処理するプログラムを開発しているだけではないのか、という疑問を抱かせる。逆に言えば、そうしたトランスヒューマニストな未来像は、既に生活のかなりの部分をAIやインターネットに依存している私たちは、「人間らしさ」の一部を失っているのかもしれないことを想起させる。

強いAIと身体性

　一九八〇年代初頭から、「心の哲学」と呼ばれる領域で、「弱いAI」と「強いAI」をめぐる論争がある。「弱いAI」というのは、予め与えられたプログラムに従って計算問題を処理することはできるが、自分のやっていることに意味付けし、自発的に思考することはできないAIで、「強いAI」は後者もできるAIだ。ジョン・サール（一九三二－）は、人間は思考するに際しては、特定の対象に自己の意識を向け、その対象と自分の関係を意味付けする「志向性intentionality」を有するのに対し、AIに「志向性」を与えることはできないと主張した。彼はそれを直感的に分かりやすくするために、「中国語の部屋」論法というものを示している。
　中の様子が見えない部屋に、中国文字で書かれたテクストを入力すると、部屋の中にいる“人物”は、予め与えられた指示（プログラム）に従って、○○という文字列を目にしたら、室内に予めストックされている▽▽という文字列を見つけてきて、出力する――文字列のストックには、中国語の話者が発すると考えられる全ての可能な文が含まれているとする。すると、外で観察している人には、部屋自体、あるいはその中の誰かには中国語を理解する能力があるように見えるが、それで、中の“人物”＝AIは中国語の文の意味を理解している、と言えるだろうか。
　こうしたサールの議論は説得力があるように見える反面、不当な比喩の設定をしている、という批判があり、これを起点にカーツワイルなども参戦する論争が繰り広げられてきた。ダニエル・デネット（一九四二－）は、進化論的な視点に立って、「志向性」は人間においていきなり生じてきたものではなく、原初の単細胞生物が特定の刺激に反応して栄養分となる対象に向かっていく、というレベルから始まって、そうした自らの反応の仕方を感知し、自らの身体の機能も含めて制御する仕組みが発展してきた、と主張する。こうした見地に立てば、特定の対象に反応するようプログラミングされているAIは既に一定の志向性を備えていると言えるのではないか。自らのプログラムを改善できるAIであれば、いつか人間と同じ精度の志向性を持つのではないか、とデネットは示唆する。
　こうしたAIと志向性をめぐる議論では、どうしても、ディープラーニングによって自己のプログラムを高度に修正することのできるAIが誕生するなど、AIの精度が上昇するに従って、「強いAI」を肯定する唯物論的な立場が


〈28〉
有利になっていくように思える。その中で、この問題にAIの情報処理の様式というのとは異なった角度からアプローチしているのが、ハイデガーをプラグマティズム的に読解できる可能性を示したことでも知られるヒューバート・ドレイファス（一九二九－二〇一七）だ。
　ドレイファスは『コンピュータには何ができないか』（一九七二）で、コンピュータはプログラムによって指定された環境の中で、指定された情報を収集・処理するうえで優れた性能を示すことはできるが、人間は「身体body」を通じて、自らを取り巻く環境と柔軟に相互作用しながら、情報を収集する。「身体」は自らが想定していなかった対象や出来事に遭遇すると、そこに関心を向け（志向性）、感覚器官を動員して、それに対応しようとする。結果的に、「身体」での調整を通して、「私」の行為のパターン、延いては、目的自体が変化することもある。そうした変化は絶えず生じており、微細なものであれば、必ずしも意識されることはなく、身体レベルで処理される。
　ドレイファスはこうした「身体」の示す柔軟な志向性を、ハイデガー（一八八九－一九七六）の「世界内存在」論と関係付けている。『存在と時間』（一九二七）でハイデガーは、私たちは気付いた時には、この「世界」の中に投げ込まれている自己を発見する。更に、自分で意識することなく、身体やその延長としての各種の道具を通じて、環境と相互作用しながら、自分が追求すべき目的を必ずしも、意識しない形で見出す。私たちの「人間」的な思考や決断は、そうした「世界」の中に埋め込まれた身体を介して得られる知に根ざしている。これは、ハンガリー出身の物理化学者で科学哲学者でもあるマイケル・ポランニー（一八九一－一九七六）が「暗黙知tacit knowledge」と呼んだものに対応する。ドレイファス的な見方をすれば、AIがデイープラーニングによってかなり細かい判断ができるようになったとしても、環境の中で自らが志向するものを徐々に発見する「身体」が備わっていない限り、人間と同じように「思考」することはない、ということになろう。

リモートと身体

　ドレイファスは、インターネットが普通の人の日常にも浸透するようになった時期に執筆した『インターネットについて』（二〇〇一）で、人間の「知」における「身体」の重要性を再度強調している。当時、ハイパーリンクによって、自室のPCの前にいながらにして世界中の知と繋がることができる、無駄な暗記は不必要になる、といったことが喧伝された。教育現場に遠隔教育を導入することで、最先端の知を効率的に学ぶことができるようにすべきだ、と言われた。
　そうした浮かれた風潮に対してドレイファスは、人間の知は単なる情報処理ではなく、「身体」を介して、目の前の対象や他者と関わりを持ちながら、実践的に獲得されていく側面がかなり大きい、ネットを介してのリモート教育では、身体を使う前の予備教育なものだけしか提供できない、と指摘する。
　これは、教師をやったことのある人なら不可避的に感ずることだろう。特に語学とかプレゼンなど、他人に伝わるように表現することを学ぶ授業だと、自分が表現していることが、目の前にいる相手にどういう風に伝わっているか、その場がどういう雰囲気か、身体感覚を総動員して把握すべく努力しないと、なかなか身に付かない。ネット中継だと、触覚と嗅覚は遮断され、視覚と聴覚もかなり制限されるので、全体的な雰囲気は分かりにくい。
　コロナ禍で多くの学校・大学や企業がリモート授業・会議を導入した。リモート化してみたおかげで、わざわざ時間をかけて職場に行き、目の前の同僚に気を遣う必要などないことが分かった、と言っている人が少なくない。それに呼応するように、政府もデジタル田園都市構想を推進すると言っている。
　無論、その場に全員集まらないでリモートで済ませた方がコミュニケーションがスムーズにいく団体・組織や仕事・学習内容もあろうが、リモート化で失われるものはないのか。英国のエコノミストであるアンディ・ハルデーン（一九六七－）は、二〇二〇年十月に行なった講演「あなたにとってホームワークはいいことですか？」で、リモートで失われる可能性があるものを指摘している。
　会議などで私たちは、自分や他の誰かが話している時、それを聴いている人がどうリアクションしているか、「身体」全体を動員して情報収集している。会議の合間に、他の参加者の会話に耳を傾けたり、話しかけたりすることで情報を得たり、人間関係を補強したりしている。仕事場の中で、あるいは周辺での様々な人とのちょっとした雑談を通して、思いがけないアイデアを得ることもある。
　そうした暗黙知や、教室や職場でのリアルな接触で得られる他者との協力関係（社会関係資本）は数値化しにくい。いったんリモートが当たり前になると、身体感覚が失われたことさえ、忘却される恐れがある。
　ドレイファスが指摘するように、現在、「人間」として生きている「私たち」は、「身体」を持っていることで、想定外の事態に対処し、一見つまらなそうなものの中に隠れた価値を発見することができる。何でもAIとネットに安易に任せる前に、人間固有の知の特性が失われ、「人間」という概念が希薄になっていないか、落ち着いて考える必要があろう。