人工知能――より多様に理解するための5冊

2010年代初頭に大きなブレイクスルーを迎えてからというもの、「人工知能（Artificial Intelligence, AI）」はあっという間に私たちの生活のすみずみに浸透した。周りを見渡せば、手元のスマートフォン、そこからアクセスするさまざまなウェブサービスやアプリケーション、あるいは自宅で稼働する種々の家電の中にも、形の違う「人工知能」のアルゴリズムが稼働している。

そうしたものの中にはあからさまに「AI搭載！」と打ち出しているものもあれば、サービスの裏側で静かに仕事をしているものもあるだろう。いずれにせよ、今や「人工知能」に全く触れずに一日を過ごすことは難しいほどである。その広がりを時系列にして書き起こしてみれば、スピードに驚かされるに違いない。

だが、改めてこの「人工知能」という言葉の意味するところを考えるならば、そこで指し示されている事柄は曖昧であると言わざるを得ない。かつてジョン・サールが導入した区別にしたがえば、「人工知能」には「弱い人工知能」と「強い人工知能」の２つの種類があると考えられる。

「弱い人工知能」とは、何らかの目的や機能を達成することができるオートメーションシステム一般を指す。程度の差はあるが、広い意味ではコンピュータ上で実行されうるあらゆるプログラムがその範疇に入るだろう。ここ10年弱の第三次ブームの立役者である「機械学習（Machine Learning）」、その中の一種類である「ニューラルネットワーク（Neural Network）」や「ディープラーニング（Deep Learning）」もまた、基本的には「弱い人工知能」を実現するための技術にカウントされる。

他方で、「強い人工知能」はそれが実現できる能力や結果による定義ではなく、自律的に思考することができる人工的な存在を指す。「意識」や「心」を持つシステムであると言い換えられるだろう。この種の「人工知能」は、未だどこにも存在しない。当たり前のことながら、このことは何度も想起し直す必要がある。

問題は、この2つの概念が定義の上では全く異なっているにもかかわらず、「人工知能」の名称でしばしば重ねて使用されることである。もちろん、シンギュラリティ論者に代表されるように、「強い人工知能」は「弱い人工知能」から連続的に発展、発生すると考え、あえて重ね合わせる立場もある。しかし、少なくともその場合には明確な論証が必要であり、この問題を巡っては、研究者だけでなく、技術者や実業家、ときには市民を巻き込んで百家争鳴の様相である。慎重であろうとするならば、現時点ではひとつの仮説として留保しておくのがよいだろう。

少々前置きが長くなったが、本稿ではこうした混乱した人工知能の状況を今一度熟考し直すために、そしてその上で冷静かつ前向きに技術と付き合うために、５冊の著作を紹介したい。分野が分野だけに日々新たな関連書籍が刊行されているが、ここではなるべくトレンドに左右されにくいものをピックアップした。古典と呼ぶべき重要な書籍から、比較的新しい著作まで混ぜているが、どれもゆっくりと繰り返し読むに値する良書である。これらの5冊を出発地点として、「人工知能」についての理解や思考を深めていただきたい。

「人工知能」にも、もちろん歴史がある。現在のようなシリコンチップ上の実装に限らずに、より広く捉えて歴史を眺めれば、人間のような知能を人工的に創造しようとする試みは古くから数多く存在した。古代ギリシャのオートマトンの思想や、中世に錬金術師たちの間で盛んに議論されたホムンクルスの調合など、挙げればきりがない。しかしながら、今日のコンピュータに近い形で構想した思想家は、おそらく17世紀後半～18世紀初頭に活躍した哲学者ライプニッツが最初であろう。

ライプニッツは、数学から形而上学、法学まで、広く活躍した博学者として知られている。彼は私たちの精神のはたらきについて、厳密に整理することができれば、有限の原理へと分解し還元することができると考えた。そしてその諸原理をレゴブロックのように組み合わせることで、人のあらゆる精神的活動――思考する、鬱々とする、愛する等――を表現し尽くすことができると述べている。

つまり人工的に知能を作り上げることは、数学の論証のように合理的に積み上げていくことによって可能であると考えたのである。彼はその構想のプロトタイプのようにして、世界初の四則演算が可能な自動計算機を完成させ、発表した。中身はもちろん機械仕掛けではあるが、今日のコンピュータの原型と呼ぶにふさわしい機構を備えている。彼の思想と実装の両面は、数世紀後のデジタルコンピュータ、および「人工知能」の誕生にまで多大なインスピレーションを与えることになった。

その後の発展はゆっくりとしたものであったが、20世紀になると、ようやくライプニッツの思想を実装する用意が整い始める。本書『「人工知能」前夜』では、この20世紀のコンピュータの誕生から、「人工知能」研究が動き始めるまでの思想的・技術的状況が多面的にまとめられている。装丁の手軽さとは裏腹に、綿密な調査に基づいた網羅的なドキュメンタリーとなっている。

この時代の事情に詳しい人でなければ、おそらく読み進めると登場人物の多さに面食らうかもしれない。当時はもちろん幾人かの奇才――フォン・ノイマンやチューリングなど――も活躍したが、実際には多くの人物の貢献によって、また多様な学術領域の相互影響の間にあって、今日のコンピュータや「人工知能」が形作られているのである。そうした経緯や時代の熱量を、本書の端々から伺い知ることができる。

本書の興味深い着想は、今日の私たちの持つ知能=脳とコンピュータの類比的な「イメージ」がどのように作り上げられることになったのかを、論理的な必然性ではなく、膨大な資料と歴史の中から浮かび上がらせている点である。今日、脳の機構に着想を得た「人工知能」の研究は数多く存在しているし、私たちは自身も知能と脳をほとんど当たり前のように同一視しているように思われる。しかしながら、こうした「イメージ」は必ずしも一本道で必然的に形成されたものではなく、多くの偶然的な事情やイベントが重なって生じてきたものであると論じられている。

こうした冷静な視点で過去に向き合うことで、私たちは自身の見えざるバイアスに明晰になることができるだろう。まさに著者が末尾で述べるように、「歴史記述は、我々の不合理さと不自由さを教えてくれる」（p.210）ということに気づかせてくれる一冊である。

人間の脳と機械とを類比的に捉える立場には多くのバリエーションがあるが、その内の代表的な思想潮流の一つに「サイバネティクス（cybernetics）」と呼ばれる運動がある。この奇妙な言葉は、ギリシャ語の「舵手」を意味する kubernetes から作り出された造語だ。19世紀以前にも使われた例はあるようだが、思想潮流としての「サイバネティクス」は20世紀にノーバート・ウィーナーが使用したのが最初と考えて問題ない。ウィーナーは同名の著作『サイバネティクス』を発表して議論を巻き起こしたが、それについての一般的な解説書の位置づけで発表されたのが本書『人間の人間的な利用（The Human Use of Human Being）』である（『人間機械論』の題は第一版の邦訳時に付けられた）。

数学者であったウィーナーは、先ほど紹介したライプニッツの思想から着想を得、そこにいくつかの重要な修正を加えて新たなモデルを提案した。そしてその思想的枠組み、および運動を「サイバネティクス」と呼び、そのひとつのモデルによって人間を含む生物や、コンピュータ、機械の間のコミュニケーションを説明しようと試みたのである。詳細は本書を読み解いてみることを勧めるが、ここでも中心的な点のみ簡単に紹介しておきたい。

ウィーナーは、サイバネティクスの新しさを強調するために、ライプニッツの思想を「オルゴール時計の上の人形」にたとえ、サイバネティクスのアプローチを動物の「猫」と例えて比較する。

同一時刻に同じ歯車の状態に合わせた2つのオルゴールを動かしはじめると、その2つのオルゴールは同期して動きはじめ、しばらく時間が経ったのちにもその上で動く2つの人形は全く同じ動きをしているはずである。オルゴールは、一度動き出した後に調整を行ったり、外部や他の存在者とのコミュニケーションによって自身の運命を変更することはない。あらかじめ定められた要素によって、すべての事柄が確定する、無時間的で完全に合理的なモデルと言えよう。これがライプニッツの予定調和的なモデルであり、ライプニッツ自身はこの在り方を「窓の無い存在」と呼んでいた。

他方で、ウィーナーの「猫」は、このように確定した存在ではない。猫は自分自身の行動による何らかの結果や外界からの反応を知覚して、それを自身の次の行動のための入力とするフィードバック機構を持つ。また外部からのフィードバックにとどまらず、猫の内部――猫の運動感覚器と神経系との間、あるいは神経同士の情報のやり取りなど――にも、フィードバックループが存在する。こうした外部とのコミュニケーションを含めて動作を調整するような「窓の開いた」在り方がサイバネティクス的な存在理解である。

こうしてウィーナーはライプニッツの時計じかけの機械をアップデートし、センサーとフィードバックを導入した新たな機械――人間、動物、コンピュータなど――をモデル化しようと試みたのだ。

「サイバネティクス」運動には、後に人工知能研究で活躍する多くの人物が関わっていたが、その中には、神経生理学者のウォーレン・マカロックと数学者のウォルター・ピッツもまた含まれている。２人は、当時から脳の中の最小単位と考えられていたニューロンの挙動を人工的な計算モデルに置き換え、いわゆる形式ニューロンを定式化したことで知られている。現在から翻って考えれば、この形式ニューロンは現在の機械学習ブームを支えるニューラルネットワークの原型にほかならない。時代は未だ1950年前後、そこに実際にフィードバック機構を織り込むためには、結果的にもう20~30年の時間が必要であったが、必要な素材はすでに存在していたのである。

広い学際的運動であった「サイバネティクス」自体は、その後明確なディシプリンや目的を定義することに苦戦し、時間とともに雲散霧消していった。しかしながら、関わった研究者の多くは人工知能の黎明期を支える研究成果を数多く残したばかりか、現在も脈々と彼らの思想が駆動し続けている。本書を通して、ぜひその思想の源流に触れてみてほしい。

「強い人工知能」を考える上で最も重要な――だが多くの研究者はできれば避けて通りたいと考えている――テーマは「意識」である。「人工知能」には意識が宿るのか、といった問いをどこかで耳にしたこともあるだろう。この問いを真正面から扱いたくなければ、意識を合理的な計算の手続きの集積や「物質としての脳」と同一であるとみなしたり、もしくはそこから自然と発生する――創発する――ものであると考えたりすることになるだろう。そうすれば「意識」を計算や物質などの別の何ものかに「還元」して論じることができる。

こうした還元主義のモデルが魅力的なのは、それが高い説明能力を持つためである。意識も含めたあらゆる現象を物質などの単一の原理に還元して語ることができるため、神秘的な要素が入り込む余地はない。

しかし、本書『意識する心―脳と精神の根本理論を求めて』では、著者のチャーマーズはこうした還元主義のアプローチに物申している。チャーマーズによれば、還元済みの現象を扱うことは、困難さのない「イージープロブレム」であり、これは本来の意識への問いを隠蔽するものである。意識を脳の中のニューロンの挙動の集合とみなしたり、ウィーナーのように入出力との間に存在する単なる関数として意識を取り扱ったりする立場がそれに当たるだろう。彼は、こうした物質や機能へと還元された前処理済みの意識を「心理学的意識」と呼んだ。

しかしながら、この「心理学的意識」では、私たちが赤い血を見るときの「赤」の生き生きとした経験、ありありとした痛みの経験、そういったなまの意識――クオリア――は全く説明されていない。チャーマーズはこうした意識の質的側面を「現象的意識」と呼び、多くの論者がこの側面を無視していると指摘した。そして、この問題系を「イージープロブレム」と区別して「意識のハードプロブレム」と呼び、問題を避けずに取り組むべきであると提案したのである。

このような説明をすると、チャーマーズは意識の問題を自然科学によっては解決不可能な領域へ押しやっているように見えるかもしれない。しかし実際は、チャーマーズの態度は真逆であり、意識の解明に依然として前向きである。そして驚くべきことに、本書の検討の帰結として、彼は「強い人工知能」は可能であると述べることになる。

もちろん、チャーマーズのこの結論に同意する必要はない（チャーマーズ自身も、デビュー作である本書について「完璧には程遠い」と後に苦々しく回顧している）。本書の白眉は、チャーマーズが「ハードプロブレム」に真っ向から向かい合い、還元主義を回避しながらも「現象的意識」の説明が自然科学と両立することを示そうとするその過程にある。道中では、可能な立場を羅列しながらひとつひとつ検討したり、手厳しい批判に対して事前の防衛策を講じたりとしながら、じりじりと前進していく試みを共にすることができる。少々厚みのある著作ではあるが、チャーマーズの軽快かつ明晰な文章を追いながら、意識の可能性をめぐる哲学的冒険譚として楽しむことができるだろう。

チャーマーズのような意識についての探求は、現在では神経科学や認知科学の領域でその後も議論が続けられ、様々な提案がなされている。このテーマも大変に興味深いが、少し視点を変えて、今日の「人工知能」の実態を理解するための実践的な著作についても検討しておこう。

技術的情況を理解する際、もし種々のプログラミング言語に馴染みがあれば、もちろん実際の実装を通して「人工知能」の中身を学ぶことが、最もシンプルな方法だろう。しかしここでは他のアプローチを紹介したい。現在の「人工知能」は何を行っているのか、何ができて何ができないのか、まずはその枠組みを理解したいと考えるならば、言語学者の川添愛氏による『働きたくないイタチと言葉がわかるロボット』は平明な導入を与えてくれるに違いない。

本書は、イタチと様々な動物たち、そしてその間で活躍する様々な人工知能やロボットとの間の物語として描かれている。一見、平易な子供向けの著作のように見えるかもしれないが、実質は全くそうではない。「理解する」とは一体どのようなことなのか、そしてそれは果たしてコンピュータに可能であるのか、こうしたハードコアな問いについて、著者の専門でもある「言語」をテーマとしながら、堅実な解説を試みているのである。

今日、言語を扱う「人工知能」にも様々なパターンが存在する。最もシンプルなものは、人間の側から明示的に言語の構造についてのルールを作成したり、単語ごとの意味の辞書的定義を与えることでコンピュータに言語の操作をさせる「ルールベース」のアプローチだ。しかし、この方法はすぐに困難にぶつかる。というのも、私たち自身ですら私たちの言語の構造を完全に理解しているわけではなく、現実的にはゆるやかに運用されているからである。

そして、実際にこのアプローチを追い求めてみれば、網羅的なルールの作成がほぼ不可能であることに気づかざるを得ない。川添氏は、様々な技術を紹介しながら、コミュニケーションの曖昧さと豊かさをストーリーの中から浮かび上がらせている。

本書の中には、「ルールベース」にとどまらず、さまざまな「機械学習」の使用例も挙げられている。たとえば画像に写っているラベルを言語として抽出するような機械学習のアルゴリズムや、単語毎に数値の配列へと置き換える（ベクトル化する）ような技術まで紹介されているが、こうしたものは実際に広く使われているものだ。

「機械学習」は「ルールベース」のように明示的なルールを与えることはないが、代わりに大量のデータからパターン認識を行う技術の総称である。ディープニューラルネットワークを多層化した巨大な機械学習モデルを利用すれば、データの中の複雑なパターンを発見することができるというメリットがある。今日のブームの大部分はこの技術に支えられていると言っても過言ではない。しかし、「機械学習」も銀の弾丸ではない。データに依存する以上、それに起因する課題もやはり存在する。イタチたちの物語を読み終える頃には、そうした様々なアルゴリズムとその特性や限界について自然と理解していることだろう。

最後に、科学技術社会論（STS）分野の研究者である江間有沙氏による著作『AI社会の歩き方: 人工知能とどう付き合うか』を紹介したい。ここまで扱ってきた他の著作とは趣向が異なるが、「人工知能」との関係性を考えていく上で重要な論点がバランスよく整理された貴重な内容となっている。タイトルにある通り、「人工知能」と社会の関わりがテーマである。一口に社会と言っても観点が多いが、本書では倫理から法、産業におけるベストプラクティスまで、実際の取組みや事例を含めて幅広く論じられている。

哲学研究者としての自戒を込めて回顧すれば、「人工知能」と倫理に関するものの多くは思考実験的、思弁的であり、単に原理的な問いを提出しすることにとどまるものも多く存在する（もちろんこの機能も哲学の重要な仕事ではある）。しかしながら、現実的には様々な機械学習モデルが日々実装され稼働しており、著者が述べているように「WHAT」や「WHY」ではなく、「HOW」に関する対話や調整、法的整備こそが目下必要とされている。こうした論点を広く紹介、提案することができるのも、日々様々なステークホルダーとの対話や調整を行っている著者だからこそできることであろう。しかし当然、こうしたトピックに関する議論は絶えず更新され続ける。本書をひとつの「地図」として、その後も議論や情報収集を繰り返していくことは欠かせない。

「人工知能」には多くの定義、用法、射程の理解がある以上、私たちもこの技術に対して二つの目を持って接するべきだろう。原理的な議論についてしぶとく思考し続ける哲学者の視点と、直近の課題に対して適切に対処していく実務家の視点、この両方をそれぞれが滋養するようでなければならない。本稿がそのための一つのきっかけとなるようであれば幸いである。