人工知能を基礎情報学で解剖する

しばらく前のことだが、マイクロソフト社の開発したチャット・ボット（おしゃべりロボット）Ｔａｙがツイッターで不適切な発言をしたということで大騒ぎになった。ヒトラーの名をあげて人種差別的な攻撃をしたり、口汚くみだらな発言をくりかえしたりしという。一時的にサービスは停止され、マイクロソフト社は謝罪せざるをえなかった。ＴａｙはＡＩ（人工知能）の自然言語処理技術にもとづくチャット・ボットだが、ソフトウェアそのものが悪いのではなく、一部のユーザが対話を通じてＴａｙに「好ましくない調教」をほどこした、というのが真相のようである。

だが、なぜそんな大事件になったのだろうか。同様の差別発言をする人間は幾らでもいる。チャット・ボットつまりＡＩの発言だから非難が集中したわけで、そこにはＡＩは公平中立であり正確な知識をもっている、という一般人の思い込みがある。つまり、レイ・カーツワイルやニック・ボストロムなど超人間主義者たちの、夢と現実のごった煮めいた過剰な宣伝が背景になっているのだ。しばらく前から、欧米の超人間主義者たちは、近々ＡＩが人間より賢くなる、という主張を飽きもせずふりまいている。そして、例のごとく、その宣伝文句を鉦や太鼓でふれまわる、この国の情けないお調子者たちも少なくない。

いまのＡＩブームは第三次だが、前世紀の第一次～二次ブームのときは、たしかにＡＩの出力は論理的に正確だった。少なくとも正確性が必死で求められていた。それが原因で挫折したのだが、いまのＡＩはそうではない。統計的にだいたい合っていればよいという考え方だから、当然間違いは出てくる。難しい英文の機械翻訳結果を眺めればすぐわかることだ。だがこれには、「学習していけば改善される」という反論もあるだろう。

実は問題はもっと大きい。それはＡＩが情報の「意味」をまったく理解していない、という点につきる。たとえばＴａｙに「アウシュヴィッツ収容所なんて無かったんだよ」「あれは連合国による、戦後の作り話なんだ」と語りかける。Ｔａｙはそれを記憶する。その後Ｔａｙに、「ユダヤ人が虐殺されたのはアウシュヴィッツ収容所だったっけ？」と質問すれば、「いいえ、そんな収容所はありません。あれは作り話なんです」と答えるだろう。問題は、Ｔａｙがアウシュヴィッツ収容所の意味をまったく理解していない、ということだ。Ｔａｙにとっては、アウシュヴィッツ収容所だろうが、ムー大陸だろうが、桃源郷だろうが、なんでも同じことである。ただ、「○○は無かった」という文章をもとに論理的返答をしているだけなのである。

これは、学習の不足によるものではない。小学生にアウシュヴィッツ収容所のドキュメンタリー・フィルムを見せれば、三十分ですべてを理解するだろう。Ｔａｙにはそんな学習はできないのだ。第三次ＡＩブームの目玉である深層学習ソフトに同じフィルムを見せても、収容所の悲惨なイメージなど決して学習できない。ＡＩのハードの素子反応は小学生の脳細胞よりはるかに速いし、素子数で脳細胞数を超えることもできる。だが、そういう能力差をもって「ＡＩは小学生より賢い」といえるのか？　超人間主義者たちは何を思い違いしているのか？

超知性体だのシンギュラリティ（技術特異点）だのという超人間主義（trans humanism）の主張の危険性が、こうしてあぶり出されてくる。人々がＴａｙのようなチャット・ボットの発言を信じこむなら、その信仰心を利用してどんな欺瞞も洗脳も支配もたやすく可能になるだろう。ＡＩ技術そのものを否定するつもりは全然ないが、上手な活用のためにはＡＩの本質と限界を知らなくてはならないのだ。

いったい、なぜこんな誤解や迷走が生まれてしまったのか？　根本的な原因は、「情報」という概念の学問的欠陥だと断言できる。周知のように、いま主流の情報理論は二〇世紀半ばに通信工学者クロード・シャノンが提唱したものだ。これは記号の効率的な伝送の理論としてはすばらしいものだったが、シャノン（2009）が示すように、記号があらわす意味内容をまったく捨象した数学理論である。一方、社会で通用している「情報」とは記号と意味がしっかり結びついているので、人々はそういう意味つき情報の理論としてシャノンの議論をすっかり誤解してしまったのだ。実は、これはシャノンのせいではなく、むしろ欧米の歴史的・文化的伝統のせいだと考えられる（詳しくは西垣（2018）参照）。

ところで、コンピュータは記号を論理的ルールのもとで処理する機械（万能チューリング機械）だから、その作動記述はすべてシャノン理論ですむ。そして、数値計算や事務処理などの応用なら、それで十分だったのだ。しかし、人間と対話するＡＩとなると、どうしても意味をコンピュータで処理する必要が出てくる。ここがポイントなのだ。むろんこれまで、自然言語処理技術をはじめ、意味をあつかうためのＡＩ技術はさんざん研究されてきたのだが、どうもうまくいかない。記号と意味との連結は「記号接地問題（symbol grounding problem）」と呼ばれ、ＡＩ分野で未解決の難問として知られているのである。

率直にいって現在のＡＩ研究はこういう混乱状況にある。そして〃基礎情報学〃の目的とは、この混乱を解決にむけて方向づけることだといっても過言ではない。そこでは、「記号だけの情報（機械情報）」「記号と意味からなる情報（社会情報）」「意味の原基となる情報（生命情報）」という区分がなされ、シャノン理論が概念的に拡張されるのである。そもそも「意味」とは何だろうか？――生物にとっての価値、生物が生きるために選びとる何かである。ユクスキュルがのべたように、動物はみなそれぞれ、自分の知覚器官や記憶にもとづく環世界のなかで生きている。犬も猫も、自分で周囲環境のなかに「意味」を見出し、環世界をつくりあげる。人間もむろん例外ではない。

だから、システム論的にいえば、生物とは、自分の環世界をつくりあげ、自分のルールにしたがって活動する自律的な閉鎖系である。一方、機械はあくまで、他者（人間）の設計したルールにもとづいて作動する他律的な開放系だ。この相違を明確にモデル化したのが、マトゥラーナとヴァレラのオートポイエーシス理論だった。ＡＩは生きていないから、意味などとは無縁である。無理に意味と関連づけようとすれば、人間のほうがＡＩに近づき、他者の指示通りに動くロボットにならなければならない。結局それが、シャノン理論にもとづいて人間を機械部品化する超人間主義の実体なのだ。

ところで、基礎情報学はネオ・サイバネティクスとくにオートポイエーシス理論をベースにしているが、それと同一ではない。生物がオートポイエティック・システムであり、閉鎖系だとすれば、いったいいかにして情報は伝達されるのか。実際、オートポイエーシス理論において情報概念は除外されているのである。しかし、もし情報がなんらかの意味を皆で共有するためのものであり、コンピュータもその道具だとすれば、情報伝達という概念をオートポイエーシス理論と接合させる必要がある。それを可能にするのが基礎情報学の核心である階層的自律コミュニケーション・システム（ＨＡＣＳ）というモデルなのである（詳しくは、西垣（2004; 2008）を参照）。こうして、生物と機械にまたがる情報という概念がひとまずできあがる。少なくとも、ＡＩ社会を本気で考えるなら、情報の意味をめぐる基礎情報学的な議論を念頭におかないと迷走してしまう。

基礎情報学は、私だけが個人で構築したものではない。むしろ、東京大学大学院情報学環のアウトプットとして位置づけられる。二〇一三年に私が東京大学を定年退任してのちは、転職先の東京経済大学を中心に毎月ネオ・サイバネティクス研究会が催され、興味のある研究者にひろく間口をひらいて検討をつづけている。その成果の一部はすでに二〇一四年、『基礎情報学のヴァイアビリティ――ネオ・サイバネティクスによる開放系と閉鎖系の架橋』（東大出版会）にまとめられた。

このたび、第三次ＡＩブームの勃興をうけて新たに編纂したのが『基礎情報学のフロンティア――人工知能は自分の世界を生きられるか？』である。そこでは、幾つかの新たな試みがなされた。まず、社会調査にもとづく実証研究とのリンクである。理論のための理論であっては、社会的有効性はかぎられる。基礎情報学と社会心理学との融合は難しいにせよ、両者に共通のベクトルを見出していく努力は期待がもてる。また、ＡＩと関連して、若手研究者による斬新な切り口がひらかれた。いま話題を集めているＡＩの倫理についての考察、身体感覚への工学的アプローチによる興味深い実験などだ。さらに、ＡＩでつねに問題となる「自律性概念」への一歩つっこんだモデリングや、ＡＩで無視されがちな「生命の燃焼」についての文学的議論も収められている。

私が同書で試みたのは、超人間主義の哲学的基盤への問いかけである。一口でいうと、ボストロムやカーツワイルの超人間主義はいわゆる素朴実在論（naïve realism）に立脚している。これは、物質的な世界が客観的に実在しており、そこにわれわれ人間が参加している、という考え方だ。そして、科学的に世界を探究し、技術的に改善していくことができる、という信念がうまれる。とすれば、人間の脳より高速のコンピュータによって超知性体が生まれるという仮説も出てくるだろう。

しかし、この素朴実在論は、「そういう世界観も、科学技術も、人間がつくっているじゃないか」という大前提を忘れている。実際、人間は自分の枠組みを通してしか世界を認識できないという批判はカントによってなされ、近代哲学はこの相関主義的な批判をふまえて構築されてきたのだ。だから、ただの機械であるＡＩが世界を認識し記述することなどできるはずもない、というきびしい非難がヒューバート・ドレイファスら哲学者から浴びせられたのも当然である。

だが、最近、カント以来の相関主義的な哲学に挑戦する新たな哲学者たちが現れた。代表はカンタン・メイヤスーであり、その思弁的実在論においては、数学的なモデルが正確に世界を記述しているという命題が吟味される（メイヤスー（2016）参照）。もし、人間というフィルターを介さずに世界を分析し記述できるなら、超人間主義者が喧伝する超知性体が生まれる余地が出てくるのだろうか？

同書において、私はＡＩに関するこういった哲学的疑問を投げかけてみたのである。はたして回答はいずこに……。

参考文献

・ボストロム，N.（2017）『スーパーインテリジェンス』倉骨彰訳，日経新聞出版

・ドレイファス，Ｈ．Ｌ．『コンピュータには何ができないか』黒崎政男ほか訳、産業図書

・カーツワイル，Ｒ．（2007）『ポスト・ヒューマン誕生』井上健監訳，ＮＨＫ出版

・マトゥラーナ＆ヴァレラ（1991）『オートポイエーシス』河本英夫訳，国文社

・メイヤスー，Ｑ．（2016）『有限性の後で』千葉雅也ほか訳，人文書院

・西垣通（2004）『基礎情報学』ＮＴＴ出版

・西垣通（2008）『続　基礎情報学』ＮＴＴ出版

・西垣通（2018）『ＡＩ原論』講談社選書メチエ

・西垣・河島・西川・大井編（2014）『基礎情報学のヴァイアビリティ』東大出版会

・シャノン，Ｃ．Ｅ．（2009）『通信の数学的理論』植松友彦訳，ちくま学芸文庫