ヘタレ投資家ヘタレイヤンの読書録

個人投資家目線の読書録

新基礎情報学 機械を越える生命

西垣通 NTT出版 2021.6.21
読書日 2021.9.7

生命と機械は別の情報システムであり、コンピュータから人間を越えるスーパーインテリジェンスが誕生する可能性はなく、生命を中心とする新しい情報学が必要と主張する本。

2010年代に入ってからシンギュラリティという言葉が氾濫し、AIが人間を越えるということが言われている。しかし、西垣は生命とコンピュータでは情報システムがそもそも異なるために、いまのコンピュータを使ったシステムでは、その可能性はないという。

西垣によれば、情報システムには「コンピューティング・パラダイム」と「サイバネティック・パラダイム」の2つがあり、コンピュータは前者であり生命は後者であるという。したがって前者のシステムがいくら発達しても後者にはならないので、そもそも越えるとか越えないとかの考え方自体がおかしいということになる。

では両者のシステムでは何が異なるのであろうか。

コンピューティング・パラダイムはシャノンの情報理論で取り扱われているような情報に限定されているものだ。シャノンの情報理論は情報をいかに効率的に誤りなく伝送するかということを検討するが、その中身は問わない。つまり量だけが問題なのであって、その「意味」を問わないのである。

致命的なのは、このシステムでは、自己言及の命題に対応することができないことだ。自己言及の命題とはたとえば「わたしは嘘つきです」というような言明のことで、イエスといってもノーといっても矛盾するので、どちらとも判断できない命題のことだ。これは数学的にはゲーデル不完全性定理、プログラム的にはチューリングの停止問題(あるプログラムが停止するかどうかを判断することはできない、という問題。自己言及の判断がプログラムに含まれていると、正誤のどちらの結果になるかわからないので、判断不能になってしまう)として知られる。

しかし、いまAIは大流行である。では、いまのコンピューティング・パラダイムで流行っているAIとはどういうものなのだろうか。これは大量のデータを統計的に処理することで、たぶんこれが一番確からしいだろうと判断しているだけで、何か意味を捉えて判断しているわけではないのである。つまり大量のデータに支えられた疑似知性なわけだ。

コンピュータはデータを処理するが内容の意味を理解しているわけではないということはこれまでさんざん言われてきたことだが、西洋でコンピュータの知性が現れるという幻想が何度も現れるのは、西洋の一神教の考え方が根本にあると西垣はいう。つまり人間を超えた存在「トランス・ヒューマニズム(超人間主義)」への信仰なのだという。

では、生命の知性に対応する「サイバネティック・パラダイム」とはどういう情報システムなのだろうか。

生命の知性のあり方は、主体的に周囲を観測して自律的に知の構成を変更するような知性だという。つまり、神の座から見ているような客観的な状態を仮定するのではなく、自分で観察可能な範囲を観測した結果で世界のルールを自分で構築するような主観的な知性だ。これはカントやフッサールの哲学に対応する考え方だという。

面白いのは、この知の主体が作る知識体系が独善的なものにならないように、主体的な観察者を観察するもう一つの主体を仮定していることだ。これを「2次サイバネティクス」というんだそうだ。たしかに自分を振り返ってみても、自分を観察している自分がいることは明らかなように思える。(これが意識?)。コンピューティング・パラダイムでは自己言及の矛盾を解決できないのに対して、サイバネティック・パラダイムではシステム自体が自己言及的な構造を持っているのである。

こういうことをまとめて、マトゥラーナ、ヴァレラが「オートポイエーシス(自分で自分を創る)理論」を1980年に発表して、大きな影響を与えているという。

しかし、オートポイエーシス理論の指し示すのは孤立した知性の主体(APSとこの本では呼ばれている)なのであり、孤立した主体同士がどうやってコミュニケーションをとっているかという問題が起こる。コミュニケーションをとらないと情報論とは言えない。ところがそもそも閉鎖的なAPSがお互いにコミュニケーションを取ることが自己矛盾になってしまう。それを解決したルーマンの機能的社会文化理論が紹介されているが、これは意味を作り、送られた情報を解釈する主体をカッコに入れて見えないようにして一見もっともらしくしているような理論なんだそうだ。

これは不完全な理論なので、西垣は「HACS(階層的自律コミュニケーションシステム)」というのを提唱している。そこでは個々のAPSは自律していながら、ある階層では他律のシステムのように見える、そんなシステムなんだそうだ。他律的に振る舞う階層ではコミュニケーションが可能になる。これは、たとえば会社員が会社では役割にしたがって、他律的に行動することに対応しているという。

まあ、こういう議論はそれなりに興味深いし、最近流行りのマルクス・ガブリエルの新実存主義との比較も興味深いけれど、やはり読んでいると隔靴掻痒の印象が免れない。

だって、サイバネティック・パラダイムの知性の特徴は分かったけれど、それってこのままじゃ実装できないじゃんってことになる。つまり人工的にこの知性を作り出せない。そもそもこの知性の主体がどうやって観察結果から意味を作り出しているかという肝心なところがさっぱりわからないんだから、できなくて当然なんだけど。

生物が意味をどうやって得るのかという点は、多くの研究者の努力でも、いまだに謎なのであって、それがわかればとっくにやっているよ、という状態なのだ。

では「意味」とはなんだろうか。西垣によれば、結局それは、「生物にとっての価値/重要性」なのだそうだ。それはまあ、理解できる。しかしまだ根本的な問題が残っているんじゃないだろうか。

つまり、こういう問題だ。

そもそも生物はなぜ生きようとするのだろうか?

(メモ1)
この本は、実はユヴァル・ノア・ハラリの「ホモ・デウス」への反応として書かれているのだが、レビューはわしの興味に従って書いた。そこでこの部分をメモに残しておく。

「ホモ・デウス」では人間は神の領域に迫るが、人間至上主義からデータ至上主義と言われるような世界になり、AIが自分で情報を作り出せるようになると人間は存在意義を失って滅亡するかもしれないという未来が描かれる。

しかし、現在のコンピューティング・パラダイムのもとではそのような新しい情報を作り出すような知性はできないのだから、人間がいなくても成り立つ自律的なAIは生まれないだろう。

しかし、人間はAIにはできない意味解釈を行うエンジンとして存在する可能性がある。ここでは人間は尊厳を失い、単なる機械の部品として存在するだけなのだ。

つまりハラリの想定するルートではないが、やはりデータ至上主義のようなディストピア的な未来が実現してしまう可能性があるわけだ。

AIはあくまでも人間の思考の補助であるという制度的な議論が必要だ、と西垣はいうのだが。

(メモ2)
西垣さんは、あらゆる分野に目配りして、それを端的にまとめ上げる力がすごい。マルクス・ガブリエルの新実存主義のまとめ方も素晴らしい。新実存主義の問題点について西垣さんはどういっているのだろうか。

西垣さんは新実在論は科学的知見と人文社会的な知見をあまりに峻別しすぎるという。両者はそんなに明確に区別できないというのだ。

マルクス・ガブリエルは、客観的な科学的知識と人間の幻想などのようなイメージも意味の場として存在すると言っている。それは正しいが、そうするとその両者を区別する境界が必要になる。しかし、それは難しい。科学的な言明なら確認できるから、客観的な知識と言えるというが、実際にはそのように簡単にいかない。一見すると科学的な言明も不明確な主観に依存することが少なくなく、知識とイメージの境界は揺らいでいるという。

(だから自分の情報基礎論が必要、と続く(笑))。

★★★★☆

 

にほんブログ村 投資ブログへ
にほんブログ村 本ブログ 書評・レビューへ