ユヴァル・ノア・ハラリのNEXUSを読んだのだが、読みながら思ったことがあるので、ここに記しておこうと思う。
まず、上巻の情報の人類史に関しては、非常によくまとまっていて、感心した。さすがは稀代の歴史家だなあ、という感じがした。
しかし下巻のＡＩ（エイリアン・インテリジェンス）に関するところでは、どうもちょっと違和感を感じながら読んでいた。それはこんなところである。
これまで筆記や出版という情報テクノロジーが発展して、人々の協力の範囲が非常に広がり、国家全体に物語が行き渡るようになった。このような情報はこれまでは情報は人間が作っており、人々が理解できる内容で構成されていた。しかしコンピューターのアルゴリズムにより情報が作られるようになると、それは人間の作る情報とまったく異なるエイリアン・インテリジェンスであるから、わしらには理解できないブラックボックスであり、これがどのような影響を与えるかまったく予想がつかない……といったところである。
はて。わしらはこれとそっくりな話を聞いたことがあるのではないだろうか。たとえば複雑怪奇な官僚制の話とか、何をやっているのか正体不明な巨大企業の事業の話とか、そんな話として。
近代国家が誕生して以降、軍隊をモデルにして、これまでにない巨大な組織が誕生したことはよく知られたことである。そして、この巨大組織で何が行われているのかは傍目からはブラックボックスであり、そのようなものは恐ろしく、巨大な組織のどこかで人々に壊滅的な影響を与えるような決定がくだされるかわかったものではない、というようなディストピア的な物語はよく聞かされたのではないだろうか。
また、わしらはこの世界が複雑系であることをよく知っている。いわゆるバタフライ効果と呼ばれるもので、蝶の小さなはばたきが巡り巡ってとんでもない影響を与える可能性があることを知っている。このような複雑な世界ではブラック・スワンともロングテールとも呼ばれる、非常に確率は低いが従来あり得なかった現象が起きることも、よく知られている。複雑系においては世の中はすでに予測不可能なほど複雑なのである。
つまり何が言いたいかというと、わしらの世界は、ＡＩ登場以前に、もう十分、理解不能なブラックボックスに取り囲まれているということである。すでにブラックボックスは飽和気味である。
わしらは誰一人全知全能ではないのだから、誰も世界全体を知っているわけでない。認知の限界というものをもっている。認知の限界の外で起きることはすべてブラックボックスである。そうすると、人は石器時代の昔からブラックボックスを含んでいる世界で暮らしていたとも言える。
ブラックボックスで何が起きているのかは、最初はわしらは分からない。わしらがそれに気がつくのは、そのブラックボックスで起きた現象が、社会に大きな歪みを創り出し、わしらに重大な影響を与えたときである。このとき、初めて問題を認識する。そして、もし原因が分かるようならその原因を取り除くことを考えるし、原因がわからなくても対症療法を行うだろう。たいていはこれまで試されていなかった、前例のない対応になるだろうが。
もしそうなら、たとえＡＩがなにかしでかしたとしても、わしら人間の対応は同じになるだろう。はじめのうち、わしらはそのＡＩが創り出した情報がどんな影響を与えるかは気がつかない。ようやく分かるのはそれが大きな歪みとなって世界に現れた場合だけである。原因が分かる場合も、分からない場合もあるだろう。しかしわしらは歪みを取り除くべく、何らかの対応をする。
もしかしたら、コンピューターが絡むと、その歪みの広がるスピードはより急速になるかもしれない。またコンピューターによって作り出される情報量は桁違いになり、その結果、歪みの発生する頻度は高くなるのかもしれない。しかし、対応の仕方は同じになるはずだ。エイリアン・インテリジェンス（ＡＩ）だから、人間には理解できない思考をするのかもしれないが、なにか大きな歪みとして現れない限りは、それは無視していい。というか、そもそもそうなる以前に認知することは不可能なのだから。
ここでは、すでにコンピューターに翻弄されている金融市場が参考になるだろう。金融は、この本で、ハラリがもっともＡＩの影響を受けるだろうと言っている領域でもある。
金融市場ではときになんの理由もなく価格が急落することがある。いったん下がると、売りが売りを呼び、大幅に下がることがある。現代ではコンピューターが自動売買を行うため、その急落の速度はとても早く、あっという間である。１９８７年のブラックマンデーでは、何らかのきっかけで株価が下がりだすと、すぐに２０％程度下げてしまった。コンピューターの自動売買の影響が大きかったと言われている。
だが、もし、いま、同じことが起きたら、これほどの影響はないだろうと予想できる。まずサーキットブレーカーの制度があり、所定割合の急落が起きたら取引は一定時間中止となる。これは仕組みによる対応だ。もう一つは、この急落がコンピューターの自動売買による意味のない急落と判断されると、別のコンピュータにより反対売買が行われ、衝撃が和らぐ可能性が高い。価格の急落はどうやって起きたのかは永遠にわからないかもしれないが、サーキットブレーカーのような仕組みやカウンター売買するコンピューターにより歪みは解消される方向にむかうだろう。
今後、ＡＩは人間の生活のあらゆるところに使われる。いろんな影響があることは間違いない。しかし、独立したＡＩを分散化し、カウンターとなるＡＩがあれば、なにかブラックスワン的な、ロングテール的な悪影響があっても緩和されるだろうし、緩和するような制度も作ることができるだろう。人類が一瞬で消滅させられるような事態にならない限り、なんとかなるのではないだろうか。これは結局、生物の免疫系を構築するのと似たようなイメージになるだろう。
というわけで、人類はずっとブラックボックスに対応してきたのだから、ＡＩによるブラックボックスでもなんとかなるのではないだろうか。ＡＩだろうがなんだろうが、この世ではブラックスワン的な前例のないことが起きるリスクは常にあると達観するしかない。それは起こるのである。そして、もしそうなっても大体は対処できるはずだ。わしらはずっとそうやってきたのだから。
