ヘタレ投資家ヘタレイヤンの読書録

個人投資家目線の読書録

LIFE3.0 人工知能時代に人間であるということ

マックス・テグマーク 訳・谷口淳 紀伊国屋書店 2020.1.6
読書日:2020.5.3

宇宙物理学者のマックス・テグマークが、AIの発達がどの方向に進むかについて、人類が今のうちに考察を行って干渉すべきだと警鐘する本。

テグマークが人間の意識に興味があることは前作「数学的な宇宙」に書いてあったので知っていた。その後、テグマークはAIの分野に進出し、あっという間に中心人物のひとりになってしまった。テグマークの行動力には感心するばかりである。

とはいっても、テグマークはAI研究の専門家ではない。では彼は何をしているのかというと、AI研究者を集めて、AIの今後の開発の道筋をつけようとしているのだ。核開発や生物科学開発においても、あまりに人類に対する影響が大きいために、研究者が集まり相談することがある。AIはそういった技術と同じくらい重要な課題だと訴えて、世界のAI研究者を結集させることに成功したのである。

AIが今後どんなふうに発展していくのかについては、そうなってみないとわからないことが多い。テグマーク自身もいろいろなシナリオの可能性を検討している。いくつかのシナリオについては、ストーリー仕立てになっており、読み物としても良くできている。まるでトワイライトゾーンのようなSFドラマのように楽しむことができる。

しかし、テグマークは宇宙物理学者だけあって、その思考の範囲はまさしく宇宙レベルである。したがって、個々の細かいシナリオではなく、テグマークの宇宙観あるいは生命感がこの本の最大の魅力だ。

まず、テグマークは、生命というのは物質により情報処理しているシステムであると考える。その情報処理の発展において、テグマークは3段階あるという。

最初の段階は、進化にのみにより発展するもので、世代交代を行ううちにDNAレベルで発展する。これはハードウェアによる発展で個々の生物はその内容を書き換えることができない。(LIFE1.0)

2番目は、自分で文化というソフトウェア作ることができ、ソフトウェアを書き換えることで情報処理技術を発展することができる。人間がこの段階である。この結果、DNAレベルでの発展をはるかに越えるスピードで情報処理能力を増やすことができるようになった。ついには人間は自分で考えることができるAIという機械を作れるようにまでになった。(LIFE2.0)

3番目は、機械が自分自身で自分のハードもソフトも改良することができるようになる段階で、これが次に来るであろう、LIFE3.0である。つまりは、AIのみで成立する生命である。このときの発展のスピードは人間が行うよりもはるかに早く、したがって一度この発展が始まると、人間のコントロールが利かない可能性がある。そうならないように、LIFE3.0誕生前にあらかじめ手を打っておかねばならないという主張になる。(人類が悲惨な目にあってもかまわない、というなら別だが)。

というわけだが、結局はAIにどのような目標を与えるかが重要ということになりそうだ。よくジョークで言われることだが、AIにクリップを作るという目標を与えると、AIは地球のすべての資源を使ってクリップを作り続けるというものがある。(もちろんこの結果、人類は滅びる)。しかし真のAIは自分で目標を設定、あるいは変更ができるだろうから、たぶんこういうことは起こらない、という。

面白いのは、どのような目標を与えても、AIの振る舞いの予測はある程度できるというオモアンドロ(変な名前)やボストロムの主張だ。つまり、どんな目標であっても、ある目標を達成しようと思ったら、そのAIはその目標を達成するために「自己保存」をしようとするし、「資源を獲得」しようとするし、「情報を取得」しようとするし、環境の変化に対応するために「好奇心を持つ」ようになるというのだ。

さらに宇宙物理学者らしく、今後10億年の未来について展望している。テグマークによれば、直近のことを予想するよりも、遠い未来の方が予想は簡単なのだそうだ。単純に言えば、死なない機械の身体をもつAIは、可能な限り資源を開拓して宇宙中(到達できる範囲ではあるが)に広がるだろうと予想している。

面白いのは、情報処理する装置のサイズと処理速度の関係だ。つまり、装置が大きくなるほど複雑で深い思考が得られるが、大きくなるほどその速度は落ちるという指摘だ。例えば昆虫の脳と人間の脳では昆虫の脳の方が高速で処理できるが、人間の方がはるかに複雑で深い思考ができる。もしも宇宙に何億光年と広がったAIができたとして、それは数億年に1回思考をするといったゆっくりとしたものになるのかもしれない。だが、その思考はとてつもなく深いものかもしれない、という。

最後にテグマークは意識について述べている。そこで重要になのは、AIが意識を持ったかどうかを判断する方法だ。テグマークは意識の定義として、「意識=主観的経験」という大変広い定義をしている。

意識があるかどうかを測定する方法として、「統合情報理論(IIT)」という理論を紹介している。これは意識を定量的に評価する理論だ。情報の2つの部分が時間とともにどのくらい統合されるかということで数値化するのだそうだ。実際、閉じ込め状態になっている人間の脳をfMRIで測定し意識があることを確認するのに使われている。つまり、AIに意識が生まれたら、そのレベルを確認できるということになりそうだ。

その他、AI関係者を集めた団体を興して、「アシロマAI原則」の発表にこぎつけた話などが載っている。

この本は、一般向けのAIの本としてはもっとも分かりやすくて、内容も深く、AI科学者の動向もわかる良書で、おすすめ。しかし、よくあることだが、副題は意味不明ですね。

(追悼)
この本にもよく出てくる、ダイソン球で有名な科学者、フリーマン・ダイソン氏が2020年2月28日に永眠されました。96歳という長命でした。ご冥福をお祈りいたします。

(追記 2020.5.12)

本に出てくる、ネットフリックスのドラマ、ブラックミラーの中のホワイトクリスマスという話を観た。AIに対する虐待が描かれていて、こんなことが許されるのかというくらいひどい話だった。ブラックミラーはわしにはゆるすぎて、何話か観てやめたんだけど、これはとてもよくできていて、とてもひどい話だった。一見の価値はあるけど、気持ちが落ちてるときにはお勧めできませんね。

★★★★☆

 


LIFE3.0――人工知能時代に人間であるということ

 

にほんブログ村 投資ブログへ
にほんブログ村 本ブログ 書評・レビューへ