無人の兵団 -AI、ロボット、自立型兵器と未来の戦争

ポール・シャーレ 伏見威蕃・訳 早川書房 2019.7.20
読書日:2019.11.6

この本は1983年に起こった衝撃的な話から始まる。

まだソ連が存在し、米ソ冷戦が現実だったとき、ロシアの早期警戒システム・オコ(目)は米国が核ミサイル5発を発射したことを捉えたのだ。このとき現場を仕切っていたペトロフ中佐は反撃するかどうかの判断を迫られた。

ペトロフ中佐は考えた。もしも米国が攻撃してくるのなら、5発だけということはありえない。徹底的に相手を粉砕しないと、反撃を食らうからだ。彼は常識的な判断をした。システムが不具合を起こしているに違いない、と。

それは正しい判断だった。衛星が雲に反射した太陽光をミサイルの発射と誤認したのだった。

ここで作者のポール・シャーレは問いかける。もしも、このシステムが人間の判断を介しない完全に自動的なシステムだったらどうなっていたか。当然、システムはプログラム通りに反撃を行い、世界は全面核戦争に突入しただろう。常識的な判断を行う人間がいたから危機は避けることができた。

本書のテーマは、AIやロボット工学はますます発展し、兵器は自動化、自律化が進んでいるなかで、人間がどのように関わるべきか、というものである。端的にいうと、人間でなくAIに人を殺すことを判断させていいのか、ということである。

普通の人間の感情として、ほとんどの人はAIに判断させるべきでないと考えるだろう。だが、敵がそのような非情な機械を作ったときに、対抗措置としてこちらもそのような機械を作らなくていいのだろうか? そうしないと肝心の戦争で負けてしまうのではないだろうか。

しかも、人間には判断できないようなスピードで攻撃されたら? たとえば、超高速のミサイルが多数攻撃してきたら、人間には対応できず、機械に任せざるを得ないだろう。

味方との通信が途絶し、兵器が自分で判断せざるを得ない状況に追い込まれるときもある。そのとき、機械は自分の判断で敵を攻撃していいのか。

いろんな場合があり得るが、結論として、著者は人間が決定から外れることを否定する。ではどうすればいいのだろうか。

人間が関与しない自動機械による殺人は非人道的であるとして認めない、という戦争のルールを作るしかない、というのが作者の結論である。これまでにも、非人道的であるという理由で禁止に成功した兵器(たとえば地雷)もあるから、ありえない話ではない。

さて、この本ではもちろんAIについての現状も報告されている。いま碁などのゲームでは人間を打ち負かす程のAIが出現している。しかし、常識的な判断ができる、つまり全面核戦争を防いだペトロフ中佐のような判断ができるような汎用的なAIは、当面出現する見込みがなさそうである。

また、AIは非常に騙されやすいという話も出てくる。画像認識でも簡単にごまかすことができる例が多数出てきて、画像認識で確認したから攻撃、というわけにもいかないことは明らかだ。わしは画像認識がこんなにごまかされ易いと知って大いに驚いた。

ポール・シャーレはアフガニスタンイラクに従軍した本物の軍人で、軍人らしい文章に非常に好感がもてた。なんかごつごつと現実を手で触って、ちぎり取ってくるような、そんな文章なのである。

★★★★★


無人の兵団 AI、ロボット、自律型兵器と未来の戦争

にほんブログ村 投資ブログへ
にほんブログ村 本ブログ 書評・レビューへ