ポール・シャーレ 伏見威蕃・訳 早川書房 2019.7.20
読書日：2019.11.6
この本は１９８３年に起こった衝撃的な話から始まる。
まだソ連が存在し、米ソ冷戦が現実だったとき、ロシアの早期警戒システム・オコ（目）は米国が核ミサイル５発を発射したことを捉えたのだ。このとき現場を仕切っていたペトロフ中佐は反撃するかどうかの判断を迫られた。
ペトロフ中佐は考えた。もしも米国が攻撃してくるのなら、５発だけということはありえない。徹底的に相手を粉砕しないと、反撃を食らうからだ。彼は常識的な判断をした。システムが不具合を起こしているに違いない、と。
それは正しい判断だった。衛星が雲に反射した太陽光をミサイルの発射と誤認したのだった。
ここで作者のポール・シャーレは問いかける。もしも、このシステムが人間の判断を介しない完全に自動的なシステムだったらどうなっていたか。当然、システムはプログラム通りに反撃を行い、世界は全面核戦争に突入しただろう。常識的な判断を行う人間がいたから危機は避けることができた。
本書のテーマは、ＡＩやロボット工学はますます発展し、兵器は自動化、自律化が進んでいるなかで、人間がどのように関わるべきか、というものである。端的にいうと、人間でなくＡＩに人を殺すことを判断させていいのか、ということである。
普通の人間の感情として、ほとんどの人はＡＩに判断させるべきでないと考えるだろう。だが、敵がそのような非情な機械を作ったときに、対抗措置としてこちらもそのような機械を作らなくていいのだろうか？ そうしないと肝心の戦争で負けてしまうのではないだろうか。
しかも、人間には判断できないようなスピードで攻撃されたら？ たとえば、超高速のミサイルが多数攻撃してきたら、人間には対応できず、機械に任せざるを得ないだろう。
味方との通信が途絶し、兵器が自分で判断せざるを得ない状況に追い込まれるときもある。そのとき、機械は自分の判断で敵を攻撃していいのか。
いろんな場合があり得るが、結論として、著者は人間が決定から外れることを否定する。ではどうすればいいのだろうか。
人間が関与しない自動機械による殺人は非人道的であるとして認めない、という戦争のルールを作るしかない、というのが作者の結論である。これまでにも、非人道的であるという理由で禁止に成功した兵器（たとえば地雷）もあるから、ありえない話ではない。
さて、この本ではもちろんＡＩについての現状も報告されている。いま碁などのゲームでは人間を打ち負かす程のＡＩが出現している。しかし、常識的な判断ができる、つまり全面核戦争を防いだペトロフ中佐のような判断ができるような汎用的なＡＩは、当面出現する見込みがなさそうである。
また、ＡＩは非常に騙されやすいという話も出てくる。画像認識でも簡単にごまかすことができる例が多数出てきて、画像認識で確認したから攻撃、というわけにもいかないことは明らかだ。わしは画像認識がこんなにごまかされ易いと知って大いに驚いた。
ポール・シャーレはアフガニスタンやイラクに従軍した本物の軍人で、軍人らしい文章に非常に好感がもてた。なんかごつごつと現実を手で触って、ちぎり取ってくるような、そんな文章なのである。
★★★★★
