ドローンについての本を本屋で探していたら、
黒と黄色の表紙が目に入り、あのビルゲイツも推薦する本とのことで、
購入してみました。
約600ページある大作です。
(100ページくらいは引用文献の内容ですが・・・)
著者は米陸軍レンジャー部隊でイラクやアフガニスタンなどで出征経験のある元軍人で、
今は自律型兵器に関する法的・倫理的課題と政策の研究を行う軍事アナリストの方です。
ドローンの関連の本かと思ったら、
戦争を行う上で、攻撃の決定を機械に委ねることの是非を論じた本でした。
初めに「自律」の概念が解説されています。
半自律、完全自律、オートメーションとは何ぞやと定義が述べられ、
その時の人間と機械の関係、機械の意思決定が非常に精密であることが書かれています。
次に自律型兵器の開発状況について述べられています。
AIを利用して性能の改善を図り、各国が研究を進め、
自立した兵器の精度がどんどん高まっており、色々なタイプの兵器が紹介されています。
その中で英米など情報開示している国がある一方、閉鎖的な国家(独裁的な国家)は
情報開示されておらず、無秩序な自律型兵器の軍拡競争について警鐘を鳴らしています。
そして、自律型兵器そのものの危険性についても指摘されています。
テストが充分ではないまま導入されたり、
オペレーターが訓練されていないこと等が原因となって、
自律システムは失敗を犯すことがあり、
また、ハッキングにより想定外のターゲットを
攻撃するよう仕向けられるなども考えられ、悲劇を引き起こす可能性が指摘されています。
間違いによる悲劇を起こすことについては、自律型兵器の倫理問題についても述べられ、
著者の経験にも触れながら、戦争の道徳や責任を機械に転嫁する是非について、
問いかけています。
戦場では、常識を尊重しルールに逆らって行動した方が
良い結果をもたらす場合もあるが、
自律型兵器はただただルール(プログラム)に従って行動するだけであり、
これが人類的な悲劇を生んでしまうと書かれています。
そこで、最後には各国で取り組むべき、
自律型兵器の具体的な規制方法について取り上げています。
過去の条約から、危険で非人道的な兵器の使用を控えることの必要性を説いています。
自律のどういう応用が適切であるか各国は意見を一致させるべきではと訴えています。
自律ロボットの話には必ずと言っていいほど話題に上る、映画『ターミネーター』。
AIがこれだけ普及してきている時代において、
スカイネットが自我に目覚めるということがフィクションだけの世界では、
なくなってきています。
AIまわりの議論が兵器という極論で語られていますが、
ゆくゆくの民生品の産業、家庭用AIロボットでもこの議論は通る道ではないかと思います。
本書は兵器、テクノロジー系に興味がないとなかなか読破するには
難しいかもしれませんが、 内容は丁寧に書かれているので、
世界の流れとして是非読んでみてください。
※以下、アフェリエイト広告を使用しております。
にほんブログ村
にほんブログ村
