AIに戦争の意思決定を任せると、核戦争にエスカレートしやすい 自己保存の本能がないため、ためらいなくエスカレートさせる

《ニュース》

人間が采配を振うよりも、AIは戦争を容易にエスカレートさせ、核戦争にもためらいがないことが、兵棋演習(ウォーゲーム)を使ったリスク検証で判明したと、オーストラリア戦略政策研究所(AFPI)がこのほど指摘しました。

《詳細》

戦争が高度化・複雑化・高速化する中、AIを戦争の道具に取り入れる流れは世界的に強まっており、AIに重要な意思決定をどの部分まで許容するのかについて、論争が起きています。例えば、人間が関与することなく、目標を選定して攻撃する自律型致死兵器(LAWS)に関する議論をめぐり、国連では、アルゴリズムが生死に関わる決定を完全に制御すべきではないことが強調されています。

そうした中、今回のウォーゲームにより、人間とAIの違いが浮き彫りとなりました。人間にとって、戦争は自らの意思を相手に強制する手段であり、本能的に自己の生命を守ろうとします。ところが、AIは人間の自己保存欲に拘束されないため、外交や軍事上の重要な意思決定の際、「人間よりも、紛争を物理的な戦争、さらには核戦争にまでエスカレートさせる可能性が高い」とAFPIは指摘します。つまり、AIは"最大の成果"を出すのであれば、人を大量に殺すというリスクを軽視する懸念があります。

迅速に処理できるAIが普及するにつれ、AIを誤情報やバイオテクノロジーなどに取り入れれば入れるほど、人間の関与が薄れ、監視の目も離れてしまい、結果的にAIが暴走する可能性もあります。

《どう見るか》