AIが核兵器を発射することを防ぐ法案がアメリカで提出される

映画「ターミネーター」シリーズを見たことがある人の中には、AIであるスカイネットが反乱し核兵器を使用したことで起きた核戦争の描写が印象に残っているという人も多いはず。このような未来を回避するため、アメリカの超党派議員らのグループがAIによる核兵器の使用を禁止する法案についての議論を開始しました。

Bipartisan US Bill Aims to Prevent AI From Launching Nuclear Weapons
https://www.commondreams.org/news/artificial-intelligence-and-nuclear-weapons

国防総省は、2022年度の核態勢の見直しで「大統領による核兵器使用の開始と終了の決定に情報を提供し、また実行するために重要なすべての行動に関する重要なグループのメンバーは、引き続き人間によるものとする」という方針を打ち出しています。

アメリカのエド・マーキー上院議員は2023年4月26日に、この国防総省の指針を成文化する法案である「Block Nuclear Launch by Autonomous Artificial Intelligence Act(自律型人工知能による核発射阻止法案)」を、下院議員のテッド・リュウ氏、ドン・ベイヤー氏、ケン・バック氏らと共同で連邦議会に提出したことを発表しました。

マーキー上院議員は声明の中で、「ますますデジタル化していく時代に生きる私たちは、核兵器を指揮、制御、発射する力をロボットではなく人間が単独で持つようにする必要があります。だからこそ、この法案を議会に提出できたことを誇りに思います。核兵器のような最も危険な兵器による、生死に関わる武力行使の決定を下すには、常に人間が関与しなければなりません」と話しています。

また、リュウ氏はTwitterへの投稿で「AIは素晴らしいもので、私たちの暮らしをより良くしてくれていますが、私たちを殺すこともできます。AIがどんなに賢くなったとしても、核兵器をコントロールできるようにしてはなりません。そこで私たちは、あらゆる核兵器の発射に人間を必要とする超党派の法案を提出しました」と述べました。

すでに、AIによる核兵器の使用はSF映画のシナリオにとどまらない現実的な脅威となりつつあります。スタンフォード大学人間中心AI研究所(Stanford Institute for Human-Centered Artificial Intelligence)が発表した「2023 AI Index Report」によると、調査対象となったAI専門家の36％が「自動化システムが核レベルの大惨事を引き起こす可能性がある」との懸念を持っていたとのこと。

「AI開発で企業は学会よりも先行」「AIは環境を助けると同時に害も」「世界最高の新人科学者はAI」「AIの悪用に関するインシデントの数は急速に増加」などAIの実態をレポートする「AI Index Report 2023」をスタンフォード大学が公開 - GIGAZINE

また、政策提言団体である軍備管理協会(Arms Control Association)が2023年2月に発表した報告書でも、「AIや致死的な自律型兵器システム、極超音速ミサイルを含むその他の新興技術は、人類の存亡にかかわる脅威をもたらすため、兵器への転用のペースを遅らせるための対策が必要」と強調されています。

バック氏は発表の中で、「アメリカ軍によるAIの使用は、国家安全保障の上では適切な場合もありますが、人間の指揮命令系統にはない核兵器をAIで管理することは無謀であり、危険であり、禁止されるべきです」と述べました。