ニューハンプシャー州での米大統領選予備選の投票を控えた1月の週末、同州とニューイングランド州の有権者のもとにバイデン米大統領になりすましたディープフェイクの自動音声通話（ロボコール）がかかってきた。
声や話し方はバイデンを思わせるが、どことなく不気味な雰囲気を醸し出している。声が語った内容はまったくのデタラメ"で、予備選に投票しないよう、有権者を誘導するものだった。
「民主党に投票することの価値を、わたしたちは知っています」と自動音声は言う。「11月の本選挙に向けて、あなたの1票をとっておくことが重要です。大統領選だけでなく、連邦議会選でも民主党が勝つためには、皆さんの協力が必要です。今週の火曜日（23日）に投票しても、共和党がドナルド・トランプを再び選ぶことを可能にするだけです。あなたの1票が違いを生むのは11月で、今週の火曜日ではありません」
ニューハンプシャー州の予備選ではむしろ、投票用紙にバイデンの名前を追記して、バイデンに投票しようというキャンペーンが行われていた。民主党が今年、最初の公式予備選をニューハンプシャー州からサウスカロライナ州に変更したことの影響で、バイデンの名前がニューハンプシャー州の投票用紙に掲載されないことになってしまっていたからだ。（投票用紙に名前がなくても、手書きで名前を書き込めば有効になる）。
NBCニュースによると、このフェイク電話は、ニューハンプシャー州の元民主党委員長キャシー・サリバンの電話番号からかかってきたかのように偽装されていた。サリバンは、スーパーPAC（特別政治活動委員会）を率い、バイデンの名前を投票用紙に書きこもうキャンペーンを行っていた人物だ。サリバンやバイデン陣営、トランプやディーン・フィリップスといった共和党の対立候補に至るまで、誰もがこの自動音声通話への関与を否定している。
ChatGPTのローンチから1年で、生成AIは「雇用を奪う」「偽情報を拡散させる」可能性があるものとして、急速に議員たちの関心と懸念の的となった。バイデンを模倣したディープフェイクの自動音声通話は、こうした懸念にさらに火をつけ、AIの説明責任と透明性に関する規制が行き届かない現状を浮き彫りにしている。
「政治的ディープフェイクの到来」
「政治的ディープフェイクの瞬間が到来しました」と、プログレッシブ（進歩派）の支援団体、パブリック・シチズンの代表ロバート・ワイズマンは1月22日の声明で述べた。「急いで保護策を講じなければ、選挙は大混乱に陥ります。ニューハンプシャーの一件は、ディープフェイクがいろいろな方法で混乱をまき散らし、嘘を蔓延させることができるのだ、と思い出させる警告です」
2023年5月にX（旧Twitter）で拡散されたフェイク画像は、ペンタゴンが攻撃を受けているかのように見えるものだった。これは、生成AIによる偽画像だとみられている。このフェイク画像は、株価下落など、現実にも影響を及ぼした。
同年10月7日以降、イスラエル・ハマス間の戦闘のニュースがソーシャルプラットフォームにあふれた。多くの人々の怒りを引き起こした子どもたちの遺体や破壊された家屋といった映像の中には、フェイクも混じっており、専門家やジャーナリストはその真偽を確かめるために奔走することになった。
2023年7月、マイクロソフト、OpenAI、グーグルなど複数のテック企業が、AI加工された動画や写真にウォーターマーク（電子透かし）を入れることを自主的に決めた。10月、バイデン政権は、AI技術を開発する企業に対し、安全性などに関してさらなる指針を示す大統領令を公表した。上院多数党院内総務のチャック・シューマーはここ数カ月、AIの規制とイノベーションのバランスについて議論するフォーラムを開催し、メタ・プラットフォームズCEOのマーク・ザッカーバーグやイーロン・マスクら、テック業界のリーダーを招いて、議員たちと規制を話し合った。
しかし、こうした議論から生まれた法案はわずかだ。エイミー・クロブシャー上院議員とイベット・クラーク下院議員は、「バイデン大統領からのフェイク電話」のように、人を騙すようなコンテンツをAIで作成することを禁止する、いくつかの法案作成に関わっている。2人は、政治的な広告にAIを使ったかどうかの開示を義務付ける別法案への支援もしている。
「残念ながらアメリカ政治では、もはや偽情報はありふれたものになってしましました。しかし今の状況、つまり、誤情報と偽情報が新たな生成AIツールと一体になったこの状況は、前例のない脅威です。十分な対抗手段がどこにも整っていません」と、クラークは『WIRED』に宛てた声明で述べた。「これは民主・共和両党が共に取り組むべき問題です。事態が手に負えなくなる前に、議会がこの問題に対処する必要があります」
パブリック・シチズンのような支援団体は、クラークやクロブシャーが提案しているような政治広告の開示を義務づける新しい規則を出すよう連邦選挙委員会（FEC）に請願しているが、まだ正式な決定は下されていない。FEC委員長のショーン・クックシー（共和党）が『ワシントン・ポスト』に語ったところによると、同委員会は初夏までに結論を出す予定だという。そのころには、共和党はすでにトランプを候補者に立て、本選挙が始まっているだろう。
「民主党支持者であろうと共和党支持者であろうと、誰のメッセージかもわからないような、偽広告やロボコールを求める人はいません」とクロブシャーは1月22日、『WIRED』に語った。「この強力な技術が有権者を欺き、偽情報の拡散に使われないよう、連邦政府の措置が必要です」
法規制が追いついていない
音声の偽造は特に悪質だと語るのは、カリフォルニア大学バークレー校の情報学部教授、ハニー・ファリドだ。写真や動画とは異なり、音声には加工を見破るのに役立つ、多くの視覚情報が欠けているからだ。「自動音声通話は、通話の音質が良くないので、偽音声で人をだますのが簡単になります」
ファリドはまた、ソーシャルメディアの偽投稿とは異なり、偽電話は被害に遭いやすい高齢者層に届く危険性が高いことを懸念している。
「多くの人がフェイクだと見抜いたといっても、州の予備選レベルでは大問題です。数千票でも結果に影響を与える可能性があるからです」。ファリドは続けて語る。「もちろんこの種の選挙妨害はディープフェイクでなくともできます。しかしながら、AIを使ったディープフェイクがこうしたキャンペーンをより効果的で実行しやすくしていることには、懸念しなければならないでしょう」
自動音声通話のようなディープフェイクが安価で簡単に作れるようになったのに、具体的な法規制は遅れに遅れていると指摘するのは、テクノロジーを駆使して人権啓発を支援する非営利団体、Witnessのプログラムディレクターを務めるサム・グレゴリーだ。「（通話の音声は）もはやロボットのような声ではありません」
なお、自動音声の語ったことはデタラメで、投票を「とっておく」ことはできないし、それでバイデン側が有利になるようなことはない。
「この分野に関わっている人々は、音声が合成だということを示すために、どうマーキングすればいいのか、という課題に取り組んでいます。例えば、音声の冒頭に『AIでつくった』と明示する免責事項を入れることを義務付ける手もあります。悪意があったり、人を欺くような自動音声通話をつくったりする人なら、当然そんなことはしないでしょう」
偽音声の作成は、誰でも無料でできてしまう
オーディオコンテンツにウォーターマークが入ることになった場合、それを機械が認識できても、一般人には認識できないような形になる可能性もあると、非営利組織Partnership on AIでメディア対応の責任者を務めるクレア・リーボヴィッチは指摘する。問題解決は、ディープフェイク音声の生成に使用されるプラットフォームの善意に、依然として委ねられている。「生成ツールが、法を破ろうとする人々にとってもオープンソースであることの意味を、わたしたちは、まだわかっていないのです」
ジョー・バイデンのような公人の場合、リアルに聞こえる偽音声をつくるのに必要なオーディオクリップは、容易に集められる。
「恐ろしいことに、バイデンの声はあちこちに出回っていて、いつでも手に入れられます。既製のツールを使えば、特に技術のない人でも音声クローンを数秒で、しかも無料で簡単に作れてしまいます」と、ディープフェイクの検出技術を取り扱うReality DefenderのCEO、ベン・コールマンは語る。
「今回の件は間違いなく、アメリカの選挙に関連した多くのディープフェイクの最初の事例になるでしょう。通信事業者、プラットフォーム、そのほかのコンテンツ配信の分野には、この種のコンテンツを監視したり削除したりする法的義務すらありません」
コールマンによると、彼の会社の検出モデルは、自動音声通話が偽物だとすぐに特定したというが、ほとんどの一般人はこの種のツールにアクセスできないし、そもそも使おうとさえ思わないかもしれない。
「もしあなたが、バイデンが（今回の自動音声通話のような内容を）話している動画を目にしたとします。あなたが映像に関してリテラシーのある視聴者なら、（怪しいと思い）別のソースを探すかもしれません」。グレゴリーは続けて警告する。「しかしそれは、電話やメッセージアプリで（直接）何かを受け取るのとはまったく違うのです」
生成AIで何かを作ること自体には規制がなくとも、この種の投票妨害行動は、違法である可能性が高い。オンライン上でリッキー・ヴォーンと名乗っていたダグラス・マッキーは、昨年10月、7カ月の実刑判決を受けた。2016年の大統領選の際に自身のプラットフォームを利用して有権者を欺こうとしたためだ。検察によると、マッキーはほかの右派インフルエンサーたちとともに、クリントン陣営のハッシュタグ「#ImWithHer」を使って、電話のテキストメッセージで投票するよう促す広告を宣伝し、非白人の投票を抑制しようとしたという（電話のテキストメッセージで投票はできない）。
今後も同様の事態が続くか？
ニューハンプシャー州検事局は、今回の自動音声について「メッセージは同州の予備選挙のプロセスを妨害する不法な試みだと思われる」と指摘し、捜査中だという声明を出した。バイデンの広報担当ジュリー・チャベス・ロドリゲスは『WIRED』に対し、「今すぐ何かできることがないかを積極的に協議している」と語った。
「偽情報を拡散して、投票を抑制することや、自由で公正な選挙を意図的に弱体化させることは許されません。民主主義を弱体化させるどのような試みに対しても反撃することは、今回の選挙運動の最優先事項であり続けます」
この通話の背後に誰がいるのかは、まだ不明だ。政治キャンペーン用のAIボイスボットを開発するCivoxは、今回の一件とは無関係だと『WIRED』に語った。同社は、ペンシルベニア州選出の民主党議員シャメイン・ダニエルズの選挙運動用に、有権者の質問に電話対応するボットの作成を支援している。CivoxのCEOイリヤ・ムジカンスキによると同社は、無許可の音声を使用したり、ニューハンプシャー州で出回っているような人を欺く通話を作成したりする行為を、クライアントに禁じている。
「AIを使った選挙運動は、2024年の選挙期間を特徴づけるストーリーになるでしょう。11月が近づくにつれ、物事はもっと奇妙になっていくと思います。これ（バイデンを模した自動音声通話）は始まりにすぎず、これからも似た事例がたくさん出てくるのではないでしょうか」
（WIRED US/Translation by Rikako Takahashi/Edit by Mamiko Nakano）
※『WIRED』によるディープフェイクの関連記事はこちら。
雑誌『WIRED』日本版 VOL.51
「THE WORLD IN 2024」は好評発売中！
アイデアとイノベーションの源泉であり、常に未来を実装するメディアである『WIRED』のエッセンスが詰まった年末恒例の「THE WORLD IN」シリーズ。加速し続けるAIの能力がわたしたちのカルチャーやビジネス、セキュリティから政治まで広範に及ぼすインパクトのゆくえを探るほか、環境危機に対峙するテクノロジーの現在地、サイエンスや医療でいよいよ訪れる注目のブレイクスルーなど、全10分野にわたり、2024年の最重要パラダイムを読み解く総力特集。詳細はこちら。