ディープフェイク・ポルノに勝てるのは、テイラー・スウィフトしかいない

テイラー・スウィフトの鶴の一声で、味方が集結する。

1月28日、おそらくAIが生成したスウィフトの性的な画像がソーシャルメディアに出回り、ファンたちは奮い立った。スウィフティー（スフィフトのファンの総称）たちは、画像に関連するフレーズやハッシュタグを使い、スウィフトのパフォーマンス動画や写真で検索欄やタイムラインを溢れさせた。“Protect Taylor Swift”（テイラー・スウィフトを守ろう）というフレーズがバズし、ファンたちはスウィフトのディープフェイクだけでなく、女性の合意のない露骨な画像すべてに反対の意を示した。

スウィフトは今、間違いなく世界で最も有名な女性のひとりだが、あまりにも頻繁に起きるハラスメントの被害者でもある。まだこの画像について公の場でコメントしていないが、知名度のある彼女には力がある。それは、多くの女性が似た状況において持ち得ないものだ。

変化の引き金になるか

ディープフェイク・ポルノは、生成AIの性能が上がるにつれて、より一般的になっている。 2023年の1月から9月までの間、最も人気のあるポルノサイトにアップロードされたディープフェイク動画は11万3,000本で、2022年を通してアップロードされた7万3,000本より大幅に増加した。2019年、あるスタートアップの調査によると、インターネット上のディープフェイクの96％がポルノだった。

ディープフェイク・ポルノは検索エンジンやソーシャルメディアで簡単に発見でき、ほかの女性有名人やティーンエイジャーにも及んでいる。しかし、多くの人々は問題の全容や影響を理解していない。スウィフトと彼女を取り巻くメディア・マニアは、状況を変える可能性を秘めている。

画像や動画を用いた人権擁護を扱う非営利団体Witnessの事務局長サム・グレゴリーは、スウィフトの件は合意のないディープフェイクを巡る法的・社会的な変化につながる「引き金のひとつになる気がする」と語る。同時に、ディープフェイク・ポルノがどれほど一般的で、被害者にとってどれほど有害で侵害的なものか、人々の理解はまだ足りないとも言う。

今回のディープフェイクの惨事は、ジェニファー・ローレンスやケイト・アプトンのような有名人のヌード写真がネットで拡散され、デジタルアイデンティティの保護強化を求める声が高まった、14年のiCloud流出事件を彷彿とさせる。アップルは最終的に、セキュリティを強化した。

同意のないディープフェイクに関する法律がある州は少なく、連邦レベルで規制の動きがある。ニューヨーク州選出のジョセフ・モレル下院議員（民主党）は、本人の同意のないディープフェイク・ポルノの作成・共有を違法とする法案を議会に提出した。また、同州のイベット・クラーク下院議員（民主党）が提出した法案では、ディープフェイク・ポルノの被害者に法的手段が与えられる。

11月にAIコンテンツの表示を義務付ける法案を提出したニュージャージー州選出のトーマス・キーン・ジュニア下院議員（共和党）は、スウィフトの一件をに便乗して、自身の取り組みをアピールした。「被害者がテイラー・スウィフトであろうと、我が国の若者であろうと、わたしたちはこの憂慮すべき傾向に対抗する安全策を確立する必要があります」と、キーンは声明で述べた。

スウィフティーの強大なパワー

スウィフトやスウィフティーがプラットフォームや関係する人々に責任を求めたのは、今回が初めてではない。17年、スウィフトはあいさつ中に体を触られたとして、ラジオDJを相手取った訴訟で勝利した。スウィフトが勝ち取ったのは、もともと賠償金として要求していた「1ドル」。だが彼女の弁護士ダグラス・ボールドリッジによると、これは象徴的な金額で、「この状況にあるすべての女性にとって、その価値は計り知れない」とした。

昨年秋の米中間選挙で、スウィフトがInstagramにVote.orgへのリンクを投稿しファンたちに有権者登録を促すと、何万人もの人々が登録した。そして22年、ワールドツアー「THE ERAS TOUR」のチケットを買うのを何時間も待ったにもかかわらず、ボットがチケットを入手できてしまう事態に激怒したファンたちは、チケットマスターとライブ・ネイションの巨大合併に関する独占禁止法上の問題をめぐり再び注目を浴びた。上院議員たちがスウィフティーのコスプレに身を包み、スウィフトの歌詞を引用したなんとも気味の悪い公聴会が開かれた。ライブ・ネイションと会場やアーティストとの契約に関する調査は、現在も続いている。

スウィフトとファンたちは、連邦レベルでの法改正が可決されるよう促すことさえできる。しかし、スウィフティーの怒りは、プラットフォーム側が問題に目を向けるようにするという、別の効果をもたらすかもしれない。

「大勢のユーザーが『このコンテンツは容認できない』と主張し、注目される時、ユーザーが何を許容し、何を許容しないか、プラットフォームに示す力が生まれます」と、 カリフォルニア大学アーバイン校の哲学教授のケイリン・オコナーは語る。オコナーの共著に『The Misinformation Age: How False Beliefs Spread（誤報の時代：いかにして誤信念が広まるか）』がある。

Xにスウィフトの偽画像とディープフェイク・ポルノに関するモデレーションについてコメントを求めたが、回答は得られなかった。イーロン・マスクは22年の買収後、すぐにコンテンツモデレーションチームを解体した。また、マスクが反ユダヤ主義的な陰謀論を支持したことが明らかになったことで、最近は広告主も次々と離れている。

スウィフト自身がこの問題を取り上げるかどうかは、定かではない。スウィフトの代理人にコメントを求めたが、応じなかった。女性有名人に対するハラスメントは頻繁に起きており、しばしば脇に追いやられるが、ディープフェイクは彼女たちや、同じ力を持たない一般の人々に危害を加えている。

今こそ、スウィフトが自身の強大なプラットフォームを利用するタイミングかもしれない。そうでなくとも、ファンたちが自ら問題を世間に訴えることはできる。

（WIRED US/Translation by Rikako Takahashi）

※『WIRED』によるディープフェイクの関連記事はこちら。

「ディープフェイク・ポルノ」を誰も止められない

ディープフェイク技術でつくられた偽のポルノ動画が急増していることを示す、新たな研究が発表された。「当人が同意していないフェイク」に特化したサイトに大手検索エンジンから容易に辿り着けてしまうのだというが、標的にされるのは普通の人たちだ。

ディープフェイク・ポルノの実態を追及する被害者たちを捉えたドキュメンタリー『Another Body』：映画レビュー

ディープフェイク技術で自分の顔をポルノ動画に不正に加工されるとはどういうことなのか？ 司法制度はなぜこれほど遅れをとっているのか？ 『Another Body』は、観客にもし自分が被害者の立場だったらどう思うかを想像させながら、さまざまな問題点を提起する。

テイラーと、彼女のネット帝国「スウィフトピア」

アイデアとイノベーションの源泉であり、常に未来を実装するメディアである『WIRED』のエッセンスが詰まった年末恒例の「THE WORLD IN」シリーズ。加速し続けるAIの能力がわたしたちのカルチャーやビジネス、セキュリティから政治まで広範に及ぼすインパクトのゆくえを探るほか、環境危機に対峙するテクノロジーの現在地、サイエンスや医療でいよいよ訪れる注目のブレイクスルーなど、全10分野にわたり、2024年の最重要パラダイムを読み解く総力特集。詳細はこちら。