女性がビデオ通話に応答すると、男はすぐに彼女を褒め始める。「ワオ、ハニー、君は本当に美しいね」と画面の向こうの男が言う。映像を見ると、男は白人で短髪、女性よりも数歳若そうで、チェック柄のシャツを着てカメラの前に座っている。
会話が始まると、女性は米国訛りで「ヒゲとか剃ったら、見違えるようになったわね」と言う。男は聞き逃さずに「君のために格好よくなろうと思ってヒゲを剃ると言ったじゃないか」と切り返す。
ただし、彼は本当の姿を見せているわけではない。彼のビデオフィードは偽物だ。ヒゲの有無に関係なく、ビデオ通話で女性が見ている顔は彼本人のものではない。この顔は、ディープフェイク技術でつくられた顔なのだ。
実は、この男は詐欺師で、顔交換技術を使ってリアルタイムで自分の外見を完全に変えている。女性から何千キロも離れた場所にいると思われる詐欺師の共犯者が撮影した通話のビデオでは、被害者と会話している間、彼の本当の顔が偽りの姿とともにノートパソコンに映っている。
この自撮りビデオは、「ヤフーボーイズ」として知られる詐欺師集団がオンラインに投稿した多数のビデオのひとつだ。彼らは主にナイジェリアを拠点とする、非組織的な詐欺師の集まりである。このビデオでは、彼らがディープフェイクと顔交換技術を使ってロマンス詐欺の被害者となる女性を捕え、偽の身分を使って被害者との信頼関係を築いた後、巧みに数千ドルを騙し取とる手口が明らかになっている。FBIによると、昨年のロマンス詐欺による被害額は6億5,000万ドル（約1,000億円）以上に上ったという。
ヤフーボーイズは約2年前からディープフェイク動画の実験を行なっており、昨年からはよりリアルタイムのディープフェイク・ビデオ通話に移行していると、ジョージア州立大学の教授でID検証会社SentiLinkの不正検知責任者であるデビッド・マイモンは述べている。マイモンは4年以上にわたってTelegramでヤフーボーイズを監視しており、詐欺師たちがどのようにディープフェイクを使っているかを明らかにした数十本の動画を『WIRED』に提供した。
『WIRED』がこれらの動画とヤフーボーイズに関連する3つのTelegramチャンネルを調査したところ、ディープフェイク・アプリケーションと人工知能（AI）の進歩に伴って、詐欺師たちの手口がどのように進化してきたかが浮き彫りになった。ディープフェイクのビデオ通話を使った詐欺師たちの具体的な戦術と常軌を逸した手法が、これほど詳細に記録されたのは初めてのことだ。
動画を見ると、ヤフーボーイズがノートパソコンと携帯電話の両方を使ってこの技術を利用している様子がわかる。いくつかの動画では、詐欺師たちは、自分自身の顔だけでなく、騙している被害者の顔も平然と映している。「彼らがこんなことをしているのは、頭が悪いからだとは思えません」とマイモンは言う。「単に無関心で、その影響を恐れていないだけなのでしょう」
ヤフーボーイズは詐欺の経験が豊富で、それを公然と自慢している。FacebookからTikTokまで、彼らの詐欺や勧誘の写真や動画は、ソーシャルメディアのあちこちで見つけることができる。ただし、ナイジェリアの王子様メール詐欺の手口を受け継ぐこれらのサイバー犯罪者たちが、最も堂々と活動しているのはTelegramだと言えるだろう。
メンバー数が数千人にも上るグループにおいて、ヤフーボーイズは詐欺の手口に役立つ各自のスキルを宣伝し、それを組み合わせて詐欺を実行している。彼らは社会的操作に長けており、被害者に長期的な影響を及ぼす可能性がある。ビジネスメール詐欺、暗号資産詐欺、なりすまし詐欺などが、毎日何百もの投稿で宣伝されている。メンバーは、写真やビデオの編集スキルや、説得力のある偽のプロフィールづくりに使える過激な内容の写真アルバム一式を販売していると主張している。偽の身分証明書や、本物と見分けがつかないソーシャルメディアのプロフィールも売買されている。さらに、詐欺の「台本」は無料でダウンロードが可能だ。
「ヤフーボーイズには、組織犯罪と無秩序犯罪の両方の特徴が見られます」と、10代の若者を性的に脅迫し自殺に追い込むヤフーボーイズを調査したネットワーク感染研究所の情報アナリスト、ポール・ラファイルは述べている。「彼らにはリーダーも統治機構もない。むしろ、小さなグループで組織化され、オンライン上でアドバイスやコツを共有しているのです」とラファイルは説明する。『WIRED』はヤフーボーイズのチャンネルについてTelegramにコメントを求めたが、回答はなかった。現在、ヤフーボーイズの3つのチャンネルにアクセスすることはできないようだ。
マイモンによると、デジタル詐欺師たちがロマンス詐欺の一環としてディープフェイクを使い始めたのは、22年5月頃のことだ。「当初、彼らは自分の外見を変えた動画を投稿し、それを被害者に送りつけて会話へと誘い込もうとしていました」と彼は説明する。それ以来、彼らの手口は進化している。
ヤフーボーイズは動画の作成に複数のソフトウェアやアプリを使用しているが、攻撃の模倣を防ぐため、『WIRED』はそれらの特定のソフトウェア名は明かさない。ただ、彼らが使用しているツールの多くは、自分の顔を有名人やインフルエンサーの顔と入れ替えられるなど、娯楽目的で宣伝されているものだ。
ヤフーボーイズがライブでディープフェイク通話を行なう際、主に2つの手法を用いている。1つ目は、上の動画のように、2台のスマートフォンと顔交換アプリを使うやり方だ。詐欺師は、被害者に電話をかけるスマートフォン（マイモンによると主にZoomを使っているようだが、どのプラットフォームでも可能）を手に持ち、そのリアカメラでもう1台のスマートフォンの画面を撮影する。このもう1台のスマートフォンは、カメラが詐欺師の顔に向けられており、顔交換アプリが起動している。動画を見ると、彼らは2台のスマートフォンをスタンドに固定し、リングライトを使って、リアルタイムの顔交換に最適な環境を整えていることがわかる。
2つ目のよく使われる手法は、下の動画のように、スマートフォンではなくノートパソコンを使うものだ（なお、『WIRED』は両方の動画で詐欺師の実際の顔にぼかしを入れている）この場合、詐欺師はウェブカメラで自分の顔を撮影し、ノートパソコンで動作するソフトウェアが彼らの外見を変える。このセットアップの動画から、詐欺師は自分の本当の顔と変化したディープフェイクの両方を確認でき、操作された画像だけがライブビデオ通話に映し出されていることがわかる。
マイモンによると、彼と彼のチームは、ディープフェイク動画やヤフーボーイズが販売している写真アルバムに登場する被害者の何人かを特定し、連絡を取ろうとしているそうだ。『WIRED』は被害者や詐欺師の正体を突き止めることはできず、ディープフェイクが実際に使われた回数も定かではない。それでも、被害者が登場しているとみられる動画からは、詐欺師たちがどのようにしてターゲットとの信頼関係を築いていくのかがわかる。
動画のなかで、詐欺師は「愛している」と告白したり、しきりに相手の外見を褒めたりしている。あるビデオでは、詐欺師がターゲットに会うためにカナダに行きたいと言っている。そして、会ったら「すぐに」お金を払うと約束しているのだが、これを見ると、ターゲットから送金を受けておきながら返済するつもりはないことが推測できる。ほかのビデオには非常に個人的な情報が含まれており、詐欺師がターゲットとどれほど深い信頼関係を築けるかがよくわかる。「被害者のなかには、摂食障害やうつ病のことを打ち明ける人もいるんです」とマイモンは語っている。
これらの動画に映し出されているのは、ヤフーボーイズのロマンス詐欺の実態のごく一部に過ぎないかもしれない。彼らが自主的に公開している動画の多くは、自分たちの手口を自慢することで、ほかの詐欺師たちにそのやり方を「売る」ことも狙っているのだろう。ラファイルがグループのセクストーション（性的脅迫）活動を調査したところ、顔交換技術のほとんどがロマンス詐欺に使われていることがわかったという。ただし、ヤフーボーイズが写真にディープフェイクの「ヌード」生成ツールを使っていると主張している例もあったそうだ。
AIによって詐欺の手口はますます巧妙になるだろう。ディープフェイク動画は5年以上前から存在しているが、そのほとんどは相手の同意なくポルノに使われてきた。その多くは不自然で見抜くのも簡単だ。話しているときに唇の動きがずれていたり、おかしな点を見つけるのは比較的容易だったりする。しかし、この技術は急速に進歩し、誰でも簡単に使えるようになりつつある。
ヤフーボーイズの動画のなかには、信じられないほど明らかな偽物もあれば、もっともらしく見えるものもある。スマホで不安定な通信環境のなかライブ視聴すれば、少々の欠陥は目立たなくなってしまうかもしれない。特に、詐欺師が何カ月もかけて被害者の心理をうまく操っていた場合は、なおさらだろう。
SocialProof Securityの共同創業者でCEOのレイチェル・トバックと同社のCTOイーバン・トバックは、『WIRED』の依頼で、ヤフーボーイズの動画の一部をレビューした。トバックによると、過去12カ月の間、ロマンス詐欺で顔交換技術が使われているのをよく見かけたという。「昨年確認したときは、それほど説得力がありませんでした。でも、今年に入ってから大きく変わったんです」と彼女は言う。「特に、声の高さを変え、顔の表情を変え、時には肌の色や髪の色、目の色など、すべてを変えられるものにはかなり驚きました」
ヤフーボーイズは、アプリに搭載されている既存の人物像や顔を使っていることが多いようだ。詐欺師たちは主に自分自身の声で話しているが、なかには声を変えている動画もあるかもしれない。『WIRED』が確認した動画の多くでは、画面上のキャラクターは首を回すことはできるものの、体全体を動かすことはできない。彼らの唇や顔の表情は、詐欺師の顔の動きに合わせて変化する。こういったツールの性能は、今後ますます向上していくだろう。
アイデンティティ検証企業iProovのチーフサイエンティフィックオフィサー、アンドリュー・ニューウェルは、昨年、顔交換システムの使用数が「大幅に変化」したと述べている。彼のチームでは、100種類以上のツールを追跡しているそうだ。ただし、リアルタイムの顔交換が可能なツールはごく一部だという。「これらのライブツールの性能は大きく向上しています」と彼は語った。
一方、マイモンは、ヤフーボーイズは独自のソフトウェアを開発したり、技術的に洗練されているわけではないかもしれないが、適応力が高いと指摘する。彼らは一度に複数の詐欺を行ない、同時に何十人もの被害者と会話する。そして、詐欺を完遂するために必要なスキルをもつ仲間がそれぞれ揃っているのだ。「彼らは常に進化し続けているんです」とマイモンは強調する。
サイバー犯罪の被害者を支援するIntelligence for Goodのチーフ詐欺ファイター、ロニー・トカゾウスキーは、ヤフーボーイズがロマンス詐欺にディープフェイクを使っているように、ほかの詐欺にもこの技術を応用していくだろうと予測する。「これは一種の警鐘だと思います。要するに、彼らはこういった悪事に非常に長けてきているということです。だとすれば、次は一体どんな悪事を企てるのでしょうか」
（Originally published on wired.com, edited by Michiaki Matsushima）
※『WIRED』によるディープフェイクの関連記事はこちら。
.jpg)
雑誌『WIRED』日本版 VOL.52
「FASHION FUTURE AH!」
ファッションとはつまり、服のことである。布が何からつくられるのかを知ることであり、拾ったペットボトルを糸にできる現実と、古着を繊維にする困難さについて考えることでもある。次の世代がいかに育まれるべきか、彼ら／彼女らに投げかけるべき言葉を真剣に語り合うことであり、クラフツマンシップを受け継ぐこと、モードと楽観性について洞察すること、そしてとびきりのクリエイティビティのもち主の言葉に耳を傾けることである。あるいは当然、テクノロジーが拡張する可能性を想像することでもあり、自らミシンを踏むことでもある──。およそ10年ぶりとなる『WIRED』のファッション特集。詳細はこちら。