テキスト生成AIでスパムメール合戦は新時代へ

AI vs. AI。

スパムメール。それは現代社会の憎き敵。しかし、敵ながら天晴れなもので、アイドルから某国のプリンセスなど、よくそんなの思いつくなと時に感心してしまうことも、正直あります。

迷惑メールには、チンパンジーやオオアリクイなど、もはや｢作品｣と呼んでも過言ではないレジェンドもあるくらいですから。絶対ひっかからないと思いつつ、あまりに手札が豊富なので引っ掛かってしまう人の気持ちもわからなくもない…。

一方、迷惑メールに対抗する術として、メール受信側のフィルター機能があります。こちらは別におもしろいネタがあるわけではありませんが、日々、私たちの生活からあからさまなスパムをブロックしてくれる頼もしい存在。

迷惑メールと迷惑メールフィルターは、長きに渡り攻防戦を繰り広げています。が、その図式がAI台頭によって新たなフェーズに突入しそう。

以下、サウス・フロリダ大学の研究室Advancing Human and Machine ReasoningのJohn Licato所長による、AIとスパムメールに関するThe Conversationへの寄稿文（CCライセンス）を翻訳したものです。

毎日のように受信メールに積み重なっていく、ナイジェリアのプリンセスやら、ドラッグディーラーやら、投資をおすすめするプロモーターから届くメール。

スパムフィルターが改善されればされるほど、それを突破する新たな技術をインスパイアしているだけのような気がしてしまう。

今、スパムブロックとスパム送信側のレースは、新たな武器＝生成AIの登場でさらなる展開を迎えようとしている。

ChatGPTによって一気に普及したAIによって、スパマーは、保護フィルターを突破するため、人々の注意を惹きつけるため、リンクをもっとクリックさせるため、個人情報をもっともっと抜くための新たなツールを手に入れてしまったのかもしれない。

サウス・フロリダ大学の研究室Advancing Human and Machine Reasoningの所長として、人工知能、自然言語処理、人間の推論力の交差点をリサーチしており、AIが個々の趣向や、信条、性癖などをどう学習するのかを研究してきた。

これは、人との交流の仕方を理解するのにたいへん役立つが、迷惑メールに突かれかねない自分の弱点を知るのにも役立つ。

スパムとAI

そもそもスパムメール、迷惑メールとは何か。

スパムメールとは、不明な送信者から勝手に送りつけられてくる宣伝Eメールのことをいう。Eメールに限らず、携帯メールやソーシャルメディアのDM、商品の偽レビューにまで拡大してスパムと呼ぶこともある。

スパマーの目的は、何か物を買わせること、フィッシング詐欺のリンクを踏ませること、マルウェアをインストールさせることなど。

スパムメールは金になる。1通のメールが数時間で1,000ドルを稼ぎ出すこともある。スパマー側の費用は数ドル（立ち上げ費用は除く）なので、儲けが大きい。とあるオンライン販売の薬のスパムは、毎日7,000ドルを稼ぎ出すという話もあるほどだ。

合法的で適切な広告主も、物を売りたい、アンケートに協力してほしい、ニュースレターに登録してほしいという思いはスパマーと同じである。

が、適切なマーケティング担当者からのメールは、適切な企業へのリンクが掲載されており、連邦規則に乗っ取って適切な購読停止の案内もしっかりと記載されている。

スパムメールにはこれがない場合が多い。

スパマーはユーザーが登録したメーリングリストにはアクセスできない。そこで、直感まかせな戦略をとってくる。

たとえば、ナイジェリアのプリンス。巨額の資産にアクセスするため手を貸してください、お礼はしますという内容が自称ナイジェリアの王子から届くという有名な迷惑メールだ。

デジタルネイティブ世代なら当然スルーするメールだが、実はこれで詐欺に引っかかりやすい人（性格や年齢など）をフィルタリングしているという説もある。

AI技術を活用することによって、スパマーの数うちゃ当たる戦略は不要になるかもしれない。AIが、比較的アクセスしやすい情報、たとえばSNSポストなどを元にターゲットごとに適した内容のコンテンツを生成できるからだ。

AI機能がついたスパム

ChatGPTなど、生成系大規模言語モデル（LLM）というものを耳にした人は少なくないだろう。生成LLMは実にシンプル。与えられたテキストから、次に来るであろうトークン（言葉）を予想し文章を作っていくのだ。

このタスクを、十分な量のテキストで適切な規模の言語モデルにトレーニングをすると、他のタスクも驚くほど上手くできるようになる。

すでにさまざまな使い方がでてきており、スピーディに個人に適応し学習していく技術力があちこちで披露されている。

たとえば、あなたらしい文面のサンプルをいくつか提示するだけで、LLMはまるであなたが書いたようなメールを書くことができる。

古い話だが、とあるチェーンの小売店が、データ情報から推測して、ある10代の少女の妊娠を彼女の親よりも先に察知したという例もあるくらいだ。

スパム送信者とマーケティング担当者は、より少ないデータから個人のことをより多く予測することで利益が得られるという点ではとても似ている。

たとえば、LinkedInのページのほんの少しの投稿内容やプロフィール画像から、LLM武装したスパマーならば、支持政党や既婚情報、人生の優先順位などをある程度性格に予想できてしまうだろう。

我々の研究では、LLMを用いることで、ある個人が次に発する言葉の予測が、他のアプローチを使うよりもずっと正確にできるという結果がでている（言語流暢性課題という言葉生成タスク）。

また、推論能力テストの質問から、人間がどう答えるかを予測することもできた。これは、LLMにはすでに人間の典型的な推論力についてある程度の知識があるということを示している。

つまり、スパマーがフィルターという最初の壁を突破し、メールを読んだり、クリックしてもらったり、何らかのエンゲージを生むことができれば、個人にカスタマイズされたコンテンツによる説得力は劇的に向上するということになる。

繰り返すが、LLMはゲームチェンジャーである。LLMは政治から公衆衛生までさまざまなテーマで説得力のある議論を展開することができると、初期の調査は示しているのだから。

AIは中立

忘れてはいけないのは、AIは誰の味方でもないということ。つまり、AIはスパムフィルター側に付くこともできるのだ。不必要なメールをブロックする新たなバリアを生み出すことができる。

スパマーはちょっとしたミスならスルーするという人間の性質を利用して、特殊文字やタイポ、隠しテキストなどを織り交ぜてフィルター突破を試みてくる。

たとえば｢c1îck h.ere n0w｣なんて、見たことがあるのではないだろう。AIによるスパムメッセージの理解が深まれば、AI武装したフィルターもまた強化される。不要なスパムメールだけでなく、登録している企業メールすらもブロックしかねない。ユーザーが読む前に、フィルターが読む価値のあるなしを決めてくれるのだ。

AI懸念の声（マスクやウォズニアックなどが署名したAI停止のオープンレターなど）が高まる一方で、AIによるメリットが多いことも忘れてはいけない。人間の推論力の弱さがどう悪用されるのかをAIが理解していけば、それに対抗する手段を講じるのにも役立つだろう。

新しい技術はすべて、驚くような魔法にも危険にもなり得る。どちらに転ぶかは、誰がそのツールを作り、運用するのか、どのように使われるのか次第なのだから。