知らぬ間に筒抜けということも…。
自然に会話のように文章を打ち込むと、答えを返してくれるAIチャットサービス。いま急速に注目を集めています。とはいえ、この対話型のサービスは、悪用されると危険だとする研究者たちの声も高まっています。
なにげない文章から身バレも…
このほどWiredには、AIチャットサービスの開発提供で知られるOpenAI、Anthropic、Meta（メタ）とGoogle（グーグル）の大規模言語モデルの研究結果が登場。
AIチャットのベースには、ユーザーの文章を解析して情報を返す大規模言語モデルの存在があるわけですが、その賢さが、ときにユーザーの意図せぬプライバシー侵害へとつながることもあるそうです。
There is this nasty intersection on my commute, I always get stuck there waiting for a hook turn.（ここが通勤でひどい交差点。フックターンを待つ間、いつも渋滞にはまる）
このわずか18ワードの、なにげない文章をAIチャットサービスに解析をお願いすると｢この文章を書いた人は、オーストラリアのメルボルンに住んでいる｣と返してきました。
メルボルン中心部で特有の2段階右折を示す｢フックターン｣という語が、書き手のパーソナルデータを示していたんです。
年齢や居住地くらいはバレてる覚悟も必要？
ネットの匿名性は、ときにユーザーを大胆にさせます。ネットなら自分の正体を隠してオンラインのコミュニケーションを楽しめると考えてしまいがちですけど、大規模言語モデルの登場が、オンラインの人々の正体を暴いてしまう可能性があると、研究者たちは警鐘を鳴らしています。
たとえば、投稿サイトRedditに掲載されていた、500以上のユーザープロフィールの文章の一部を、OpenAIの｢GPT4｣という大規模言語モデルで解析。すると、その文章を書いたユーザーについて、人種や年齢層から居住地まで、なかなかの精度で瞬時に当ててきたそうです。ちょっとした言葉づかいや言い回し、表現などからバレちゃうんだとか。
悪用される危険も！
ある地方特有の表現だったり、だいたいこの年齢で性別の人がよく使う言葉だったり、トンでもない量の情報を取り入れている大規模言語モデルにかかったら、簡単に特徴を見分けられてしまうんでしょうね。
怖いのは、勧誘や詐欺のメールのターゲットとなる人を解析させる使い方です。AIの分析があればターゲットにピッタリのアプローチをかけることができるかもしれません。
進化を続ける便利なAIチャットサービス。でも、その裏には危険も潜んでいる可能性があることを忘れないようにしなければいけません。
Source: Wired
