匿名のライターの正体を暴くAIの開発をアメリカ政府が進めている

アメリカ国家情報長官室(ODNI)の中心機関としてハイリスク＆ハイペイオフの研究に投資しているIARPAが、人工知能(AI)を使って匿名のライターの正体を暴くプログラムの開発に取り組んでいることが明らかになりました。

IARPA Kicks off Research Into Linguistic Fingerprint Technology
https://www.dni.gov/index.php/newsroom/press-releases/press-releases-2022/item/2326-iarpa-kicks-off-research-into-linguistic-fingerprint-technology

US government plans to develop AI that can unmask anonymous writers
https://reclaimthenet.org/us-government-plans-to-develop-ai-that-can-unmask-anonymous-writers/

2022年9月27日、アメリカ政府管轄の情報機関であるODNIの研究開発部門であるIARPAが、テキストの著者を明らかにし、保護するためのAIの開発を目指すプログラム「The Human Interpretable Attribution of Text Using Underlying Structure(HIATUS：テキストに含まれる構造を利用した人間による解釈可能な帰属表現)」を立ち上げました。

IARPAはHIATUSについて、「人間の言語技術を発展させるための情報コミュニティによる最新の研究活動」と解説。さらに、「海外からの悪意ある情報操作に対抗」したり、「自身の書いたものにより危険にさらされる可能性のある著者を保護」したりすることにも役立つと説明しています。

IARPAはHIATUSプログラムを通し、以下のような事例を可能にするAIを開発すると説明しています。

・単語の選択、言い回し、文章構造などの「誰が文章を書いたのか」を特定することにつながる特徴を抽出し、多言語著者の帰属表示を可能にするAI
・著者の身元を示すような言語パターンを修正することで、著者のプライバシーを保護することが可能になるAI
・特定のテキストが特定の著者に帰属する理由や、特定の改訂が著者のプライバシーを保護する理由を、初心者ユーザーに説明できるようなAI

HIATUSのマネージャーを務めるティム・マッキノン博士は、「HIATUSの開発に携わる開発者について、HIATUSの課題に対してユニークで斬新かつ説得力のあるアプローチをとれる人物です」「計算言語学とディープラーニングの最新の進捗を利用することで、人間の言語のバリエーションに関する理解を大幅に拡大することが可能となります」と語りました。

なお、HIATUSの開発にはCharles River Analytics、Leidos、Raytheon BBN、SRIインターナショナル、ペンシルベニア大学、南カリフォルニア大学の他、20以上の学術機関や非営利団体、企業が参加することとなるそうです。

これに加えて、HIATUSの試験・評価にはローレンス・リバモア国立研究所、パシフィック・ノースウェスト国立研究所、メリーランド大学情報・安全保障応用研究所が参加します。