Googleが「画像生成AIで生成した画像」に電子透かしを入れてフェイクの拡散を防止するツール「SynthID」を発表

GoogleのAI研究部門「Google Deepmind」が現地時間2023年8月29日に、AIで生成された画像にウォーターマーク(電子透かし)を入れ、AIが生成した画像であることを明示してフェイク画像の拡散を防止するツール「SynthID」のベータ版をリリースしたことを発表しました。記事作成時点では、Googleの機械学習プラットフォーム「Vertex AI」上の画像生成AI「Imagen」でのみ利用可能です。

Identifying AI-generated images with SynthID
https://www.deepmind.com/blog/identifying-ai-generated-images-with-synthid

DeepMind partners with Google Cloud to watermark AI-generated images | TechCrunch
https://techcrunch.com/2023/08/29/deepmind-partners-with-google-cloud-to-watermark-ai-generated-images/

Welcome to Google Cloud Next ‘23 | Google Cloud Blog
https://cloud.google.com/blog/topics/google-cloud-next/welcome-to-google-cloud-next-23/?hl=en

Google DeepMindとGoogle Cloudが協力開発したSnythIDは、電子透かしをAIによって生成された画像のピクセルに埋め込むツールです。DeepMindは「ジェネレーティブAIは創造の可能性を大きく広げることが可能ですが、クリエイターが意図的または無意識に誤った情報を広めることを可能にするなど、これまで存在しなかった新たなリスクももたらしています。AIで生成されたコンテンツを電子透かしなどを用いて識別できるようにすることは、誤った情報の拡散を防止する上で非常に重要です」と語っています。

Googleは2023年5月に行われた年次開発者向け会議「Google I/O」の中で、AIが生成した画像に電子透かしを追加するツールを発表することを予告していました。

SnythIDは画像に人間の目では識別できない電子透かしを埋め込む技術です。以下の比較画像を見ると、電子透かしが入った画像(左)と元画像(右)の違いがほとんど判別できないことが確認できます。

SynthIDによる電子透かしは、画像にフィルタの追加や色の変更、トリミング、圧縮といった編集を適用してもそのまま維持されます。加えて、SnythIDの電子透かしは画像のピクセルに埋め込まれているため、メタデータを紛失、削除してもそのまま維持されるとのこと。

SynthIDには対象画像がAIで生成されたものか否かを識別する機能も搭載されており、対象画像を「電子透かしが検出された」「電子透かしが検出されなかった」「AIによって生成された画像の可能性がある」の3つのレベルで判定できます。

記事作成時点でSynthIDはVertex AI上の画像生成AI「Imagen」でのみ利用可能ですが、将来的に他の画像生成AIでも利用可能になる可能性があるとのこと。さらに、Google DeepMindは「SnythIDが進化するにつれて、オーディオやビデオ、テキストなどの画像以外のAIモデルやモダリティにも適用可能になる可能性があります」と述べています。