インターネットにおける誤情報の拡散が大きな問題となっている。そして生成AI（Generative AI）は不正確な画像の生成や、本物だが別の目的のために画像を使うことを促進している。そもそも生成AIが登場する前から、手早く「Google 検索」をして表示された画像が文脈を無視して使用されているものだったり、信頼性の低いウェブサイトと関連するものであったりすることが多かった。
この問題に対する解決策が少なくともひとつはあると、グーグルは考えている。そして「Google 画像検索」の結果に「About this image（この画像について）」という情報欄をこのほど追加したのだ。この機能は米国で（最初は英語のみ）、10月25日から展開を開始している。
これはグーグルが2021年に提供を開始した「About this result（この結果について）」と、23年初頭に提供を開始した「About this author（この著者について）」の展開に続くものだ。前者はGoogle 画像検索で表示された結果の提供元について追加の情報を表示する機能、後者は該当のページのコンテンツを書いた人についての情報を提供する機能である。
新しいツールは、3つの要素に関する文脈を提供することを意図している。ひとつはグーグルがその画像（または類似のもの）を初めてインデックスに登録した時期、もうひとつはその画像が最初に掲載された可能性が高いウェブサイト、そして最後のひとつは、例えばソーシャルメディアなど、その画像がほかに使われている場所である。また、該当画像が過去にファクトチェックされている場合は、そのことも情報欄に表示される見通しである。
「画像をオンラインで検索できるツールだけでなく、人々が特定の画像の信頼性を評価する際に役立つ情報リテラシー施策にも投資したいと考えています」とグーグルの情報リテラシーに関するプロダクトマネージメントリードであるニディ・ヘッバーは話す。
生成AI画像への対策の一環？
グーグルがAbout this imageの機能について初めて言及したのは、今年5月に開催された同社の開発者向けカンファレンスでのことだった。そこで同社の情報リテラシーチームは、ユーザーがGoogle 検索で表示される画像の出どころをよりよく理解し、誤情報を見抜くことに役立つツールを開発していると説明したのである。
この機能がインターネットに溢れる生成AI画像への対策であるとグーグルは明言しなかったものの、その対策の一環であることは間違いない。同社の実験的な「生成AIによる検索体験 （SGE）」では、すべての画像にAbout this imageの情報を表示するようになる。また、SGEの生成画像にはウォーターマーク（電子透かし）を付ける。マイクロソフトの検索エンジン「Bing」のAIが生成した画像には、目にはすべて見えないデジタルなウォーターマークが付けられているのと同じようにだ。
今回の新機能の展開に先立ち、「この画像について」がどのように機能するかをヘッバーは『WIRED』US版に説明している。ヘッバーは「Google 画像検索」で、ポーランドのソポトにある建築物「Krzywy Domek」（英語で“ゆがんだ家”の意味）を検索した。そこから検索結果の上位に現れたWikipediaに掲載されている画像の3点リーダーから、About this imageのオプションをクリックする。
About this imageの情報から、その画像が少なくとも10年前のものであることがわかった。Wikipediaのものではない検索結果の上位にあった別のふたつの画像の掲載元は、オンラインメディア『Atlas Obscura』と『HuffPost』だった。このことから、これらの画像の正当性を推し量れる。「Krzywy Domek」はとても奇抜な建物なので一見偽物のように見えるが、グーグルの「この画像について」の情報は、それが本物であることを強く示しているということだ。
誤情報の可能性を警告する
ただし、この例でGoogle 画像検索が提供した文脈に関する情報は乏しい。場合によっては、グーグルは画像のメタデータ、つまり写真がいつ、どこで、どのように撮影されたかに関する情報も提供する。この機能はまずグーグルの独自の生成AIによる検索の結果に導入する見通しだと、ヘッバーは話す。
とはいえ、Google 画像検索の結果に表示される数兆もの画像のすべてで、これを実現することは難しい。また、検索結果に画像のメタデータまで含まれるかどうかは、画像を作成した元の作成者や出版社がその情報をファイルに含めたかどうかに大きく依存する。
About this imageのメタデータの情報は画像の出どころや履歴を確認する確実な方法ではないと、グーグルは強調している。この機能は主に、画像が見た目よりも古いことを一般のインターネットユーザーに知らせることを目的としたものだ。つまり、画像が別の目的のために使われている可能性がある、あるいは以前にインターネット上で問題があるとフラグ付されていることをユーザーに警告するためのものなのだ。
ウォーターマークで出どころをたどる
出どころや推論、ウォーターマーク、メディアリテラシー。これらは急激に増加するコンピュータで生成された画像を識別しようとしている研究チームがよく使う単語や表現の一部である。しかし、今あるツールはどれもまだ不完全であり、偽のコンテンツを見抜くにはおそらく多面的な手法が必要だと、グーグルを含むほとんどの組織は考えている。
インターネット上の文章や写真にデジタルな透かしであるウォーターマークを付けて、出どころを辿れるようにする手法は有望な解決策のひとつであるという記事を『WIRED』US版は先日公開している。これは非常に有力な手法であることから、OpenAIやアルファベット、メタ・プラットフォームズ、アマゾン、グーグルのDeepMindらは、この技術の開発を進めている。ただし、研究者グループがオンライン画像から特定の種類のウォーターマークをどれほど簡単に「洗い流す」ことができたかについても、記事は明らかにしていた。
AIを使って、生成AI画像を見分ける
ニューヨークのスタートアップであるReality Defenderは、同社が開発したディープフェイクの検出技術を政府機関、銀行、テック企業やメディア企業に販売している。とはいえ、AI画像の「根本的な真実」を知ることはほぼ不可能だと同社は考えている。
確かな出どころをたどることは複雑であると、Reality Defenderの共同創業者であり最高経営責任者（CEO）を務めるベン・コールマンは指摘する。なぜなら、それを実現するには画像生成マシンを提供するすべてのメーカーが特定の規格の採用に同意しなければならないからだ。また、ウォーターマークはAI生成画像を特定する方法のひとつかもしれないが、「最も強力な手法ということではありません」とコールマンは言う。
そこでReality Defenderは「推論」に焦点を当ててAIによる生成画像を特定しようとしている。要するに、AIを見抜くためにAIを使用するということだ。同社のシステムはテキスト、画像、または動画をスキャンし、それが何らかの方法で操作されている可能性を1から99％の間で表示する。
「基本的に、本物と偽物を見分ける責任を一般消費者に負わせるような仕組みには同意できません」とコールマンは語る。「AI、および一般的な詐欺の進歩に伴い、同社で働く博士号をもつ人たちでさえ、ピクセルレベルでは本物と偽物の違いを見分けることはできないのです」
この点において、グーグルの「この画像について」の機能は、研究者やジャーナリストを除くほとんどのインターネットユーザーがその画像についてより多くの情報を求めていることを前提にしている。そして提供された文脈に不審な点がある場合は、その画像を警戒することに役立つというわけだ。
関連記事：生成AIによって、真実／自分の記憶／加工写真の境界は曖昧となる
しかし、忘れてはいけないのは、グーグルは近年においてChatGPTの「T」の部分を担う深層学習モデルの「トランスフォーマー」や、「Bard」と呼ばれる生成AIツール、「Magic Eraser（消しゴムマジック）」や「Magic Editor（マジックエディター）」ような画像を変更し現実をゆがめるツールの開発元でもあるということだ。つまり、グーグルがつくった生成AIのコンテンツが世界に溢れており、多くのユーザーは同社の技術によって生成されたものを現実のものとを見分ける方法を探ろうとしているのである。
（WIRED US/Translation by Nozomi Okuma）
※『WIRED』による生成AIの関連記事はこちら。
未来を実装する「実験区」へようこそ！
会員限定コンテンツの無料トライアルはこちら
最新テクノロジーからカルチャーまで、次の10年を見通すための洞察が詰まった選りすぐりの記事を『WIRED』日本版編集部がキュレーションしてお届けする会員サービス「 SZ メンバーシップ」。週末に届く編集長からのニュースレターやイベント優待も。無料トライアルを実施中！