Googleのスンダー・ピチャイCEOがマルチモーダルAI・Geminiの過剰な多様性問題を「まったく容認できない」とコメント

by World Economic Forum

GoogleのマルチモーダルAI「Gemini」が人種の多様性に配慮しすぎたことでまったく正しくない画像を出力してしまった件について、スンダー・ピチャイCEOが、「まったく容認できない」と述べ、問題を解決するために24時間体制で修正を行うと述べました。

Google CEO Sundar Pichai calls AI tool’s responses ‘completely unacceptable’ | Semafor
https://www.semafor.com/article/02/27/2024/google-ceo-sundar-pichai-calls-ai-tools-responses-completely-unacceptable

Google CEO: Gemini AI photo diversity scandal ‘offended our users’ - The Verge
https://www.theverge.com/2024/2/28/24085445/google-ceo-gemini-ai-diversity-scandal-employee-memo

この問題は、Geminiでナチスドイツ兵の画像を出力した時に黒人やアジア人の画像を生成したり、白人の描写を拒否したりして、「人種や性別の多様性を追求した結果、歴史的に正確な結果が得られないのではないか」と批判されたものです。

Geminiが「人種的に多様なナチス」を生成したことをGoogleが謝罪 - GIGAZINE

Googleは「多様性を重視した結果、そうすべきではないケースに対応できなくなった」「Geminiが特定のプロンプトを拒否するようになった」と原因を説明し、人物の画像生成機能をオフにして大幅な改善を行うと発表しました。

GoogleがマルチモーダルAI「Gemini」の画像生成で間違いが起こった理由を説明 - GIGAZINE

オンラインニュースメディアのSamaforが入手したメモによると、ピチャイCEOは「Geminiのテキストと画像の応答に関する問題に対処したいと思います。回答の一部がユーザーを不快にさせ、偏見を示していることは承知しています。はっきり言いますが、それはまったく容認できないもので、私たちの判断が間違っていました」と述べていたとのこと。

また、ピチャイCEOは「Geminiの修正はすでに進めており、24時間体制で取り組んでいます。すでさまざまなプロンプトで大幅な改善が見られています。特に業界発展のこの新たな段階において、完璧なAIというものは存在せず、私たちにとってハードルが高いことは承知していますが、どれだけ時間がかかっても努力し続けます。そして、何が起こったのかを確認し、大規模に修正していきます」と述べています。

メモの中で、ピチャイCEOは「何十億もの人々や企業に愛される優れた製品を作るためには何が必要か、我々はよくわかっています。そして、我々のインフラと研究の専門知識から、AIのビッグウェーブに乗る足掛かりを得られます。我々が最も重視すべきことは何かを考えてみましょう、それはユーザーの信頼に値する役立つ製品を作ることです」と語りました。