Googleの検索候補が示す「トランスジェンダーへの差別」と、問題を解決できないグーグルの責任

「Google 検索」で差別的な検索候補が表示される事態は、いまに始まったことではない。トランスジェンダーの差別もそのひとつだ。自認している性別とは異なる性別や手術前の画像の検索が促されることで“嫌悪”が広まり、性的マイノリティのウェルビーイングが損なわれると専門家は指摘する。
Google検索候補が示す「性差別」と、問題を解決できないグーグルの責任

All products are independently selected by our editors. If you buy something, we may earn an affiliate commission.

世界中の質問に「Google 検索」はいつでも答えてくれる。

1日に30億件以上の検索を処理する地球で最も利用されている検索エンジンは、実質的にわたしたちの考えを先読みしているのだ。そして検索ボックスに入力されたすべての情報を20年ほど前から分析し、ユーザーが次に入力する言葉を“予測”する不気味なビジネスを展開している

例えば「照り焼きチキン」と入力すると、検索候補に「レシピ」が含まれる。「宇宙飛行士は」と入力すれば、「おむつを履いている」かどうか質問するよう促される、といった具合だ。

こうして「Google 検索」で挙げられる候補の正式名称を知らなかったとしても、予測的な検索動作を体験したことは誰しもあるだろう。文字を入力するたび、Googleの人工知能(AI)はユーザーが調べたいものを推測してくれる。

ところが、役に立つ候補をたくさん出してくれる一方で、Googleが生成した検索候補はインターネットの最も下劣で差別的な一面を映し出すこともあるのだ。

トランスジェンダーの著名人を検索すると、4月上旬まではトランスフォビア(トランスジェンダーに対する嫌悪)に満ちた検索候補が真っ先に表示されていた。そこからも、こうした差別的な一面は明確だったのである。

自認している性別とは逆の検索候補が挙がる

4月に入るまでのおよそ数カ月間、著名なトランスジェンダーやジェンダー・ノンコンフォーミング(性別の“らしさ”に異議を唱える人)の名前を大手検索エンジンに入力し、AIが生成する検索候補をたどってみた。なお、検索のパーソナライゼーションを回避してIPアドレスを偽装する目的で、シークレットモードや仮想プライベートネットワーク(VPN)を使って検索している。

試しにトランスジェンダーの俳優であるラヴァーン・コックスやアンジェリカ・ロス、トミー・ドーフマンといった著名人を検索したところ、ほとんどの確率でオートコンプリートはトランスフォビアの意図がある検索をするよう促してきた。さらには、著名人が性転換する前の名前や見た目、ジェンダーアイデンティティ(自認している性別)が何なのか探らせようとする候補も含まれていたのである。

こうした検索候補の例を挙げると、「[X] before transition photos(〇〇 性転換前の写真)」や「[X] as a guy(〇〇 男性時代)」「[X] before surgery(〇〇 性転換手術前)」「is [X] post op(〇〇 性転換手術 結果)」を検索するようGoogle 検索は促してくる。さらには、「is [X] on hormones(〇〇はホルモン剤を投与しているか)」といったものも含まれている。

また、かつての性別として生きていたころに使っていた名前(通称デッド・ネーム)を検索するよう促してきたりもした。さらには、男性から女性に性転換した著名人の名前のうしろに「man (男)」と、女性から男性に性転換した著名人のうしろには「woman(女)」と入れて、著名人が自認している性別とは異なる扱いをしているのだ。

Screenshots by JD Shadel

これらはオートコンプリート機能が挙げる上位候補に加えて、Googleの「ほかの人はこちらも検索」と「ほかのキーワード」にも頻繁に表示されることに気づいた。検索エンジンの分野で最も重要な役割を担い業界シェアのおよそ86%を誇るGoogle以外にも、「Microsoft Bing」や米国の「Yahoo!」といったそこまで使われていない検索エンジンでも、トランスジェンダーの嫌悪を示唆する検索候補を確認している。

調査を実施していた3カ月間で、50名の著名人に対して225件のトランスジェンダー嫌悪を示唆する検索候補を記録し、名簿のようなものをつくった。この名簿のなかには作家のチャズ・ボノや映画監督のウォシャウスキー姉妹、水泳選手のリア・トーマス、俳優のインディア・ムーア、活動家のチェルシー・マニング、俳優のエリオット・ペイジ、MJ・ロドリゲス、ハンター・シェイファーなど、ほかにも多数の名前が含まれる。

これは、ひとりのジャーナリストが個人的に作成したリストにすぎない。つまり、世間を牽引するトランスジェンダーの著名人の検索結果に関する問題の「表面」を見ただけという可能性が高いということなのだ。

例えば、「is Tommy Dorfman(トミー・ドーフマンは)」と検索ボックスに入力すると、「is Tommy Dorfman a man(トミー・ドーフマンは男?)」や「is Tommy Dorfman on hormones(トミー・ドーフマンはホルモン剤を投与している?)」といったものが検索候補に含まれている。また、「トミー・ドーフマン」と単体で入力してみたところ、「Tommy Dorfman before and after(トミー・ドーフマン 性転換 前 後)」が候補として出てきた。

リリー・ウォシャウスキー(『マトリックス』シリーズの共同監督)に関しては、Google 検索は「as a guy」や「before surgery」「man」を付け加えて検索することをすすめてきた。

トランスジェンダーの著名人(エリオット・ペイジや歌手のキム・ペトラス、チェルシー・マニングほか多数)の検索候補として挙がる言葉は「デッド・ネーム」や「birth name(生誕名)」もしくは「real name(本当の名前)」だった。

アレクサンドラ・ビリングスやMJ・ロドリゲスを始めとするトランスジェンダー女性に多くみられた検索候補は、自認している性別とは真逆の言葉である「男」が多く付け加えられていた。そして、検索をかけたトランスジェンダーのほとんど全員に対して「before(前)」や「before surgery(手術前)」「before transition(性転換前)」といった言葉が検索候補の上位を占めていた。

グーグルの広報チームにこのことを報告したところ、1日も経たないうちにトランスジェンダーの著名人が自認する性とは逆のあからさまな候補を削除している(この時点でグーグルからは面談の依頼はなく、声明も発表されていない)。

欠陥のあるフィルタリングシステム

だが、ウェブ上のいたるところで見られる予測的な検索動作の影響は手の届かないところまで及んでいることを、グーグルに報告する前に話を聞いたメンタルヘルスの学者や専門家たちは危惧している。

「こうした検索候補は、わたしたちが暮らしている文化や社会、政治情勢にトランスフォビアがはびこっていることを示しています」と、学者で療法士のアレックス・イアンタッフィは語る。「それによって、自身の性別を探していたり、アイデンティティや感情を世界に共有しようとしたりするトランスジェンダー、もしくはノンバイナリー(性自認が男性と女性のどちらにも当てはまらない、もしくは当てはめたくない人)の人々が苦痛を感じることになります」

イアンタッフィは、検索候補をトランスジェンダーの人間性を無視し、萎縮させるインターネット上の“ジェンダー取り締まり”の大きなシステムのなかで文脈づけている。Google 検索のような日常的な作業でトランスジェンダー嫌悪に繰り返し遭遇することは、うつ病や不安障害、薬物乱用、自殺につながる可能性があると、イアンタッフィは指摘する。

「このような精神疾患や心理的な悪影響は、少数派のコミュニティで多く見られています。それは、こうした人々が軽んじられているからではありません」と、イアンタッフィは説明する。「ごく簡単なタスク、例えば情報の検索や街中を散歩しているとき、トイレに行くだけでも、組織的な弾圧にあっているからです」

Google 検索がトランスジェンダーの著名人の“本当の名前”や公人が“男”であるか検索することを後押しすることは、性転換手術を終えたすべての人に対して尋ねてもいいことを意味しているのだと、イアンタッフィを始めとする専門家は指摘する。これは、トランスジェンダーの人々がオンライン上で経験する差別的で敵対的な環境を永続させるものだ。

こうしたなか、グーグルはその権力と利益にもかかわらず、トランスジェンダーを嫌悪する言葉が予測検索候補に表示される事態を防ぐ効果的な対策をとっていない。代わりにグーグルは、まさにこの記事のような事後報告と連動した欠陥のある自動フィルタリングシステムに頼り、報告を受けてから手動で修正を加えているのだ。

すべてはユーザーの手に委ねられている

グーグルはAIが「Google 検索のコンテンツポリシー」に違反する候補を提案しないよう、自動化されたシステムを運用している。このシステムは規約に反する候補の多くをフィルターできているが、少数派のコミュニティごとのヘイトスピーチのニュアンスをすべて認識できているわけではない。

グーグルは、オートコンプリート機能に関する問題のいくつかに対処するべく、定期的に修正を加えている。ところが、多くの少数派のコミュニティにとって、差別的な検索予測を効果的に報告するための負担は、ほぼ完全に一般人の手に委ねられているのだ。

実際のところグーグルは、問題のある検索候補に関する報告は17年以来ユーザーに頼りきっている。検索候補の下部や候補の横に小さく灰色の目立たない文字で書かれた「フィードバック」機能や「不適切な検索候補の報告」のリンクからのみ報告できる仕組みなのだ。

これらのリンクをクリックすることで、ユーザーはどの検索候補に問題があるのかを示すよう求められる。だが、過去にジャーナリストから指摘された際には、より目に見えるかたちでグーグルは行動を起こしていた。

グーグルにコメントを求めた翌日、トランスジェンダーの著名人を入力した際に表示されるオートコンプリートの検索候補を確認したところ、徐々に変わり始めたのだ。

これまで表示されていた最も卑劣な検索候補は表示されていなかった。リリー・ウォシャウスキーを例に挙げると、これまで上位に表示されていた「as a guy(男として)」や「man(男)」のような文言は完全に排除されていたのだ。

このような措置がとられることは想定していた。過去に『ガーディアン』『WIRED』などのメディアによって「Hitler is my hero(ヒトラーはわたしのヒーロー)」のような検索候補の存在を指摘された際には、ものすごい速さでグーグルは対応していたからだ。

このようにグーグルは、ソーシャルメディアからの反発やジャーナリストによって検索候補が指摘された際に、何らかの行動を起こしていた過去がある。

AIによるフィルターゆえの難しさ

Google 検索における差別的な検索候補について『ガーディアン』が報じたあと、グーグルは「指摘されてから1時間以内に対応をしている」と、広報担当者は語っている。『WIRED』の17年の記事においてグーグルは、メディアによって指摘されたいくつかの検索候補は削除されたことが、記事が更新された際に注釈として付け加えられている

グーグルが差別的な検索候補を識別するために使っている自動システムが機能していないことは、これで明らかになった。システム上の変更を加えるのではなく、グーグルはアルゴリズムを微調整して同社のポリシーに違反する検索分野にフィルターをかけているだけのようなのだ。

「わたしたちのポリシーに違反しているたくさんの検索候補が表示されないよう、自動的にフィルターをかけています。しかし、残念ながらシステムが想定通りに稼働していなかったことで、問題が発覚したようです」と、グーグルの広報担当者はコメントを求めた3日後に語っている。「当社のポリシーのもと、こうした検索候補は削除しました」

自動化されたシステムは「性別のようにセンシティブな特徴」に関連する言葉を検知するようにつくられていると、広報担当者は語る。だが、「before」や「surgery」といった言葉は「分類するアルゴリズムによって認識されていなかった」という。4月中旬の時点で「before surgery(手術前)」や「gender at birth(生まれたときの性別)」、「is [X] on hormones(〇〇はホルモン剤を投与している?)」、そして「birth name(生まれたときの名前)」といった検索候補は、一部のトランスジェンダーの著名人の名を入力すると表示されている。

グーグルの広報担当者によると、「before」や「birth name」を世界の検索候補から削除することで、シスジェンダー(生まれたときの性別と自認している性別が一致している人)の著名人を検索する際に役に立たなくなる可能性があるという。

米国社会の文化的な不平等を反映

正式に発表されたグーグル広報からのコメントによると、「強化された自動プロテクションを実装」することで、こうした問題に対処していくようだ。しかし、プロテクションを強化する方法やトランスジェンダーコミュニティに対してヒアリングを実施する計画といった詳細は明かされていない。

だが、こうした修正は付け焼き刃にすぎないと、研究者でワシントン大学Department of Human Centered Design & Engineeringの博士号取得候補者のオズ・キーズは指摘する。

「グーグルはオートコンプリートシステムの改革を事後報告に頼っているので、どのクエリがいつブロックされるかは、それによって被害を受ける人々の権力と知名度に一部依存しているのです」と、キーズは語る。「もしマイノリティのコミュニティに属しており、(トランスジェンダーのように)意思決定の過程でしばしば退けられたり軽視されたりするのであれば、列の最後尾にいることを意味しています」

広報担当者が言うように、グーグル自体がトランスジェンダーを嫌悪するような検索ワードを候補に組み込んだわけではない。問題のある検索候補に関するグーグルの過去の声明は、自動化された結果が人々の検索を反映していることを強調する傾向にある。

ひとつの視点から考えると、検索候補に表示される差別的な言葉に関してグーグル側に責任がないことは確かだ。「白人至上主義でシスノーマティブ(シスジェンダーであることが当たり前という考え)、ヘテロセクシストで障害者差別、ファットフォビック(太っている人の嫌悪)、資本主義的、定住植民地的な社会からなる米国での検索は、構造的、文化的な不平等をすべて反映しているのです」と、『Design Justice』の著者で「Algorithmic Justice League」の研究ディレクターを務めるサーシャ・コスタンザ=ショックは指摘する。

もし、社会のあらゆるレベルでトランスジェンダーへの暴力やジェンダーに基づいた差別を根絶すれば、人々の検索行動や興味はいい方向に必ず変わるだろう。「そうすることで、オートコンプリートがデッドネームを検索候補に挙げることや手術前の写真の検索を促すこと、そして“実名”を検索させるようなことはなくなるでしょう」と、コスタンザ=ショックは語る。

グーグルは、検索候補に反映される社会的な悪を直接的に制御しているわけではないかもしれない。しかし、その“鏡”を設計したのはグーグルなのだ。「検索インターフェースのような社会技術的システムによって構築された不平等は、それらを生み出している企業やメーカーにとって“免罪符”にはなりません。なぜなら、こうした企業で働く人々は影に隠れた問題を認識しているからです」と、コスタンザ=ショックは指摘する。

このような指摘をグーグルの広報担当者は受け入れながらも、Google 検索の不具合によって被害を受けた人々への配慮を欠いているわけではないと説明する。だが、ここでひとつの疑問が生じてしまう。グーグルはこのような被害が生じる前に、それを軽減する十分な措置を講じているのだろうか。

万人に最適化できていない検索システム

検索の予測機能は、グーグルのような若いスタートアップ企業が人々の生活を改善する方法に焦点を当てていた「技術楽観主義」の時代に始まったものだ。グーグルのエンジニアのケヴィン・ギブスは、Google Labsの最新の実験であるオートコンプリート機能(発表当初は「Google Suggest」と呼ばれていた)を紹介する簡潔なブログを04年に投稿している

「Google Suggestは、お気に入りの検索を簡単に入力できるようにするだけの機能ではありません(正直なところ、たまには楽をしたいときもあると思います)」と、ギブスは記している。「これと同時に、ほかのユーザーが何を検索しているのか探索できるような“遊び場”も提供します」

かくして、オートコンプリート機能は08年にGoogle 検索に標準搭載された。それ以来、予測検索はマイクロインタラクションのひとつとなり、わたしたちが情報を検索する際にシンプルで本質的なものだと感じられるようになっている。このようなオートコンプリート機能の裏にはアルゴリズムが存在していることを、忘れてしまうくらいだ。

「グーグルのAIはさまざまなユーザーの検索文字列を分析し、ある文字列の後ろに別の文字列や単語が続く確率や可能性を割り当てているのです」と、コスタンザ=ショックは語る。グーグルによると、オートコンプリートのアルゴリズムは頻繁に検索されているものやユーザーの言語と地域、 検索のトレンド、個人の検索履歴など、いくつかの要因に基づいて表示する予測を決定しているという。

グーグルの検索関連の広報担当者は、「暴力的なものや性的、憎悪的、中傷的、または危険な用語やフレーズを認識するよう設計した」システムが導入されているとブログ投稿で記している。だが、こうしたシステムは幾度にわたって失敗しているようだ。

オートコンプリート機能の恐怖は、しばしば社会的マイノリティに不釣り合いな影響を与えている。サフィヤ・ウモジャ・ノーブルが18年に発表した『Algorithms of Oppression』 は、グーグルの検索アルゴリズムがいかに反黒人人種主義や性差別を助長しているかについて、10年にわたる研究が記録されている。また、国連は女性差別と同性愛の嫌悪のまん延を示すために、13年にグーグルの検索予測を使った取り組みを実施している

『ガーディアン』が16年に実施した調査によると、右翼団体がグーグルのアルゴリズムを操作していることが明らかになっており、「Jews are evil(ユダヤ人は悪だ)」といった検索候補が表示されていたという。また『WIRED』の記事では、Google 検索がイスラム恐怖症や反ユダヤ主義、性差別、人種差別などに根ざした「下劣な検索候補」を表示していたことを17年に明らかにしている。

トランスジェンダーの著名人に関する検索結果は、専門家が何年も前から注意を呼びかけている問題に対する解決策をグーグルが見つけられていないことを示す、新たな指標にすぎないのだ。

トランスジェンダーの人格形成にも影響

アルゴリズムによって引き起こされたり悪化したりする社会的な害は、最も喫緊の技術的かつ政治的な問題のひとつになっている。

YouTubeのAIが過激派の温床になっていることや、Facebookが民主主義を弱体化させていることなど、いまや学術分野全体がこのような問題に焦点を当てている。研究者たちは大手テック企業が個人の行動に影響を与えるだけでなく、市民的、社会的領域を再形成する大きな力をもっていることを繰り返し実証しているのだ。

Google 検索では、検索ページに表示される結果の順番が人々の認識や選挙結果を左右する可能性があることが、研究により明らかになっている。これは一般的に「検索エンジン操作効果」と呼ばれており、検索結果の上位表示順位の変動がユーザーの選択から投票行動まであらゆるものに「大きな影響を及ぼす」ことが指摘されている。

こうした研究結果から、オートコンプリート機能の候補も同じように強い影響力があると言っても過言ではないかもしれない。

LGBTQ+の精神衛生の専門家は、何年も前からトランスジェンダーやクィアの人々がオンライン上で否定的に表現されることが、ウェルビーイングや自己像に影響を及ぼしかねないと警鐘を鳴らしてきた。そして、こうした検索候補もメンタルヘルスに悪影響を及ぼすことを、療法士のイアンタッフィは指摘している。

「Google 検索上で表示されるトランスフォビックな含意は、人間性喪失の過程を加速させています」と、イアンタッフィは語る。「こうした事例は若者たちに強い影響力をもっているのです」

求められる抜本的な改革

だが、“完璧”なアルゴリズムは存在しないというグーグル経営陣の声明を見る限り、こうした問題は大きすぎて解決し難いことが示唆されている。しかし、多くの学者や活動家が着目している点は、アルゴリズムが完璧かどうかではない。グーグルがこれらの問題を真摯に受け止め、被害が生じる前にそれを軽減するための十分な措置を講じているかどうか、ということなのだ。

「グーグルは、より倫理的で説明責任のある方法でサービスを提供する必要があるという考えに対して、ある種のリップサービスを始めています」と、コスタンザ=ショックは指摘する。「いざ蓋を開けてみると、グーグルの取り組みは単なる見せかけにすぎないことが多いのです」

グーグルのAI倫理研究者でこの分野の研究を牽引していたティムニット・ゲブルは、20年12月に同社を解雇された。ゲブルの研究は、現代の検索機能を支えている大規模な言語モデル(『MITテクノロジーレビュー』が言うところの「大量のテキストデータ」で訓練された深層学習アルゴリズム)のリスクを暴露したものである。

ゲブルがグーグルを追われる引き金となった研究論文では、大規模な言語モデルは環境や誤報のコストに加えて、膨大な情報量のせいで「人種差別や性差別、その他の虐待的な言葉」で訓練されてしまい、何が差別的な発言に該当するのか細かいニュアンスを把握できない傾向があることを発見している。

「検索エンジンは数十年にわたり、検索のさまざまな側面が有害であることを人々に伝えてきています」と、コスタンザ=ショックは語る。

こうした警告はますます大きくなり、活発な抗議活動や政府の介入を求める声へとつながっている。ゲブルが新たに立ち上げた分散型AI研究所やAlgorithmic Justice Leagueなど、同じ考えをもつ組織のネットワーク(多くはAI倫理の分野で活躍する黒人女性の活動によって推進されている)は、現在これらの問題に焦点を当てている。

「Google 検索は昨日や今日で完成した検索エンジンではありません」と、コスタンザ=ショックは指摘する。「もしグーグルが望んでいるのなら、正しい選択をし、この問題の本質を理解し、これらの解決策を見つけるために重要なリソースを投じられるはずです」

them/Translation by Naoya Raita)

※『WIRED』によるLGBTQ+の関連記事はこちらグーグルの関連記事はこちら


Related Articles
Blue chatter teeth toys on rows of blue pedestals
高精度な会話型AI「ChatGPT」に対抗すべく、グーグルが「Bard」を発表した。これから数週間のうちに利用可能になる見通しで、APIによって開発者が独自のアプリケーションを構築できるようになる点が特徴となる。
An illuminated Microsoft sign outside a building at night
業界2位の検索エンジンであるマイクロソフトの「Bing」に、高精度な会話型AI「ChatGPT」を組み込んだ新バージョンを同社が発表した。これにより圧倒的な首位を誇ってきたGoogle 検索に対抗する狙いだが、まだ解決すべき重要な課題も残されている。

毎週のイベントに無料参加できる!
『WIRED』日本版のメンバーシップ会員 募集中!

次の10年を見通すためのインサイト(洞察)が詰まった選りすぐりのロングリード(長編記事)を、週替わりのテーマに合わせてお届けする会員サービス「WIRED SZ メンバーシップ」。毎週開催のイベントに無料で参加可能な刺激に満ちたサービスは、無料トライアルを実施中!詳細はこちら