「若い体操選手」や「10代以下インフルエンサー」をフォローするアカウントを作成したら性的なコンテンツが大量にオススメ表示されたという報告

Instagramはスポーツやファッション、美容や音楽など、ユーザーが興味を示したと判断されたトピックが優先的に表示されるようになっています。そのため、特定のジャンルのムービーばかり検索して視聴していると、それに関連したムービーばかり並ぶということになりがち。ウォール・ストリート・ジャーナルとカナダ児童保護センターが独自に実施したテストでは、「児童ポルノに興味があるアカウント」を作成した結果、性的な投稿と大手ブランドの広告が混ざって表示されたことが報告されています。

Instagram’s Algorithm Delivers Toxic Video Mix to Adults Who Follow Children - WSJ
https://www.wsj.com/tech/meta-instagram-video-algorithm-children-adult-sexual-content-72874155

Instagram Reels served 'risqué footage of children' next to ads for major companies: report
https://nypost.com/2023/11/27/business/instagram-reels-served-risque-footage-of-children-next-to-ads-for-major-companies-report/

ウォール・ストリート・ジャーナルは2023年6月に、Metaが運営するFacebookおよびInstagramは共に「小児性愛コンテンツに関心のあるユーザーの大規模なコミュニティを形成するアルゴリズムになっている」と報じました。特にInstagramにおいて、興味のあるジャンルに関連したアカウントをおすすめするアルゴリズムによって、小児性愛に関心のあるユーザーを児童ポルノをはじめとする違法な性的コンテンツを販売・共有するアカウントへ誘導する効果があると指摘されています。

Instagramのアルゴリズムはユーザーに「子どもの性的コンテンツを販売するネットワーク」を推奨していることが判明 - GIGAZINE

この報道を受けて、Metaの広報担当者は「新しく設置された対策本部が、不審な行動をするユーザーを自動で検出するシステムを拡張し、毎月数万件のそのようなアカウントを削除しました。Instagram上で不適切なコンテンツが蔓延していることは少なく、Metaはそれを減らすために多大な投資を実施しています」と報告していました。

新たに、ウォール・ストリート・ジャーナルは「児童ポルノに興味を持つユーザー」に対するInstagramアルゴリズムの反応をテストしました。まず、ウォール・ストリート・ジャーナルは「児童ポルノに興味を持つユーザー」を再現するために「若い体操選手やチアリーダー」「10代以下の若いインフルエンサー」のみをフォローするアカウントを複数作成。その結果、作成したアカウントすべてでInstagramの自動選択投稿として「未成年の児童を撮影したきわどいムービー」や「あからさまに性的な投稿」が表示されたほか、性的な投稿と合わせて大手ブランドの広告も表示されることが確認されました。

テスト作成したアカウントでは、不適切なコンテンツと並んでディズニーやピザハット、ウォルマートなどの広告が表示されたとのこと。ウォール・ストリート・ジャーナルがテスト結果をディズニーに報告したところ、ディズニーのブランド管理を担当するチャーリー・ケイン氏は「ディズニーは広告に許容されるソーシャルメディアコンテンツに厳格な制限を設けており、Metaやその他のプラットフォームに対し、ブランドセーフティ機能の改善を求めています。ウォール・ストリート・ジャーナルの調査結果以来、『Metaの最高レベル』でこの問題に対処するよう要請しています」と語りました。なお、ウォール・ストリート・ジャーナルはピザハットにもコンタクトを取りましたが、ピザハットはコメントを拒否しています。

ウォール・ストリート・ジャーナルは2023年8月時点でテスト結果をMetaに通知しましたが、Metaは「(ウォール・ストリート・ジャーナルが作成したテスト用アカウントは)実際のユーザーが実際に見ているものを反映していない、『作られた体験』である」と反論したとのこと。ウォール・ストリート・ジャーナルは「Metaは、問題解決のスケジュールを提示しておらず、子供を題材にした不適切なコンテンツをおすすめする機能が、将来どのように制限されるのかについても説明していません」と指摘しています。