オープンソースの人工知能（AI）プロジェクトを展開しているHugging Faceが、AIによる画像生成ツール「DALL·E mini」へのアクセスが急増していることに気付いたのは、6月6日（米国時間）のことだった。
この一見すると単純なアプリは、どんなテキストを入力されても対応する9つの画像を自動生成するシステムで、ほぼ1年前に独立開発者によって提供が開始されたものである。ところが、最近になって改善が施され、いくつかのツイートが話題になった。かくして、あらゆる種類のシュールで滑稽で、悪夢のようとさえ言える画像を生成する機能が、ミーム（ネタ画像）を生み出す魔法となったのである。
以下に次に挙げる言葉から、DALL·E miniが生み出した画像を見ていただきたい。「ウォルマートで母親を探すサノス」「酔っぱらった上半身裸の男、モルドールをさまよう」「ダース・ベイダーのブレイクダンスを映した監視カメラの映像」「ソンブレロを被ったハムスター・ゴジラ、東京を襲う」──といった具合だ。
DALL·E miniで画像を生成してTwitterやRedditで共有する人が増え、さらには新規ユーザーが増えていく。こうしてHugging Faceのサーバーは、トラフィックを処理しきれなくなった。
「うちのエンジニアが徹夜するはめになったのは、あれが初めてでした」と、Hugging Faceの最高経営責任者（CEO）のクレメント・デラングは、マイアミにある自宅からビデオ通話で語っている。「こうしたモデルの大規模な提供は非常に困難です。エンジニアたちは、あらゆるものを修正しなければなりませんでした」
この数週間でDALL·E miniは、1日あたりおよそ50,000個の画像を提供している。
DALL·E miniが話題になった事態には、ミームづくりの新手法の登場を知らしめた以上の意味がある。要望に応じて画像を生成するAIツールが広く利用されるようになった際に何が起きるのかについて、初期の知見を提供し、その影響に予測できない部分があることを教えてくれているのだ。
カスタマイズされた写真や芸術を生み出すアルゴリズムは芸術を変革し、さまざまな事業をマーケティングの面で支える可能性を秘めている。一方で、人々を操り、誤った方向に導く力を備えてもいるのだ。
DALL·E miniのウェブベージには警告文が書かれている。DALL·E miniが「社会的偏見の助長もしくは悪化」または「マイノリティー集団に対するステレオタイプを含む画像を生成」する可能性があるという警告だ。
DALL·E miniは、さらに強力な画像生成ツール「DALL·E」（サルバドール・ダリと、ピクサーのアニメ「ウォーリー（WALL-E）」をもじって付けられた名称）に着想を得ている。AI研究企業であるOpenAIが2021年1月に発表したDALL·Eは、より強力な能力をもつが、誤った用途に使われるという懸念から一般には公開されていない。
生み出されたクレイジーな画像
AIの研究におけるブレイクスルーが数カ月という短期間で模倣されることは、いまや珍しくない。DALL·Eも例外ではなかった。
テキサス州ヒューストンの機械学習コンサルタントのボリス・デイマは、オリジナルのDALL·Eの研究論文に魅了された。OpenAIはコードを開示していなかったが、彼は21年7月にHugging Faceとグーグルによって開催されたハッカソンで、急ごしらえではあるがDALL·E miniの最初のバージョンの開発に成功したのだ。
最初のバージョンが生成する画像はクオリティが低く、多くの場合は理解することが難しいものだった。それでもデイマは改良を続けた。
こうして進化したDALL·E miniのプロジェクト名について、このほどデイマは「Craiyon」に変更した。これはオリジナルのDALL·Eプロジェクトとの混同を避けるために名称を変更するよう、OpenAIが彼に要請したからである。新しいサイトには広告が掲載されており、デイマはプレミアム版を用意することも計画している。
DALL·E miniが生成する画像は独特で、宇宙人を思わせる。描かれた物が歪み、汚れているのはよくあることだ。人物の場合は顔や体の一部がなかったり、めちゃくちゃになっていたりする。
それでもたいていの場合は、何を表現しようとしているのか理解することは可能だ。ときに頭がおかしくなりそうなAIの出力結果を、入力した文章と比べるのは楽しくもある。
DALL·E miniのAIモデルは3,000万個のラベル付けされた画像を分析し、単語とピクセルの間にある関係性を抽出することで収集した統計パターンを利用して画像を作成している。開発者のデイマは、OpenAIが公開したものを含めウェブから収集した公開画像集からそうした訓練データをまとめた。
このシステムはミスを犯す場合があるが、その要因のひとつは物理世界で物体がどう動くべきなのか真に理解していないからである。小さな断片のような文章は往々にしてその意図が曖昧で、AIモデルは人がするようにはその意味を理解しない。
とはいえ、デイマはこの数週間にわたって人々が彼の創造物をうまく使うことで生み出してきたものに驚かされている。「わたしが入力した最もクリエイティブな文章は、『月に立つエッフェル塔』でした」と、彼は言う。「いまでは誰もがいろいろクレイジーなことをやっています。そして、それがうまくいっているんです」
AIの進化がもたらす課題
だが、そうしたクリエイティブな文章の一部は、DALL·E miniをおかしな方向へと導いている。
このシステムは“露骨”な内容については訓練されておらず、一部のキーワードをブロックするよう設計されている。それにもかかわらず、ユーザーは戦争犯罪や学校銃撃事件、世界貿易センタービルへの攻撃といった内容を含む文章から生成された画像を共有していたのだ。
近年はAIによる画像の操作が、AI研究者や政治家、オンラインハラスメントに取り組む非営利団体にとって懸案事項になりつつある。ディープフェイクと呼ばれる実在の人間の“なりすまし”の画像が、その一例だ。
こうしたなか機械学習の技術が進化することで、AIが生成する画像には数多くの有益な用途が見つかることだろう。一方で、嘘やヘイトを拡散するといった悪意ある用途も実現してしまう。
OpenAIは22年4月、進化した画像生成ツールとして「DALL·E 2」を発表した。このDALL·Eの後継となるAIは、まるで写真のような画像やプロの芸術家が描いたかのようなイラストを生成できる。
OpenAIによると、DALL·E 2はより真実味のある画像を生成できるので、オリジナルのシステムよりさらに問題をはらんだ存在になりうるという。同社はシステムの訓練データのフィルタリングや、望ましくない成果物の生成につながる可能性があるキーワードを規制することで、悪用のリスクを軽減するという。
OpenAIは、DALL·EとDALL·E 2の利用を選ばれたユーザーに限定している。そうしたユーザーは芸術家やコンピューターサイエンティストなどで、同社から厳しいルールに従うよう求められている。OpenAIによると、こうしたやり方によって「技術の可能性と限界を学ぶ」ことができるのだという。
一方、ほかの企業は独自の画像生成ツールを驚くべき速さで開発中だ。グーグルは今年5月、「Imagen」と呼ばれる研究用システムを発表している。同社によると、これはDALL·E 2と同等の品質の画像を生成できるという。
さらにグーグルは6月下旬、異なる技術的アプローチを採用した「Parti」という別のシステムも発表した。どちらのシステムも公開はされていない。
まったく新しい創造の方法に？
実際のところ、DALL·E 2を利用できる人々の用途はさまざまだ。そのひとりであるアーティストのドン・アレン・スティーヴンンソン3世は、新しいアートワークを制作する際にアイデアのブラッシュアップしたり、制作スピードを速めるためにDALL·E 2を用いている。例えばSnapchatの拡張現実（AR）フィルターで人間をコミック調のロブスターに変えたり、人気のNFT（非代替性トークン）「Bored Ape Yacht Club」のサルのようなイラストに変えたりするようなツールだ。
「まったく新しい創造の方法を学んでいるかのように感じています」と、スティーヴンソンは言う。「このシステムは、さまざまな作業の反復を支援してくれます。おかげで自分のアイデアに基づいてリスクをとってみたり、より複雑なデザインを試したりできるのです」
ただし、OpenAIは特定のコンテンツの作成を禁止するルールをDALL·E 2のプログラムに組み込んでいる。スティーヴンソンは、この制約に突き当たったことがあるという。「“ガードレール”が存在していることを、ときどき忘れてしまいます。アプリからの警告で思い出させてもらう必要があるんです」
アプリから警告には、DALL·E 2を利用する権利が取り消されてしまう可能性があると示されていたという。しかし、こうした制約についてスティーヴンソンは、自分の創造性を制限するものとは考えていない。なぜなら、DALL·E 2はいまだに研究プロジェクトの段階にあるからだ。
偽物を区別するための“気づき”になるか
Hugging Faceのデラングによると、DALL·E miniが生成した画像がDALL·E 2によってつくられた画像と比べて“粗雑”であるのはいいことなのだという。なぜなら、DALL·E miniでつくられた画像に見られる異常な点は、そうした画像が「現実」ではなくAIが生成したものであると明確に示してくれるからだ。
こうした点は、これまでほとんど公にされてこなかったAIによる画像操作能力を、ユーザーがDALL·E miniから学ぶ助けになるのだとデラングは指摘する。「機械学習は技術構築における新たな標準的手法になりつつあります。しかし、閉ざされた世界でAIツールを開発している企業との間には、このような断絶が存在しているのです」
DALL·E miniのコンテンツが絶えず供給されていることで、Hugging Faceが技術的な問題を解決する上で役立っているとデラングは言う。性的に露骨な結果や成果物における偏りといった問題に、ユーザーがフラグを付けてくれるからだ。
ウェブからの画像で訓練されたシステムは、例えば根深い社会的なバイアスを反映することで、あるジェンダーを別のジェンダーと比べて特定の役割に当てはめがちになる。例えば、DALL·E miniに「医者」を描くよう指示すると、男性に似た姿を出してくる。「看護師」を描くよう求めると、画像は女性を表そうとしているように見えるのだ。
Hugging FaceでAIの倫理に取り組んでいるリサーチ・サイエンティストのサーシャ・ルッチオーニは、DALL·E miniによるミームが大量に供給されたことで、これらの新しい種類のAIモデルにおける社会的バイアスを検知または測定できるツール開発の重要性に気づいたという。「これらのシステムが害と利益の両方になりうるさまざまな道を、いま間違いなく目にしているのです」と、彼女は言う。
こうした害の一部は、制御がますます困難になっていく可能性がある。DALL·E miniの制作者であるデイマは、彼が作成したものと似たさらに多くの人に使われるようになったツールが、より写実的な画像を作成できるようにもなるのも時間の問題だと認めている。
一方でデイマは、この数週間で広まったAIが生成したミームは、最終的にそうした事態にわたしたちが備える助けになったかもしれないと考えている。
「そうした問題は到来しつつあるのです」と、デイマは言う。「人々が画像を見たときにそれが本物ではないかもしれないとわかるようになるための気づきを、DALL·E miniが人々に与えられたらいいと考えています」
（WIRED US/Edit by Daisuke Takimoto）
※『WIRED』による人工知能（AI）の関連記事はこちら。
毎週のイベントに無料参加できる！
『WIRED』日本版のメンバーシップ会員 募集中！
次の10年を見通すためのインサイト（洞察）が詰まった選りすぐりのロングリード（長編記事）を、週替わりのテーマに合わせてお届けする会員サービス「WIRED SZ メンバーシップ」。毎週開催のイベントに無料で参加可能な刺激に満ちたサービスは、無料トライアルを実施中！詳細はこちら。