ポッドキャスト「SNEAK PEEKS at SZ MEMBERSHIP」はこちらからご視聴いただけます。

──みなさん、こんにちは。SNEAK PEEKS at SZ MEMBERSHIPでは、SZ会員向けに公開した記事のなかから、注目のストーリーを編集長の松島が読み解いていきます。今回は2023年3月WEEK#4のテーマである「AI」についてです。編集長、よろしくお願いします。今週はどうでしたか?

よろしくお願いします。今週は、東京大学筧康明研究室の研究成果発表会「xlab Showcase 2023 “Ways of Uninventing”」に行きました。筧さんはWIREDのCREATIVE HACK AWARDの審査員でもあり、先日お会いした際にこの発表会をご紹介いただいたんですが、植物や粘菌、液体やテキスタイルまで、多様なインターリレーションに心躍るプロトタイピングが盛りだくさんでした。

──研究室のみなさんの今後のご活躍も楽しみですね。それでは早速、記事の読み解きにいきたいと思いますが、松島さんの今週のピックアップは「AIによる芸術の死? 写真が登場したときも同じことが言われた」という記事でした。写真の登場という前例に倣うなら、今後アーティストとAIは相互に影響し合い、コラボレーションの時代が到来するだろうという内容ですね。

今週もWIRED.jpでは、ジェネレーティブAIが普及する未来は明るいのか?というテーマからAIは核兵器のように危険だというものまで、AIに関する多数の記事を取り上げたけれど、AIがもたらす変化については世界中でさまざまに議論されているところだよね。

今週の記事:AIによる芸術の死? 写真が登場したときも同じことが言われた

まず見てほしいのは、この記事のキービジュアル。ダゲレオタイプという初期の写真撮影法が生まれた1839年にフランスで描かれた風刺画で、人々が写真機に殺到する脇で画家たちが首を吊っているというダークなもの。このイラストを見てわかるように、写真が生まれたときにも「芸術家や絵画は死んだ」といったことが言われていたんですが、それっていま、ジェネレーティブAIが作家性やアーティスト性を奪うのかという議論が巻き起こっている状況に近いし、参照すべき歴史のひとつだと思います。

写真の登場で画家は不要になると言われていたけれど、実際はどうなったかといえば、いまだに絵画は残っていますよね。それに、記事で触れられていますが、絵画や美術が大学のような高等教育の授業科目になったのは写真の登場後というのも示唆的です。あと、初期の写真はシャッター速度が遅くて止まっているものしか撮影できませんでしたし、白黒だったので、肖像画には写真とは違う需要があったんです。

一方、写真が出てきたことで、絵画に新しいスタイルが生まれました。それまで絵画のテーマになりえなかった何気ない日常を切り取ったような絵が生まれたり、光の動きを捉える印象派が生まれたのも、明確に写真の影響だと言えます。

影響を受けたのは絵画だけでなく、写真家もそうです。いかに絵画のもつ芸術性を写真のなかに引き入れるかを模索し、現像室で歪めてみたり、加工したり……。人類はテクノロジーの登場によって新たな芸術表現を発展させてきたというわけです。

AIによって芸術家が不要になるのではなく、新たな芸術表現が生まれたり新しい芸術ジャンルが確立されていくと教えてくれるような記事でした。

──互いに刺激し合って、新しいものが生まれるということなんですね。

ちょうど『WIRED』では、グローバル・エディトリアル・ディレクターのギデオン・リッチフィールドがWIREDではジェネティブAIをツールとしてこう使いますっていうガイドラインを出したんです。AIがつくった動画や写真、文章を「作品」として扱うことはないけれど、選択肢を増やしたり、参考にしたり、人間が何かをつくり出すときに可能性を拡げてくれるツールとしては使っていきますという内容です。こうした使い方のなかから、何か新しい表現が生まれてくるんだったら、それはすごく楽しみなことですよね。

一方で今週は、「ジェネレーティブAIは、人生を破壊するディープフェイク画像を簡単に生成する」という記事でAIのネガティブな影響も取り上げています。

──この記事のキービジュアルに写っている「ジョン」は、実際には存在しない人物なんですね。AI技術があれば特定の人物をどんなシチュエーションにだって置くことができるという内容でした。

これはArs Technicaの記事なんですが、編集部があるボランティアに「SNS上のあなた画像を使ってAIにフェイク画像をつくらせてもいい?」とお願いして、許可までちゃんととったんですが、出来上がった画像を公開すると本気でその人の評判を落とす危険性が高すぎるということで、AIを使って架空の人物「ジョン」をつくり上げたそうです。ジョンがいい笑顔で写っていたり、宇宙飛行士になっていたりする写真のほかに、職場でヌードの女性と写っている写真や、刑務所に入っている写真なども生成しています。

今週の記事:ジェネレーティブAIは、人生を破壊するディープフェイク画像を簡単に生成する

AIがもたらすインパクトのなかでも、人の印象を操作してしまうフェイク画像が今後いくらでもオンライン上に流れてくる未来が目の前にあるなかで、どう対処していくかは真剣に考えるべきことですよね。残念ながら、いま考えられる対策はどれも心もとないものです。ひとつは、AIが生成した画像に目に見えないウォーターマーク(透かし)を入れるルールにするというものなんですが、フェイク画像が一度拡散してしまうと手遅れだというか、印象を回復するのは難しい。となると、ベストな結論はオンラインに上がってる写真を全部消すことになってしまいます。

──写真を全部消す以外にも何かあるといいのですが……。

厳しいよね……。今週はもうひとつ、「大規模言語モデルの弱点が、社会的弱者へのしわ寄せとなっている」という記事も公開しました。AIを通して世の中のバイアスがそのまま増幅されてしまうというときに、それが倫理的によくないという議論はありますが、特にこれから起こる社会的弱者へのしわ寄せに目配せをしておくことの重要さを提示しているという点で、必読の記事だと思っています。

──年末号で、インターネットから女性たちが去っていくという記事もありましたよね。

あったね。オンラインの世界でも差別や格差が再生産されてしまうとなると、そもそもオンラインにいないほうが安全だという結論になる。常にリスクと隣り合わせで暮らしている人たちへのインパクはぼくたちが想像する以上に強いということを教えてくれる記事でした。

これ以外に、「職場にはびこる偏見や男女差別は、人間よりもAIが是正してくれる」という記事もあります。職場っていうのは特に、バイアスが固定化して見えにくくなるから、みんなが疑問をもたなくなりやすい。そういったものをきちんと数値化したり、構造化して分析したりする上で、人間よりAIの方がうまく指摘してくれるという場面はこれからも多く出てくると思います。

──人間のバイアスを増幅させる側面と、わたしたちにバイアスを気づかせる側面があるんですね。

まさにそう。本当に使い方次第だよね。この記事の論点は、AIが完璧かどうかじゃなく、少なくとも“人間より優れているか”どうかであって、偏見を見抜くのが人間よりうまいなら、上手に使った方がいいと言っています。例えば、テクノロジーが100%安全でない限りは使わない「ゼロリスク原則」みたいなものも存在しますが、それが倫理的に正しいのかどうかという議論において、それを使う人間の側のバイアスや能力の限界にどう向き合うかという視点は必要だと思います。そういう意味でも、AIをツールとして使う人間の側が試される機会になっているという昨今の議論に、今週のAI特集はさらに一歩踏み込んだかたちになりました。

──ありがとうございます。今週はこのほかにもポスト・サイバーパンクに関する記事や、連載「Web3の源流を求めて」の第2弾もアップしているので、ぜひチェックしてみてください。

[フルバージョンは音声でどうぞ。WIRED RECOMMENDSコーナーもお楽しみに!]

(Interview with Michiaki Matsushima, Edit by Erina Anscomb)