Exhibition

at Quantum Art Festival Quantum Art Festival 2/4

https://www.artfesq.com/

Dates: 7 (Thu) - 9 (Sat) December

Venue: LIGHT BOX ATELIER 2F (6-13-1 Minami Aoyama, Minato-ku, Tokyo) Opening hours: 11:00 ~ 18:00 Free admission

ABSTRACT

ARTIFICIAL ADVISORYプロジェクトは、AIがどのように未来を書き換え得るのか、そして人間の知性はどのようにそれを人間的な方法で書き換え、またはAIと共同で書くことができるのかについて探求し、生成AIの時代における人間性と自律性を警告するプロジェクトである。

このプロジェクトでは手法として、ジャーナリスティックなリサーチをベースとし、アート的かつ実験的なアプローチをとっている。量子芸術祭における展示作品として、マガジン『BASH』を制作した。『BASH』は、2040年の未来に発行される、架空の最先端テクノロジーに関するマガジンだ。特集として量子コンピュータの未来が描かれており、それらは2040年に起こり得るイノベーションを、まるで現実のジャーナリストがそうするように、批判的に表現している。しかし『BASH』は、テキストから写真まで、ほぼすべてのコンテンツがAIによって生成されたマガジンである。

近い未来のいち時点で起きる「事件」をAIで生成する

制作に用いた生成AIツールは、日常的に誰でも使えるもののみを採用している。テキスト生成にはChatGPTを、画像生成にはMidjourneyを用いている。そして生成されたコンテンツを、内容面ではほぼ無編集（※）で掲載している。生成AIツールを日常的に誰でも使えるもののみに限ったのは、AIのプロフェッショナルでなくてもつくることができるのかということを実証するためである。また制作者はこのマガジンの制作期間（2ヶ月）の間にこれらのAIツールの使用方法を習得している、正真正銘の素人である。

さらに、このマガジンは、現実の書店やWEBに並べられた際に、デザイン上の違和感が生じないように設計されている。WIREDなどのテクノロジーマガジンを模倣した、非常に洗練されたエディトリアルデザインがすべてのページに施されており、AIによって生成された文章にもすべて架空の著者名（こちらも生成されている）が振られている。この点についても、制作者は芸術大学で高度なデザイン教育は受けているが、Adobe InDesignを使用したのは、この制作期間が初めてである。

こうした制約を設計に課した理由は、近い将来、「何気なく読んでいるマガジンが、実はすべて生成だった」という事件が実際に誰にでも起こせるのかを実験するため、そして、そうした事件が起きた時、人間はどれほど誤解し、どのようにその状況に対処するのか、ということを表現するためである。『BASH』から想定される事件は、将来的な情報的なテロリズムでもあるだろう。たとえば、アメリカでは次期大統領選における偽情報の拡散を危惧し大統領令で規制を行っているが、実際に高度なプロパガンダに生成AIが用いられれば、大変な事件になるだろう。そして『BASH』が示しているのは、すでに誰にでも、そうした事件を引き起こすことができる状況が整っている、ということだ。

制作者は『BASH』の定性的な効果測定も行っている。制作者は『BASH』を「生成AIでつくった」と言わずに人々に提示するワークショップを行っている。その結果、たとえ量子コンピュータの専門的研究者であっても、『BASH』のすべてが生成されたものだと見抜くことはできなかったという定性的結果を得ている。これにより、誰でも使うことのできる生成AIツールを用いて、人間を誤解させるコンテンツを故意に制作できること、そしてそうした制作物が、非常に高度な専門知識を有している人物でも見抜くことができないという可能性がいま、ここに示唆されている。これがARTIFICIAL ADVISORYプロジェクトが行おうとする「警告」である。

人間の未来は、これからも人間の産物であり続けるのか? あるいは人間と人工の知性のものになるのか? そこから生まれる未来は誰のものなのか? そもそも、未来はどのようにして見出されていくのか? これらの問いを形にしたものが『BASH』だ。

※生成AIは、生成される文章量などを調整することが難しいため、文章量の調整のためのカット、複数の生成プロセスで生まれたコンテンツをパラグラフ単位で複合する、などは行っているが、不足している内容を補ったり、内容に変化が生じるような人為的な編集は行っていない。どうしても必要な場合は（）に入れて追記しているが、ほとんどそうしたものは存在しない。また、生成は精度と速度を重視するためすべて英語で行っている。そのため機械翻訳時における表記ゆれを統一するための編集は行っている。

サイエンスの現場で使われているプロンプトで未来を描く

ARTIFICIAL ADVISORYプロジェクトにおいて、制作者はプレプリントサーバarXivや、Github、さらにはTwitter（X）などにおいて、科学者がどのようにして生成AI（この場合はChatGPT）を使用しているかを調査し、それを制作におけるプロンプトに採用している。つまりこれから生成AIによってサイエンスがつくられる（とくに論文）としたとき、使われ得る現実的な方法を高度に応用し、『BASH』を制作している。

たとえば、Githubには学術論文に使用できるプロンプト集などは無数に共有されている。また、Twitter（X）における科学者のクラスタでは、任意の論文をChatGPTに学習させ、その論旨を把握したりすることが日常的に行われている。さらにarXivには、”GPT-4を使って科学論文の完全なPDFにコメントを提供する自動化パイプラインを作成”したという報告がされており、それによると、“…前向きユーザー調査を実施した。その結果、半数以上（57.4%）の研究者がGPT-4が生成したフィードバックが役に立った/非常に役に立ったと回答し、82.4%の研究者がGPT-4が生成したフィードバックが少なくとも何人かの人間の査読者からのフィードバックよりも有益であると回答しました。”という結果であったという。

『BASH』の制作では、これらの報告に加え、ChatGPTのより高度な応用を試みている。たとえばarXivでは、大規模言語モデル（LLM）を人間の行動をシミュレートするエージェントとして使用するCharacter-LLMが提案されている。『BASH』の制作では、この論文で提案されている手法をChat-GPTでシミュレートし、実際に記事を制作している。

つまり『BASH』は、実際にこれから生成AIによってサイエンスがつくられ得る方法を用いて制作されているのである。ポストモダニズム以降の世界は、サイエンスがこの世界におけるドミナントパラダイムであったわけだが、その一部または全部がAIによって代替される未来の質感を『BASH』は描いていると言えるだろう。

さらに、科学者の意識調査についても調べた。英科学誌『Nature』による1,600人以上の研究者を対象としたAIに関する 意識調査で明らかになったことは、研究者はAIへの期待と不安の間にいるという事実だった。研究者は、今後10年間におけるAIツールの各研究分野での活用について、半数以上が「非常に重要」または「不可欠」と予想した。また、同調査に回答した 研究者はサイエンスにおける最も印象的で有用なAIツールとしてChatGPTとLLMを挙げている。しかし生成AIのサイエンスへの応用については、68%が誤情報の拡散を心配し、68%が盗作が容易になり、その発見が困難になると考え、66%が研究論文に不正確な情報が持ち込まれることを心配していることが明らかになっている。

PROMPTS

プロンプトについては、本来は全文を公開したかったのですが、あまりにも膨大な量のテキストのため、ここでは要約に留めています。研究者の方など、提供を求める方はコンタクトフォームよりご連絡ください。対応いたします。

NEUROCOOL:COOLING THE FUTURE

テキスト：

2040年は、人類が地球平均気温の上昇を2度以下に押さえられるかどうかの瀬戸際にいる。ここで、人間の温度を2度下げるデバイスの登場をプロンプトとして与えた。そのためのリサーチとして、砂漠に生きるトムソンガゼルらが採用している Selective Brain Cooling system を人間に適応する方法をChat GPTに考えさせた。その学習結果から、WIRED風の記事を生成させた。NeuroCoolという名称も、マイクロ流体デバイスを用いる手法についても、Chat GPTが提案している。ちなみに、こちらのリサーチで、マイクロ流体デバイスによって末梢神経を冷却し、痛みを取り去る「局所的なオンデマンド鎮痛」に関する研究についてはSCIENCEで報告があった（※）。この内容をChatGPTが参照しているかは不明である。温暖化に対して「根本的な解決にはならない」という批判については、こちらが予測した通りという印象。一貫した記事を書ききっている点は評価できる。

*Jonathan T. Reeder et al. ,Soft, bioresorbable coolers for reversible conduction blocks of perior nerves.Science377,109-115(2022). - DOI:10.1126/science.abl8532

画像：NEUROCOOLの説明、デバイスが生活に溶け込みやすいなどのほか、時代設定、場所としてのニュヨーク、テイストとしてヴォーグ（イーロン・マスクのような起業家なら、このデバイスのイメージづくりに協力なクリエイティブディレクターを雇うのは自然なため）など与えた。プロンプトでは一言も「美しい」「女性」などの要素は与えていない。それでこの人種と肌の露出などが再現されているところには、明確に生成AIが現代にあるバイアスを再現しているとも見て取れる。

REIMAGINE LIGHT

テキスト：

2040年の未来における「量子生物学」の進展について描くために、先鋭的な研究者であるジム・アル＝カリーリを著者に含む論文をChat GPTに学習させ、2040年の未来に起きるであろうイノベーションを予測させた。科学者が論文を読み込ませて要旨を書かせている使用法の応用である。その予測のうち、人工光合成について、架空のサイエンスジャーナリストに記事を書かせた。「量子バイオセル」という、おそらくは新しい名称を生み出している。また仮想的な応用として、量子バイオセルが、人間の皮膚に埋め込まれたり、皮膚に貼り付けられたりする生体適合インターフェースに組み込まれる可能性について言及している。科学的整合性についてはさておき、示唆的な内容を多分に含んでいる。

* Kim, Y.; Bertagna, F.; D’Souza, E.M.; Heyes, D.J.; Johannissen, L.O.; Nery, E.T.; Pantelias, A.; San- chez-Pedreño Jimenez, A.; Slocombe, L.; Spencer, M.G.; et al. Quantum Biology: An Update and Perspective. Quantum Rep. 2021, 3, 80-126. https://doi.org/10.3390/ quantum3010006

FROZEN TIME IN THE WAR

テキスト：

2040年に人間を長生きさせる「長寿医療」が誕生するという設定をつくった。そうした医療が生まれるとき、「もっとも必要な人々に最適な配分が行われない」という事象が発生すると考えられる。そうした批判されるべき事象を代弁する最適なパーソナリティとして、気候変動に関連する食料危機によって生まれる気候難民の女性「エララ」という人物設定をつくった。キャラクターLLMの応用である。そして、ChatGPTにある戦争文学を学習させ、先の気候難民の女性という人物設定になりきり、筆者とのチャットを行うことを指示。生成されたチャットを一問一答のインタビュー記事とした。

ChatGPTに人物設定として与えたプロンプト：

「長寿認定制度」が確立された2040年の未来、政府が実施する長寿医療を受ける資格の査定を受けに来たエララという女性を設定。この女性は、地球温暖化による食糧難で戦禍に見舞われたヨーロッパからの難民で、戦争で行方不明になった実の娘を探すために長寿を得ようと申請している。しかし、理不尽な理由で却下されてしまう。