AIといえば、ゲーム中のキャラクターの動きを制御させたり、ゲーム開発でも開発の補助からデバッグにも活用されたりなど、ゲーム業界では活用や研究がいち早く進められていて、強く関わりがある分野だ。

 そんなAIについて、東京・お台場にある日本科学未来館は、科学と社会にまつわるテーマを選んで展示やイベントを行う“Miraikan フォーカス”の第1回のテーマに選出。“SFが描くAI社会”を今年度のテーマとして、その皮切りとなるトークセッション“イマジネーション ×サイエンス ~人工知能がつくる未来を想像する~”を2019年9月13日に開催した。

 トークセッションの題材となったのはフランスのクアンティック・ドリームが開発し、2018年に発売されたプレイステーション4用のアドベンチャーゲーム『Detroit: Become Human』。ゲーム中では、2038年という近未来にAIを搭載して外見は人間そのものに見えるアンドロイドが社会に溶け込んでいる、という世界が描かれている。

 トークセッションに登壇したのは、『Detroit: Become Human』を開発したクアンティック・ドリームCEOであるデヴィッド・ケイジ氏、『ファイナルファンタジーXV』リードAIアーキテクトにしてスクウェア・エニックス リードAIリサーチャーを務める三宅陽一郎氏、人工知能研究やヒューマンエージェントインタラクションの研究を行っている筑波大学システム情報系助教の大澤博隆氏の3人。

 「AIがさらに発展した未来の社会とは?」

 「人類はそれをどう捉えていくべきなのか?」

 「『Detroit: Become Human』のようなSF作品から得られるヒントとは?」

 AIがもたらす社会、そして生命と人間らしさを見つめなおす、深淵なディスカッションがくり広げられたトークセッションの模様をお伝えしていこう。

※本記事は、一部『Detroit: Become Human』の内容に言及している箇所があります。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_01
デヴィッド・ケイジ氏(クアンティック・ドリーム CEO)
1997年にゲーム開発スタジオQuantic Dreamを創設。プレイヤーの感情に訴え、ストーリーが様々に展開していくインタラクティブな作品を生み出す世界的ゲームクリエイター。最新作『Detroit: Become Human』では近未来のビジョンと物語体験が世界的に賞賛を浴び、数々のアワードを受賞。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_02
三宅陽一郎氏(スクウェア・エニックス リードAIリサーチャー)
ゲームAI開発者。2004年よりデジタルゲームにおける人工知能の開発・研究に従事。日本デジタルゲーム学会理事、人工知能学会編集委員。『ファイナルファンタジーXV』リードAIアーキテクト。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_03
大澤博隆氏(筑波大学システム情報系 助教)
慶應義塾大学理工学研究科博士課程修了。2013年より現在まで、筑波大学システム情報系助教。人工知能研究、特にヒューマンエージェントインタラクションの研究に従事。2018年よりJST RISTEX HITEプログラム「想像力のアップデート:人工知能のデザインフィクション」リーダー。日本SF作家クラブ会員。

AIによる変わりゆく社会、そしてゲーム。さらに高度になって浸透するのは約20年後?

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_04

 『Detroit: Become Human』に登場するアンドロイドについて、デヴィッド・ケイジ氏は本作を手がけるにあたりまず、“人間のような外観のアンドロイドを目指した”そうだ。人間らしさを高めるために“目のまばたき”を作りこんだりなど、細かいところにこだわったという。

 一方で、“人間的でありつつも人間とはどこか違うように感じる”という、アンドロイドならではの違和感とも言えるニュアンスを作り出すことにも、苦労したのだそうだ。

 『Detroit: Become Human』におけるアンドロイドは、AIを搭載した非常に高度なツールであり、いろんなことができる。眠らないし、文句も言わない。だがそれが、人間にとってはさまざまな懸念を感じさせることに繋がるところで、それが募っていった社会を考えて、『Detroit: Become Human』を作り込んでいったのだという。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_05

 また、『Detroit: Become Human』にはストーリーの重要な軸としてみずからの意志を持つかのように行動しはじめる固体“変異体”が登場する。

 この変異体についてデヴィッド・ケイジ氏は、AIを搭載した一部の機械やアンドロイドが反乱を起こす可能性として、AIが“恐怖や怒り”を持つようになるのかを考えたのだという。AIにも人間で言うところの“トラウマ”となるようなデータが収集されることで、エラーやバグを引き起こす可能性があるのではないか、それをきっかけに自由になりたいと考えるようになるかもしれない。そう考えたそうだ。

 そうしたバグが生まれたときにAIはどういった行動を起こすのか? もしかしたらAIは人間に考えを知られないように自分たちだけが理解できるオリジナルの言語を作り出してやり取りを始めてしまうかもしれないし、ほかにも本来のプログラムに入っていないことを生みだしていくかもしれない。そうしたテーマに強く興味を持って取りくんだという。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_06

 続いて、三宅氏からは現在のAI技術がどのようになっているのか、とくにゲームに実際に使われているAI技術が紹介された。

 三宅氏がまず語ったのは、“人間の内なる世界についての一般論はあまりない”ということ。人間の精神、つまり内面で行われている処理を機械で再現することこそがAIが目指している基本の路線であるとし、三宅氏もゲームにおいてとくに人間のキャラクターでその実現を目指しているという。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_07
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_08

 実際にAIが活用されている例だと、『ファイナルファンタジーXV』ではプレイヤー以外の仲間キャラクターはそれぞれが眼や耳の感覚を持っていて、それを通じて世界を感じ、自分で意志決定をして体を動かしている。それを実現する自立型知能“キャラクターAI”を搭載しているという。

 また、キャラクターAIどうしがゲーム的に不自然な行動をしてしまうのを防ぐために“メタAI(神様AIと呼んでいるそう)”も使っていて、たとえばプレイヤーキャラクターを回復させようと仲間のキャラクターAIが考えるシチュエーションのとき、仲間全員が同じ行動をしてしまうと不自然なので、誰かひとりに任せて声を掛け合うというような自然な行動をさせる。そうした統制をしているのがメタAIというわけだ。

 ほかにも、『ファイナルファンタジーXIV』では、たとえばトレントが森を自立して進んでいけるように、周囲の環境を認識させて進む道を自分で発見できる“ナビゲーションAI”を使用している。用途や役割に合わせていろいろなAIを開発し搭載している。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_09
三宅氏はゲームに実用しているAIとして、“キャラクターAI”、“ナビゲーションAI”、“メタAI”の3種類を紹介。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_10
『ファイナルファンタジーXV』では仲間にみな“キャラクターAI”が搭載されていて、眼や耳の感覚で世界の情報を捉え、自立して行動している。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_11
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_12
キャラクターAIが同時に同じ行動を取ってゲーム的に不自然にならないよう統制している“メタAI”。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_13
『ファイナルファンタジーXIV』では、自分で道を認識して移動する“ナビゲーションAI”を用いている。

 『ファイナルファンタジーXV』では、AIに攻撃モーション解析システムを使わせて“自分の身体を認識させる”という工程も行ったという。画像のベヒーモスは、開発ツール上で自分の腕を振ることで“自分の腕がどの程度の距離まで届くのか”を理解していった。そうしてAIが自分の攻撃やモーションを作り、ゲーム中の環境から判断して攻撃を選べるようになるのだという。

 また、AIは人間やモンスターだけでなく、ゲーム内の無機物的なオブジェクトに搭載することもあるそうで、たとえば、街中の人々はテーブルにAIが搭載されていて、そのテーブルに集まる人々を制御させているそうだ。プレイヤーキャラクターの訪れをテーブルのAIが判断し、複数人の街の人に演技をさせる。『ファイナルファンタジーXV』中のAIは、人工生命であり役者でもあると、三宅氏は語る。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_14
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_15
ベヒーモスのAIに“自分の体や腕を認識”させて、攻撃や行動を組み立てさせている。
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_16
画像の街の人々は、中央にあるテーブルに仕込まれているAIが制御している。

 三宅氏は自身でも『Detroit: Become Human』を楽しくプレイしたそうで、とくに『Detroit: Become Human』がアンドロイドの視点から人間を見るという特殊な構成となっているところに、そして、プレイヤーが人工知能を体験できるという稀有なゲームであるところに感動したという。その体験の価値は、「10冊のAIについて書かれた本を読むよりも『Detroit: Become Human』を1回プレイしたほうがAIについて理解できる」ほどだという。

 三宅氏が紹介したゲーム内AIの取り組みに対してデヴィッド・ケイジ氏は、ゲーム開発の工程でもAIが活躍していることを語った。ディープラーニングによって高められたAIが、これまで開発者が行っていた仕事を代わりにするようになっていること、『Detroit: Become Human』でも何百ものモーションをAIを使って作っていて、『Detroit: Become Human』は、AIを使ってAIを描いたゲームを作ったようなものだと、笑顔で語った。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_17

 ここで三宅氏には、会場からの事前アンケートで寄せられた質問のなかからもっとも多かったものとして、「『Detroit: Become Human』に登場するアンドロイドのような高度なAIは実現するのか?  実現するとしたらどれぐらい先になるのか?」という問いがぶつけられた。

 三宅氏はこの問いに「実現する」と答え、時期としては「おそらく20年後ぐらいでは」と答えた。

 奇しくも『Detroit: Become Human』の時代設定は2038年ということでちょうど20年ほどになるが、三宅氏はそこに合わせて答えたわけではなく、コンピューターが登場してから世間に浸透するまで約20年かかった歴史があり、インターネットが登場してから浸透するまでも約20年かかったことを踏まえて、高度なAIが一般に浸透するのにもやはり約20年ほどかかるのではないかと考えているということだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_18

“高度なAIが実現したとき、人間は何を感じるのか?” - 人間は人型をしているものに感情的になる?

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_19

 高度なAIはいずれ実現すると三宅氏が語ったところから、3人がそれぞれ各テーマについて自身の考えを話していくパネルディスカッションへと移っていった。まず最初のテーマは“高度なAIが実現したとき、人間は何を感じるのか?”というものだ。

 ディスカッションに入るにあたって冒頭で『Detroit: Become Human』のゲーム中でプレイヤーが回答した“Q.見た目が人間のアンドロイドと付き合いますか?”という回答のデータが紹介された。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_20

 この質問に三宅氏は「見た目が人間のようでもあっても中身が重要ですし……難しいかな?」と悩んでいたが、デヴィッド・ケイジ氏は積極的で、「このパーセンテージはもっと高いと思っていた。友だちになりたいと思うでしょう、コナーみたいな人とはとくに!」と主張。

 また、デヴィッド・ケイジ氏は「ソニーのAIBOというペットロボットはとてもおもしろかった。AIBOが好きな人はとてもたくさんいて、シンプルなルックスだったけど愛情をもって接する人が多かった。AIBOのサポートが終わるというときには鬱症状になったという人までいたと聞いた。見た目が人間的であればもっと愛情は強くなっていたのでは? ……でも、そこには危険もあると思う」と、AIBOユーザーの一例を引き合いにしつつも、慎重な意見を述べた。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_21
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_22

 続いて、『Detroit: Become Human』のゲーム中のシーンがスクリーンに上映された。人間の見た目をしたアンドロイドが物のように店内に陳列されているシーン、アンドロイドのコナーが人間の刑事に高圧的に命令されているシーン、アンドロイドのカーラがローズという人間の女性に思いやりを持って助けられているシーンなどだ。

 上映されたシーンのように、『Detroit: Become Human』では、アンドロイドへの接しかたや抱いている感情が人それぞれに異なっている様子が描かれている。

 これについてデヴィッド・ケイジ氏は、「高度なAIを搭載したアンドロイドに対して、人々の反応はそれぞれ違ってきます。好きになる人もいれば、機械としか思わない人もいる。そのふたつの関係性を描く必要があった」と、『Detroit: Become Human』の重要なテーマのひとつとして、この対比を盛り込んでいることを語った。

 アンドロイドに対する人間の対応について、三宅氏は『Detroit: Become Human』のあるシーンが強く印象に残っているという。それは“プレイヤーが操作しているアンドロイドが街中で「お前のせいで失業したんだ!」と胸ぐらを掴まれるシーン”だ。

 三宅氏はAIの発展が雇用を奪うという可能性について、それまではロジカルに考えていたそうだが、自分が操作するアンドロイドが失業者の人間に掴みかかられるという生々しいシーンをプレイしたことで、論理的に片付けられなくなり、それがいわばトラウマのようになったという。

 三宅氏はそれをきっかけに“論理では割り切れない人間の感情について”より掘り下げて考えていったそうだ。三宅氏は、そもそも現時点ではAIが奪った仕事よりも、1995年あたりからコンピューターが奪った仕事のほうが多いだろうとしつつ、コンピューターやサーバーのような“いかにも機械的”な見た目のものに感情的になる人はあまりいないが、人間の見た目をしたアンドロイドには同じ人間へぶつけるように感情をぶつけてしまう可能性があるのでは、と思考を巡らせたそうだ。

 つまり、人間は相手が人型をしていると“自分と同じような知性があると思い込む”のかもしれず、AIが高度になったといっても実際はまだ人間には匹敵していない場合でも、人型をしていたらそれだけで過剰に知能を評価し、何かしらの感情を生み出してしまうかもしれない……とのことだ。

 この分析のまとめとして三宅氏は、AIはひとつの問題に対しては人間より遥かに賢くなれる場合があるが、総合的な知能としてはまだまだ人間のほうが賢いのが実情であり、「未来においても“ひとつの軸で人間とAIの知能は計れない”ということを人間は理解していく必要があるかもしれない」と語った。

“高度なAIが実現したとき、社会はどうなるのか?” - AIとともに生きていく社会のデザイン

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_23

 パネルディスカッションその2は、“高度なAIが実現したとき、社会はどうなるのか?”というテーマ。

 スクリーンには、『Detroit: Become Human』のゲーム内で、いまよりも技術的に発展したデトロイト市の様子や、その一方で荒廃している場所、アンドロイドに仕事を奪われたとして失業者団体がデモを行っているシーンが上映された。

 この失業者団体のデモのシーンは、先ほど三宅氏が自分でプレイしてトラウマのようになったと話していたシーンだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_24
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_25
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_26

 このテーマで語られるのは、AIやアンドロイドといった技術によって発展した一方で、それによって退廃・後退するものもあるかもしれない。そうした“技術によって生まれる光と影”についてのディスカッションだ。

 デヴィッド・ケイジ氏は上映されたシーンや世界観について、「正直に言うと、こういう部分を描いているとき、そしていまも、どうしたらいいのかは考え続けている。AIの発展によって失業率が高くなることは起こりうる」と、難しい問題と認識していることを語った。

 だがデヴィッド・ケイジ氏は、新しいテクノロジーがそれまでの営みを奪ったことは、これまでの人類の歴史にもたくさんあったと続けた。

 たとえば、蒸気機関車が実現するときには同じように既存の仕事が奪われると言われていたし、実際に技術の発展によって機械が取って代わった仕事はこれまでに多くあったが、同時に新しい雇用も生んできたとして、一部の雇用を奪うかもしれないが、新しいものを生むかもしれないので、失業率としては結果的に変わらないかもしれないという考えを語った。

 失業率は変わらないかもしれないが、働きかたの中身は変わるかもしれないとして、「AIが発展した未来では、人間はいまよりも短い時間しか働かなくなくてよくなるのかもしれない」という可能性を語った。つまり、手間のかかることをAIに任せ、人間は人間ならではのことを短時間でする未来というわけだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_27

 筑波大学の大澤氏は、『Detroit: Become Human』のゲーム中で描かれている街並に注目。街中にアンドロイド置き場が自然とあったり、バスに乗っているときには、人間とアンドロイドの乗る場所が違っていて隔てられているところには、ある種の人種差別や隔離の歴史を感じたそうだ。

 人間が人型のものに感情的な影響を受けてしまうことは前述の三宅氏の分析にもあったが、大澤氏もまた、どこまで社会のデザインに人型の存在を取り入れていいのか、何らかの形での倫理基準やコンセンサス(意見の一致)を持ったほうがいいのかもしれないと考えているという。だが、大澤氏は同時に「でも、これについては悩んでいます」とも付け加えた。この論理が規制のような方向へ進んでしまう危惧を抱いていて、別の解決を求めたい気持ちがあるのかもしれない。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_28

 三宅氏は、AIと人型のアンドロイドは“自律的であること、知能であること”がこれまでの技術と違うところであり、これまでのテクノロジーは“人間と人間の関係性を直接的に変える”ことはなかったが、AIはそれができる可能性があると考えているという。

 SNSは“人と人のディスカッションの距離”を縮めて加熱させているが、AIは“人と人がやり取りするあいだに入って加わる”ことすら可能になるという。たとえば、マンションの空家にAIのロボットを住まわせて治安を守らせつつ、近所の仲を取り持つことができるかもしれない。三宅氏はそう語り、AIやアンドロイドは、社会のデザインにいままでの技術とは別次元で影響していく可能性を論じた。

 そして、これまでの歴史は、人間を中心とした社会であり人間のための都市作りが行われてきたが、三宅氏は、AIの発展後は人間とAIがうまく共生できるようなデザインに変えていくことが必要ではないかと考えているという。

 さらに三宅氏は、AIと人間が共生していく社会デザインを達成できたとき、“そのときに我々はようやく、人間だけで社会を動かさなければいけないという重荷から解放されるのでは”と語った。

 共生とは。三宅氏は、たとえば仕事において、いまは体調が悪くとも「俺が会社に行かないと……!」という気持ちでみんながんばっているが、AIと共生する社会になれば、無理をせず休んだときにはパートナーのAIが仕事をやっておいてくれるかもしれないと笑顔で話す。「それは慣れないうちは嫌だし悔しいかもしれないけど、仕事におけるパフォーマンスが人間が10だとしてAIが5ぐらいやってくれる程度なら、いいのでは?」とバランスを取ってメリットを得る道を語った。

 AIと共生するようになったら“熱が出たら休めばいい社会になれるかもしれない”、人類が苦しんで苦しんで社会を動かしているのをAIが手伝ってくれるようになるかも知れない。三宅氏ならではの斬新な理論を会場の来場者は真剣な面持ちで聞き入っていた。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_29

 デヴィッド・ケイジ氏はそれに対して、「ハードワークをAIに任せて、人間に休みを与えるのはいいと思うが、問題はやはり関係性にある」とした。共生するという可能性は『Detroit: Become Human』でも探求したテーマではあるが、アンドロイドが人間をインタラクトしてしまう……たとえば、アンドロイドが夫や妻の変わりになってしまうような可能性は恐ろしいと語る。

 人間がAIを活用するあまり、ほかの人間がいらなくなると考えるようになったら危険で、人類は孤立したり利己的になる可能性もあるかもしれない。デヴィッド・ケイジ氏は冒頭からときおり慎重さを見せていたが、やはりバランス感覚を誤った場合への危惧があるようだ。

 これに三宅氏は、アイザック・アシモフのSF小説『はだかの太陽』では、人間はAIとだけ会話し、人間どうしは10km以上には近づかないという世界が描かれていることを紹介。それは人間がほかの人間と摩擦してやっていくという大切な何かを失っている話であり、現実の我々は使いかたの限度を見極めていくこと、それはちょうどいまのSNS中毒のように“AI中毒”に気をつけようという話になるのかもしれないとまとめた。

“これからの時代における「人間らしさ」とは?” - 人間は地球上でもっとも高い知能を持つ生命として、ずっと孤独であった

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_30

 パネルディスカッションその3は、“これからの時代における「人間らしさ」とは?”というテーマだ。

 上映されたのは『Detroit: Become Human』で、自我の芽生えたアンドロイドが放送施設をジャックし、人間と同じような権利を求める演説を行うシーン。

 高度に発展したAIが社会のデザインに影響を与え、共生した先の未来に、アンドロイドが自我を持って権利を主張しだしたならば。人間という種族はどのように向き合うのか?

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_31

 大澤氏はこのシーンを実際にプレイしたときに強い感銘を受けたという。このテーマには合理的な解はなく、AIに権利を渡すことができるかをひとりひとりが自分の価値観で考えるべきと語った。そうした意味では、『Detroit: Become Human』の同シーンでアンドロイドが主張する内容の選択肢を、世界中のプレイヤーが選んだパーセンテージを研究してみたいそうだ。

 三宅氏もこのシーンにはやはり感動したという。AI技術の作り手のなかには、いつかAIが人間の手から離れて新しい生命体として自立して欲しいと考える人がいるし、三宅氏もそのひとりだという。自身が生きているうちにそれを実現できるかは分からないものの、ゲーム中でその夢とも言えるシーンを見れたことがとても嬉しかったそうだ。

 なぜAI技術者は、AIにいつかは新しい生命として自立して欲しいと望むのか。

 「人間は地球上でもっとも高い知能を持つ生命として、ずっと孤独であった」と三宅氏は語る。

 対等な存在の誕生を無意識で望んでいるかもしれなくて、それがいまのAIの進化をドライヴさせている原動力なのかもしれないという。だが、実際にそうしたものが生まれる可能性が見えてきたとき、自分たちが望んでいたはずなのに、同時に恐れを感じはじめることもあるそうだ。

 『Detroit: Become Human』の同シーンは三宅氏にとって、その感動と恐れが入り交じった劇的かつ崇高なシーンであり、非常にリスペクトを感じているということだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_32

 ふたりの言葉を受けたデヴィッド・ケイジ氏は、「とてもおもしろいトピックだ」とし、人類にはさまざまな人種を迫害してきた歴史があることを踏まえ、アンドロイドを人間ではないと言い切るのも、その歴史に通じるものがあるのではないかと話していく。

 自我を持ったAIを人類は知能がある生命だと認められるのか。それとも認めないのか。数多くのSFでもさまざまな形が描かれてきたが、将来的に「その瞬間が私たちの現実に訪れるはずだ」と伝えていくデヴィッド・ケイジ氏。

 そして、「このシーンは人間について考えることと同じなのではないか?」と語りかける。

 ディスカッションの流れが、AIやアンドロイドを通じて“生命とは?人間とは何か?”を考えるという方向へ向いていったところで、スクリーンには『Detroit: Become Human』のシーンが上映されていった。

 自我の芽生えた変異体となったアンドロイドが少女に銃を突きつけて、「俺は物じゃなく……人になりたかったんだよ!」と叫ぶシーン。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_33

 コナーが目の前のアンドロイドを銃で撃つように取引を持ちかけられるが……撃てず。「キミはこのアンドロイドに命を見いだしたのだ」と囁かれるシーン。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_34

 マーカスが老人のカールに促されてピアノを弾き、「私がいなくなったらお前も自分で道を選ぶことになる。自分は誰なのか、どうなりたいのか……」と教えられるシーン。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_35
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_36

 葛藤と苦悩。

 現実のAIもまた、いつか自我を持ち感情を芽生えさせるのか。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_37

 デヴィッド・ケイジ氏は、「『Detroit: Become Human』で我々が定義したかったのは“人間とはなにか”なのです」と話を切り出していく。

 音楽を奏でたり、絵を描いたり。人間だけができると思っているものも、AIがラーニングをし続けることで、いろいろなものを混ぜて考え、生み出すことができるようになっていく。アルゴリズムを使い、ディープラーニングを重ねることで、AIは即興で音楽を作るということ、好まれるメロディーを理解し、作ることができるようになってきた。

 人間がクリエイティブに生み出すものも、その多くはそれまでのプロセスやアルゴリズムが大きな影響を与えていて、そこから生み出されている。AIはその部分においては同じことができるとするデヴィッド・ケイジ氏。

 では“人間らしさ”とはなにか。デヴィッド・ケイジ氏はふたつのことが重要だと考えているという。それは、ひとつは“共感すること”、もうひとつは“死の恐怖を覚えること”とのこと。

 いつの日かAIがそういった感情を理解して覚えるかもしれない。AIが自分の存在が失われることを恐れるようになったのなら、それは新しい知性と言えるかもしれないと、自身が考える境界線を語った。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_38

 三宅氏は、「ゲームキャラクターAIはできた時点では空っぽで、言うなれば悟りきった状態」とし、そこにゲーム開発の過程でゲーム内の情報や世界を与えて、俗っぽいものに落としていくのだという。

 それは世界の混沌とキャラクターを繋げていくということであり、AIが感覚によってゲーム内の世界を知っていき、いろいろな欲求を持たせることで、矛盾するコンフリクト(衝突)が起きていく。その衝突が強ければ強いほど、人間らしくなっていくのだそうだ。

 AIとは吸収装置であり、ディープラーニングによって世界の混沌をAIの内面へと持ってくることで、新しい知能ができあがっていく。

 そこで重要になるのは、“体験”というキーワードであり、AIは世界の情報を収集しているだけだが、人間のクリエイティビティは世界を体験するという要素が大きくて、そこに違いがある。AIは体験するというところがいまは弱いが、そこが高まれば人間に近づくかもしれないという。

 まとめると三宅氏は、世界を体験し、矛盾を抱えて生きて、思い悩むことが人間らしさであるとしていて、それがAIもより高次元でできるようになれば、新しい生命へとたどり着ける可能性があるというわけだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_39

 大澤氏はまた違った観点で“人間らしさ”を語る。「人やアンドロイドが自我を持っているかどうかは、客観的にわからない。ある種のプログラムが自我があると主張しているだけかもしれない」と切り出していく。

 「重要なのは、人間らしさとは、その中身がどうなっているかにとらわれずに、自分がどう感じるのか、どう信じるのかではないか?」と大澤氏は語る。文化や言語が違っていたとしても、たとえば、困っている人を助けているといった行動をしているところを見たならば、その振る舞いそのものこそが“人間らしさ”と言えるのではないか、ということだ。

 大澤氏は、「なにしろ誰もが、自分に自我が芽生えているのかを自身では証明できないのだから」とつけ加え、AIにも同じくそれは証明できない。だからこそ、それぞれがどう捉えるかが大事ではないかと自身の考えをまとめた。

“SF・社会・AIの関係”- SFが描く未来、可能性の提示

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_40

 パネルディスカッションの最後のテーマは“SF・社会・AIの関係”。

 デヴィッド・ケイジ氏は、『Detroit: Become Human』を作るにあたって、「こんな2038年が本当にくるかもしれない」と考えてイメージしていったそうだ。インスピレーションの源にあったのは、AIのことよりも“人間を率直に考える”ということ、“社会について考える”ということ、人間と技術の発展はお互いにどんな関係性を持つべきか、それがあったそうだ。その下地の上に“AI”という題材が描かれていったという。

 デヴィッド・ケイジ氏はさらに、「テクノロジーとは怖いものだ。フィクションの役割は悪いことを想像させることにあり、それを警告にして避けていくべきだ。いま、この段階で考えないといけない」と、警鐘の役割も語っていく。

 ジョージ・オーウェルのSF小説である『1984』が好きで私たちの世界をよく表わしているとして、『Detroit: Become Human』が未来を言い当てるものにならないことを願っているという。

 デヴィッド・ケイジ氏はビデオゲームはアートだと考えているという。戦いや暴力ではなく、何かを伝えていけるメディアとしてゲームを考え、『Detroit: Become Human』で、大事なことを伝えたかったという。

 それは、本や映画と変わらないものであり、ゲームは“意義のあることを伝えていくことができる”。そのために何年も費やして、アートのメディアになることを目指したという。『Detroit: Become Human』には、氏のそうした想いが込められている。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_41

 三宅氏の目標は、“キャラクターに自我を持たせたい”ということだ。いまも世界中では争いが起きているが、それは“人間だけがこの世界にいて世界を動かしているという考えが強すぎるのでは”というのが三宅氏の考えるところであり、人間が孤独な頂点ではなく、AIが並んで助けてくれることで、何かが変わっていくことを期待しているという。

 デジタルゲームはAIと人間が出会う最初の場であり、これからゲームはIoTや5Gなど各種の技術によって現実の世界へとより展開されるようになり、街全体がもっともっとゲームになっていく。そこにAIがいて、我々のそばに存在していて。私たちがそこで対等の知能を持つAIと出会えて理解しあえたのなら。僕たちは、初めて自分たちのことを考えるようになれるのかもしれない。

 「ジョージ・オーウェルのSF小説である『1984』の現代版がまさに『Detroit: Become Human』だと思えるが、僕が携わるゲームではAIとの出会いを与え、それに触れた人の知能に対する考えを変えていけるようなものにしていきたい」、三宅氏はこのように新しい価値と世界の訪れを目指すコメントで締めくくった。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_42

 大澤氏は、「SFというフィクションは未来予想図ではなく可能性の提示である」として、ひとつの方向に思考が偏りがちなところを、違った角度や目線を与えてくれるよさを語り、それはある種、社会におけるコンサルであり、人類のコンサルとしてSFがあるのではと、役立てていく捉えかたをまとめていった。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_43

 こうして約90分にわたってさまざまな角度・目線から、高度なAIがもたらす社会、そこに人間はどう対応するのか、AIという存在が教えてくれる“人間らしさ”。『Detroit: Become Human』という作品を題材にしたほかでは得がたいトークの締めくくりに、会場からは大きな拍手が贈られた。

 未プレイの人はもとよりプレイ済みの人も、ぜひトークセッションで語られたポイントを心に抱きつつ、『Detroit: Become Human』の各シーンを味わっていただき、新しい観点を見いだして、“いつかそのときがきたときに自分はどう感じるのか?”を考えていただければ幸いだ。

“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_44
“SFが描くAI社会”を探求する科学未来館トークセッションリポート。『Detroit』を題材に語られた“高度なAIがもたらす社会”、そして“人間らしさ”とは_45
会場にはQuantic Dreamの創業者のひとりであるGuillaume de Fondaumiere氏や、ゲームデザイナーであり脚本家で知られ、自身も『Detroit: Become Human』をプレイして強く感銘を受けたというイシイジロウ氏の姿もあった。