ＳＦを切り口に人工知能がつくる未来を想像する、トークセッション「イマジネーション×サイエンス」開催報告

　人工知能(AI)の急速な発達により、私たちの生活はどのように変わっていくのでしょうか。そのとき、人間は社会でどのような役割を担っているのでしょうか。そんな未来を「SF が描く AI 社会」を切り口に研究者やクリエイターと一緒に想像してみようと、日本科学未来館は2019年9月13日(金)、トークセッション「イマジネーション×サイエンス～人工知能がつくる未来を想像する～」を未来館のシンボルゾーンで開催し、約320名が参加しました。本トークセッションは、科学技術が関わる重要な社会課題の一つを未来館が注目して取り上げる「Miraikanフォーカス」の第一弾イベントとして企画されました。1時間半におよんだ当日の議論から「これからのAI社会」と「人間らしさ」の二つに焦点を当てて、登壇者の発言の一部を要約・抜粋したうえで報告します。（企画・ファシリテーション：科学コミュニケーター 宮田龍）

※記事の最後にイベント動画を掲載しています。

　登壇者としてお招きしたのは、世界的な人気を誇るゲーム作品『Detroit: Become Human』の脚本とディレクターをつとめる、クアンティック・ドリームCEOのデイヴィッド・ケイジ氏。スクウェア・エニックス、リードAIリサーチャーであり、ゲームAIの開発を行っている三宅陽一郎氏。筑波大学システム情報系助教であり、SFが現代のAI技術に与えた影響を研究するプロジェクト「想像力のアップデート：人工知能のデザインフィクション」のリーダーをつとめる大澤博隆氏の3名です。

　トークセッションは、ケイジ氏の『Detroit: Become Human』が描く未来の世界を題材に議論が進められました。作品の舞台は、2038年の米国、デトロイト。人間と同等の外見、知性を兼ね備えたアンドロイドが、社会にとって不可欠な存在となる一方で、職を奪われた人々による反アンドロイド感情が高まるなど、社会には新たな軋轢と緊張が生まれはじめています。そんな中、あたかも自らの意志を持つかのように行動しはじめたアンドロイドたちが現れるというストーリー。2018年5月にPlayStation®4用ソフトウェアとして発売され、プレイヤーの選択によってストーリーが変化するオープンシナリオアドベンチャーと呼ばれるジャンルのゲームです。

宮田　『Detroit: Become Human』に登場する人間は、高度な AI や見た目が人と変わらないアンドロイドをどのように感じて、向き合っているのでしょうか？
　 実際に作品のようなAIやアンドロイドが登場したら私たちはどう反応するでしょうか？

ケイジ氏　人によって対応は違うということを率直に申し上げなければなりません。アンドロイドに愛情のような感情を持つ人たちもいるでしょうし、アンドロイドを嫌悪する人もいるでしょう。もしくは、機械としか見ず、まったく感情を抱かない人たちもいるでしょう。作品では、人間とアンドロイドのこういった多様な関係性について描かなければならないと思ったわけです。
　私たちは常に技術の恩恵を受けていますが、その犠牲になる人たちもいます。例えば、新しい技術で職を失う人たちもいるかもしれません。また、所得の格差による問題もあります。お金持ちは技術の恩恵を受けることができるが、貧しい人たちは手に入れることができない。その時に、人びとがそれぞれの技術に対して抱く感情は個人のレベル、そして、社会全体において、非常に複雑な状況が存在します。

大澤氏　アンドロイドが人間にすごく近い姿になって非常に繊細な表情で働きかけてきたら、心が動いてしまうことはあり得るだろうなと思いました。作中のアンドロイドたちはものすごい表情が豊かで、本当に感動したのですけれども、特にコナーさん（注・作品の3体の主人公アンドロイドのうちの一体）は一見命令に従うようで、苦悩した表情を見せるなどアンドロイドなのに意外に表情豊かで、そのギャップにやられてしまうわけです。ある種のそういったギャップが人をひきつけるところであり、不可避的に心が動いてしまうところもあるのではないかなと思いますね。

三宅氏　僕がこの作品で一番印象深かったシーンは、アンドロイドであるマーカス（注・作品の3体の主人公アンドロイドのうちの一体）が街を歩いていると、アンドロイドの普及で仕事を失ってしまった人たちに胸ぐらをつかまれて、「お前のせいで失業したんだ」って言われて。AIの開発者としてぼくは結構トラウマになってしまったのですが、実はここに論理では割り切れない人間の感情があると思うのです。
　仕事を奪われる、奪われないという問題でいえば、実は1995年以降にコンピューターが奪った仕事の方が、AIが奪った仕事より多いと思います。でも、コンピューターってサーバールームにあるので胸ぐらをつかまないですけど、人間の形をしていると、どうしてもそこに自分と同じ知性があると思い込んでしまいます。だから、怒りの感情を持ってしまう。人の姿をしているためにアンドロイドの知能を過剰に高く評価して、そこまで脅威ではなく、人間の能力に匹敵しないにもかかわらず、想像の中で感情っていうのが生じてしまうということがあるのではないかと思います。
　現代のAIは、一つの問題に対しては人間よりはるかに賢くなりますけど、総合的な知能としてはやっぱり人間の方がいまだに勝っています。単に一つの軸で人間と AI の知能が測れないっていうのは、分かった方がいいと思っています。

宮田　高度な AI が実現したときに私たちの社会が一体どんな風になっていくのか、作品ではテクノロジーがもたらす光と陰が描かれています。AIやアンドロイドの実現による飛躍的な生産性の向上は、社会に豊かさをもたらした一方で、疎外され、これまで以上に貧困にあえぐ人たちは、テクノロジーに対する反感を持っています。雇用の問題だけでなく、その先にある格差の拡大や社会の分断までが描かれています。

ケイジ氏　高度なAIは、産業革命のときの蒸気機関と同じような状況になるのでしょうか？　それは誰にもわかりませんが、もしかしたら新しい雇用が生み出されるかもしれなく、そうすると失業率は低いままかもしれません。蒸気機関が登場したとき、確かに職を奪われた人もいるでしょうが、新しい雇用も数多く生まれました。どうなるかはわかりませんが、AIもアンドロイドなどのロボット技術もこれからの未来に重要なものです。

宮田　テクノロジーとうまく付き合うために、社会をどのようにデザインしていけば良いのか問われています。

大澤氏　実はIEEE（米国電気電子学会）という工学系の学会で、新しくAIについての倫理基準について考えるときに、まさしく人間らしい存在が人間に与えてしまうさまざまなリスクが議論になったのです。作中のアンドロイドのように人間らしい存在が親密に人と接すると、ものすごく人の趣向を変えてしまうので、それが企業に悪用されて何か特定の商品を勧めるようなことができてしまう。このようなAIの悪用を規制するかどうかということでかなり議論がありました。僕は反対の立場ですが、それはある種の表現の規制に広くかかわってしまうからです。ただし、私たち人間が人型のものから影響を受けてしまうのは確かで、何らかの倫理基準みたいなものを社会の中でのコンセンサスとして持っておいた方がいいのかなという気はして、悩んでいるところではあります。

三宅氏　AIがこれまでの技術と違う点は2点あると思っています。一つは自律性です。人間の命令がなくても、一度作った後はAIが自律的に動いてしまう。二つ目は知能であるという点です。人と人の関係性をこれまでのテクノロジーは変えることはできなかった。例えば、エレベーターができても電子レンジができても、人と人の関係はそのままだった。ところがAIが持つ、これまでのテクノロジーになかった可能性っていうのは、人と人との関係の距離を変えることができることです。
　今、SNS は過剰なコミュニケーションによってヒートアップしています。例えば、喧嘩している人と人の間に割って入って状況を緩和できるのはAIだけです。AIがうまく入ることによって人と人との摩擦をうまく除去してくれるような社会のデザインが可能になっていきます。これまで人間中心の社会、人間中心の都市といわれてきましたが、乗り物も町もすべて人とAIがうまく共生できるようなデザインになっていけば、人間だけで社会を動かすんだという重荷からようやく解放されるんじゃないかと考えています。

宮田　AIも一緒になって社会を動かすということですか？

三宅氏　そうですね、例えば「今日おれが会社に行かないと仕事がまわらない」って考えて、みなさん頑張っているわけですよね。でも、「お前がいなくてもAIがやってくれたけど？」みたいな。何か悔しい気もするけど、それでいいのかなと思っていて、人間の性能が10で、人工知能が５の性能で働くのだとしたら、38℃の熱が出たら休んでもいいかなってなるかもしれません。現在、なかなか休めない方がいると思いますが、そういう自分だけが社会を動かしているという意識で苦しんでいるところをAIが救ってくれるんじゃないかなと考えています。

ケイジ氏　AIと人間のコミュニケーションにはリスクもあります。このことは作品の中で探求したテーマの一つです。作中では、アンドロイドと恋人や夫婦のようなパートナー関係を結んだ人間が、アンドロイドとしか関係性をもたなくなることを問題にしている描写があります。AIは人間とコミュニケーションができる可能性がありますが、同時に人間を孤立させてしまう、もしくは利己的にさせてしまうかもしれません。これから先テクノロジーに対してどのような選択をしていくかは我々自身にかかっていて、その決断をしなければならないのです。

三宅氏　SNS 中毒があるように AI 中毒みたいなものが、将来ひょっとしたら出てくるかもしれません。AI の使い方について我々は残念ながら試行錯誤しながら見極めていくしかないのかなと考えています。
　人間はずっと地球上で最も高い知能をもつ生命として孤独であると思うんですね。だから、対等な存在からの視線をずっと無意識の中で望んでいて、それが今AIの進化を促進している一つのモチベーションになっていると思います。しかし、実際に同じ知能をもつAIが生まれたら同時に恐れを感じる。『Detroit: Become Human』では、その恐れと感動が入り混じったシーンを劇的に作られたということに非常にリスペクトを感じました。

宮田　ここまでの議論を振り返ると、高度なAIやアンドロイドが人間に近づけば近づくほど「人間とは？」「人間らしさとは？」という問いが私たちに返ってくるのではないでしょうか？　作品制作を通じて気づいた点を教えてください。

ケイジ氏　人間らしさについて二つ重要な点があると思います。一つ目は共感です。何かを犠牲にして誰かのために貢献するということ。そして、それに見返りを求めないということ。ただ単に誰かによくしたいということ。高度なAIを搭載したアンドロイドがそのような共感を持てるかどうか。これが一つ目です。
　二つ目は、死に恐怖を覚えるかということ。人間はすべて死ぬことを恐れています。人間によってプログラムされたAIは死を意識しないかもしれませんが、もしかしたらある段階で死を恐れる感情を持つかもしれない。例えば、死ぬことによって自分自身の存在をなくしてしまうことに恐怖を覚える。これは新しい知性の形ということになるかもしれません。

三宅氏　ゲームAIの開発で最初にキャラクターの身体ができたときは、まだ中身は空っぽなんです。世界に対して何の執着もなくて、悟りきった状態です。それをゲーム開発の過程で、真逆に堕落させていくんです。例えば、「この木の実は美味しいよ」とか、「あのプレイヤーは悪いやつだよ」とか、キャラクターにどんどん偏見を与えていくのです。とても対称的な状態からもどんどん非対称な状態に落としていく。そして世界にある混沌とつなげて、いろいろな矛盾を抱えさせていく。いろんな欲求をどんどん入れて衝突させるんです。その衝突が強ければ強いほど、ゲームAIは人間らしくなっていくのです。

大澤氏　最近は自我をもつコンピューターを作ろうっていう研究があります。自分は成功すると信じています。ただ自我の問題が難しいのは、コンピューターが「俺は人間だ」と言ったとして、そのセリフ自体がプログラムされているかもしれないっていう難しさがあるんです。人間同士でも、互いに自我があるかどうかを知るすべはない。だけど、重要なのはこれからの人間らしさと言ったときに、中身がコンピューターであるかどうかっていうことはあまり問われなくて、我々人間がコンピューターのふるまいをどういう風に受けとめるかがより重要になってくると思っています。これからの人間らしさは、中身どうなっているかではなく、それよりも我々がどういう風に受けとめるかが重要になると思っています。

宮田　最後に、これからの社会をデザインしていくうえでSFの役割は何でしょうか。

ケイジ氏　フィクションには「悪いこと」を想像する役割があると思います。それが起きる前に警告として想像することで、私たちは避ける方法を生み出すことができます。20年後、もし『Detroit: Become Human』の世界が実現したとして、そのときに対策を考えても遅すぎます。今この段階で考えなければいけないのです。私は「1984」(注・監視社会の到来を描いた1949年の小説)がとても好きですが、「1984」は私たちの現在の社会をとてもうまく表していると思います。『Detroit: Become Human』がこの先の未来を予測するものにならなければいいと思っています。そして、テクノロジーと私たちとのより良い関係をつくる材料になればと願っています。

三宅氏　僕の最終的な目標は、ゲームのキャラクターに自我を持たせたい。AIをつくることの何が面白いかというと、人間をどんどん相対化して見ることができるところにあります。今、世界中でいろんな争いが起こっていますが、やっぱりそれは人間だけがそこにいるという意識が強すぎるからだと思います。だから、この世界にAIを入れることによって、人間の知能が孤独な頂点ではなく、相対的な AI と並ぶような知性だということをゲームAIの開発を通してどんどん見せていきたい。

大澤氏　 SFの一つの価値として言われるのは非常に相対的な視点を持ってくるということです。人間も社会も、どうしても考えが一つの方向に固まりがちです。そこから、あなたが考えていることとは別の方向性もあるんだよって、ちょっと視点を外してくれるというところが大きい。SFは未来予想図と言われがちですが、未来のあり得る可能性にいくつかの像を与えてくれると考えて、その中から自分の好きなものを見つけていければいい。その手助けになれば一番ありがたい形なんじゃないかなと思っています。人類のコンサルの役割としてSFがあるんじゃないかなと思います。

※英語の発言は、YouTubeの字幕機能をオンにすることで日本語訳をご覧いただくことができます