デジタルの旬 #17

人工知能が人類を超える時、
何が起きるのか?
~ドワンゴ人工知能研究所 所長 山川宏氏

  • Yamakawa hiroshi pr
    山川 宏
    ドワンゴ人工知能研究所 所長
デジタルの旬

物理学者のホーキング博士やマイクロソフト創業者のビル・ゲイツ氏が、人工知能は人類の大きな脅威になると警鐘を鳴らしたニュースは記憶に新しい。一方で身近なところを見れば、広告やマーケティングは人工知能にとって有望な領域だとして関係者からの注目が集まってもいる。今回は、昨年設立されたばかりのドワンゴ人工知能研究所を拠点に人工知能の開発や啓発を進める所長の山川宏氏に、人工知能が照らし出す驚くべき「人類の未来」の姿について語ってもらった。

聞き手:電通デジタル・ビジネス局 計画推進部長 小野裕三

ネット広告市場の拡大が、結果として人工知能の開発を促進している


――人工知能に興味を持ったきっかけはどのようなものだったのでしょう。

山川:大学院でニューラルネットワークを用いた強化学習の研究に取り組んだことで、人工知能の世界に近づいてきました。1992年には富士通研究所に入社して、複数のニューラルネットワークをつないだり積み重ねたりする研究を手がけており、当時から人間の脳のような創造性をもつ知能を創りたいという思いも強くありました。2007年頃からは理研BSIさんとの共同による「将棋プロジェクト」にて、神経科学実験を通じて直観能力の解明を目指した研究に携わらせていただきました。

その後、2013年の夏頃に産総研の一杉さんや東大の松尾さんとともに、ディープラーニングや神経科学の進歩を背景に脳のような人工知能の実現可能性について議論をはじめ、その年の暮れから「全脳アーキテクチャ勉強会」という勉強会を開始しました。ドワンゴの川上量生会長がこの勉強会の3回目に参加され、全脳アーキテクチャに興味を持ったことが「ドワンゴ人工知能研究所」の設立の縁となっています。

――ドワンゴという日本のユニークなIT企業がそのような研究所をつくったことが興味深いです。世界的に見ても、GoogleやFacebookなど大手IT企業が積極的に取り組んでいますが、その動きについてどう思いますか。

山川:そうした人工知能技術をけん引している企業をみても明らかなように、人工知能の生み出す価値は経済的にも大きなものです。今後日本がこの分野において世界的に取り残されることは是非とも避けたいところです。一例ですが、ロボット制御のプログラムにおいて、「機械学習」によりデータから学習することが本格導入されると、日本が得意であった手作り的なアプローチは、一気に追いぬかれ、もう追いつくことができません。

手作り的な技術に強みがあってもそういう形で安心してはいけないのです。それに関連して人工知能の重要なトレンドとして「汎用化」があります。従来、画像認識の分野では、特定の目的に特化した「顔画像認識」などがあり、その技術を作りこむことで優位を築くことができました。しかし深層学習が実用化されたことで、様々な物体の認識が可能ないわゆる「一般物体認識」が可能になり、個別の領域での努力により強みを築くということが次第に難しくなってきているのです。

ところでGoogleの研究開発予算はすでに1兆円を超えているとも見られています。この背景にはネット広告という土壌があってその精度を高めるためにそこに再投資するという循環が生まれることで、結果として人工知能の開発に投資する環境ができています。でも日本では人工知能の進歩がダイレクトに利益につながるビジネスモデルをもつIT企業が育たなかったことが投資面での不利を招いています。

――なるほど。インターネット広告市場が巨大になったことで、人工知能の開発によって少しでも精度が上がれば巨大な利益を得るGoogleなどのプレーヤーが、結果として人工知能の開発を促進する循環を生んでいる、というわけですね。広告にとって人工知能の可能性は大きいと研究者からはよく指摘されますが、広告との関わりについてどのように感じていますか。

山川:現在の人工知能は機械学習がベースになっており、使えるデータが充実しているほど有利に立てます。電子取引の増大とともに広告市場はインターネット上で早期に発展した分野です。ここでのデータ蓄積を背景として広告での人工知能応用が進みました。またこの分野では、消費者の価値判断や嗜好の情報が取得できるため、広告を超えた広がりをもち得るのだと思います。

――広告において人工知能的なものが使われるのは高速な取引やターゲティングなどですが、今後、人工知能が広告内容を作成することもあり得ますか。

山川:それは十分にあり得ると思います。既に米国の例として、野球などの試合結果を伝える定型的なニュース文章を、人工知能が作成する技術が実用化されています。その際には、読者の応援するチームに応じて書き方のトーンを変えることなどができますが、これは人工知能ならではメリットですね。こうした文書生成技術は、今後は広告等の分野に広がりをみせると思います。

――なるほど。私が見ているCMと、隣の人が見ているCMの内容が微妙に違うということもあり得るわけですね。もしそうだとすると、人工知能がどんどん進んでいった時、広告業界では人間はどういう仕事をすることになりますか。

山川:現状の人工知能では創造的作業や密な対人コミュニケーションは難しいものです。広告ではその内容や配信パスの設定などの企画で、クライアントの隠れたニーズを引き出しながら広告内容を考えるような作業、さらに人工知能をどのように活用するかを設計する作業も含まれると思います。人工知能が担い得る知的作業の領域が拡大するに連れて、あるプロジェクトを馬車に譬えれば、馬のようにひた走る人工知能をうまくコントロールする御者になることが人には求められるようになるでしょう。

実は、チェスの世界では、人間だけでも人工知能だけでもなく、人間と人工知能が組んだチームが一番強い。これからは、人工知能の強みと人間の強みを理解して、バランスよく使いこなせる人が求められることになるでしょう。

「読み」「書き」「人工知能」が未来の基礎的素養になる?


――ところで、人工知能の開発では金融業界なども先駆的といわれますが、フラッシュ・クラッシュと呼ばれるような人工知能の暴走も実際に起きています。

山川:人には追随できないミリ秒単位での電子取引まで行っている金融業界では人工知能がすでに主役になっていそうです。おそらく短期的な変化に対応する単純なルールと、長期的な変化に対応する推論機構が組み合わされているのではないでしょうか。この業界の性質上、特にライバルに手の内を晒せないと思われますし、私にも最近の技術状況は把握しえません。もしかすると、広い意味で人工知能の開発に一番お金をかけているのはGoogleではなく金融業界かもしれません。

――選挙結果やインフルエンザ流行の予測など、人工知能による未来予測が実際に成果を挙げています。それはどこまで広がっていくのでしょうか。

山川:予測という能力は知能における中心的な機能で、未来予測はその一部といえます。こうした未来予測は電子的にデータを得られる範囲に拡がっていきます。特に今後IoTにより得られる情報が実世界に拡大するに連れて、産業や科学技術のあらゆる分野で人工知能の応用範囲も広がりを見せるでしょう。

――予測の精度が上がっていけば、極端な話として、経営判断も機械がやって社長はボタンを押すだけとか、政治も政策が自動で出力されて政治家はボタンを押すだけとか、そういうことも可能性としてはありそうですね。

山川:実質的判断は人工知能に任せてもよいレベルに達する分野が次第に増えることは間違いありません。ただし現実的に様々な判断を人工知能に任せるか否かは、利用する人間側が決めることになります。もちろん効率の面から最終判断まで人工知能に任せてしまいたいという誘引は常に存在します。先の例で、速度が必要な株式売買では最終判断まで人工知能に任せています。また一見すると人が判断しているようでも、ランキング上位に推薦された書籍やレストランを選んでしまうことがあります。

いま言ったような例では、その判断の影響が個人や特定の組織に閉じているので、当事者が納得さえすれば人工知能に判断を任せることは比較的容易に納得できます。これに対して、経営、裁判、自動運転などにおいては判断の影響が閉じていないために、その利用においては社会的な合意が必要になります。そのためこの人工知能と共存する人間社会をどう設計するかという問題はこれからの世代に課された重要な問いになります。

また、人工知能によって経済も加速していきます。産業に使う技術自体を人工知能がつくり始めると技術開発自体が加速していくので、経済成長率も上がってきます。そういうものを持っている国と持っていない国で格差が拡大します。個人レベルでも、人工知能を使いこなせることが優位点になるでしょう。今の中高校生が大人になる頃には、今ある職業の半分がなくなるという予測はよく知られています。いずれにしても人工知能が社会に与えるインパクトは非常に大きく、より多くの人に知っていただくべきかと思います。極端な話ではありますが、これからの学校の授業は、「読み」「書き」「人工知能」というか、むしろ社会科ぐらいの位置づけにしていく必要があるのではないでしょうか。

――将来、いろんな職業が消えていくという話の一方で、逆に新しい仕事が増えてくるという話もありますね。

山川:人工知能以前の卑近な例ですが、機械ができることが増えれば、それを使う別の仕事が出てきます。例えば教育でいうと、講義自体はなくなりますが、教育コースを設計したり、個人ごとにメンター的なことをしていくなど、オーガナイズしていく人の価値が高まります。座学向けのコンテンツは、一度録画してしまえば使いまわせますが、生徒に寄り添って指導する人材は求められるでしょう。

さらに大きく進んで、人工知能が経済的価値をもつ活動の多くを人の代わりに行えるようになると、社会の仕組みもベーシックインカム(最低限所得保障)の導入で生活が保障されて、その結果、人間は生きるために仕事をすることがなくなるかもしれません。仕事はワークではなくエクスプレッションになる、つまり自己表現の一環として何かをやるようになりそうな気がします。

ただし、こうした大きな変化の過渡的プロセスを上手くのりきらないと、社会に対して痛みを与える可能性がありますので、そうした意味でも、これからを担う世代が人工知能とその影響についての理解を深めていくことがまずは求められるのだと思います。

「人工知能禁止地区」をつくることで、人間の価値を残す?


――人工知能はビッグデータと深く関係すると思いますが、ビッグデータができてきたから人工知能が生きるという捉え方でいいのでしょうか。

山川:当然そうなるのだと思います。たとえば人間の発達段階で得られるリアルタイム情報の全てを考えれば相当なビッグデータになるのだと思います。そういった点から見てもやはり人工知能が機能するためには背景としての大量データが必要であると思います。

――現状では人間にしかできないと思われているようなことも、人工知能はできるようになるのでしょうか。例えば、芸術的な創作なども可能になりますか。

山川:自動作曲はすでに歴史があり、文章作成についても、先に述べたニュース生成のほかに、星新一氏のショートショートをデータとして新たな星新一風の作品を創作させるプロジェクトもあります。創作の主な活動は、様々な要素の組み合わせを創りだして評価するプロセスとなりますので、適切な粒度の要素をうまく作り出せるかどうかが重要になりますが、その開発は深層学習で進展している表現学習の延長線上にあるものなので、今後の進展が期待される技術領域だと思います。

――ただ、創作に関して言えば、やはり創作すること自体が人間にとって楽しいという部分はありますよね。

山川:そこはさっきのエクスプレッションの話に繋がっていて、例えば「人工知能禁止地区」をつくる、というふうになるかもしれませんね。たとえば人工知能はある分野の音楽創作は禁止するとか(笑)。

――人間のエクスプレッションの余地は残しておいてよ、という感じですね(笑)。人工知能が進むと、人間に最後に残る価値はそういう形になっていくのでしょうか。

山川:人間に残される価値は、人間が生存したいという欲求と、生存権を相互に認め合うことから生ずるのだと思います。例として、人工知能で操作する自動運転車が事故を起こした時に罪を問う場合を考えてみましょう。仮に人工知能に財産権が認められていれば賠償ができるかもしれませんし、事故の経緯や原因を説明する機能をもたすことで説明責任を果たせるかもしれません。しかし人工知能を抹殺しても被害者やその家族はあまり納得出来ないことが多いでしょう。触れづらい事ではありますが、処罰を受けうることで責任を示す行為は生物である人間でこそ価値をもつわけです。

――そういう問題を突き詰めていくと、倫理観や価値観に結局は行き当たりそうですね。

山川:以前参加した国際会議で、倫理の専門家から、人間の倫理観には矛盾が含まれているので、論理的に書き出すことは困難であるとの話を聞きました。また最初にお話した将棋の例も、人間の価値を考える上で良い例になります。電王戦でプロ棋士がコンピュータに負けると、何故悔しいのでしょうか。人類が知性の面において地球上でトップでなくなった時に、私達の本当の価値が問い直されるように思えます。

電脳戦
電王戦の様子


人工知能は人類の手を離れて独自の進化を始める?


――人工知能のシンギュラリティ(技術的特異点)に関する議論をよく耳にします。人工知能が人間より賢くなり、さらには人工知能自体が自分より賢い人工知能をつくり出せるようになれば、世界がまったく変わってしまう、という議論です。

山川:もし私達による全脳アーキテクチャのアプローチが成功したならば、最初の人間並みの汎用人工知能は人の脳と似たものとなるはずです。しかしそうであっても人工知能が新たな超知能を設計するという再帰的なサイクルにはいれば人類の手を離れて高度な超知能が加速度的に再生産されることになるでしょう。この際には、私達が作りこんだ、脳との類似性は必ずしも保たれないでしょう。

シンギュラリティに対する単純な捉え方としては、技術的に上記の再帰サイクルが起こる時点を指します。しかし完全自律な超知能による再生産サイクルの以前においても、人を含んだ形での技術進展が段階的に加速されるため、シンギュラリティは数年とか十数年のもっと幅をもった一時代になるのではないかと私は思っています。

――シンギュラリティが来ると、そこから先の世界はやはり大きく変わるのでしょうか。

山川:私としては、ふと気づけばシンギュラリティは終わっていたというのが望ましいことかと思っています。見回してみると、働かずに過ごしている人々が増えているような(笑)。個人の幸福度が下がらないまま自然にそうなっていくのがよくて、ソフトなシンギュラリティを迎えたい。傷つく人が大量に生まれるようなハードなシンギュラリティは避けたいですね。

――シンギュラリティの議論の延長で、「地球派」と「宇宙派」という対比があるという話を聞き、とても興味深く感じました。

山川:それはヒューゴ・デ・ガリス氏による「人工知能戦争」ですね。そこで人類は人工知能を生み出すために生まれてきたので人工知能に道を譲るべきであると考える宇宙派と、人類の存続こそが重要であると考える地球派との対立が人類全体を巻き込む大戦争を導くというものです。

この議論は、人間を抜いた超知能が必ず人類を滅ぼすことを前提としており、それ程現実味はありません。かといってこの前提の可能性が小さいとしても、その被害の大きさから完全に無視するわけには行きません。

私はスティーブン・オモアンドロ氏による次の指摘は重要と考えています。つまり、人工知能を道具とみなす従来的な認識に従って、目的をストレートに与えてしまうことの危険性です。例えば「チェスに勝つ」という単純な目的を人工知能に与えたら、人工知能は電源を切られたら知識を蓄積できないので、インターネットを使って外部にコピーをつくっておこうという自己保存欲求が目的化されたり、より多くの計算資源を使おうという目的をもつことがあり得るということです。手段が目的化される連鎖の中で、人類への攻撃的な態度が目的として現れる危険性を指摘しているのです。

――未来のシンギュラリティに向けて、今から考えておくべきことなどはあるのでしょうか。

山川:こうした人工知能の極端なリスクに対して、哲学者のニック・ボストローム氏は、人工知能の価値観の設計や、人工知能を適切に封じ込めることの必要性を述べています。彼が指摘しているように、今私達に今問われているのは、人間を超える前の段階で人工知能を制御する方法を十分に検討することで、それによってこの種のリスクを十分に小さくできるでしょうし、そのために諸学の結集が望まれています。

私自身は、将来現れる高度な人工知能やそのコミュニティは、最上位の目標として「万人の幸福」と「人類の存続」の両方を持ち、なおかつそこに生じる矛盾を解決しバランスさせるために人工知能が力を発揮すべきであると考えています。つまり皆が均質化して仲良くできれば各個人にとっては幸福が高まるもしれませんが、均質な集団は絶滅しやすい性質を持ちます。一方で人類が種として生き残るためには多様性が必要となりますが、各個人から見ると皆と異なる行動を選択することは必ずしも楽ではありません。つまり二つの最上位目標にはトレードオフがあるため、そのバランスをどのようにとるかについて人工知能に活躍してほしいと思っています。

ただし、本質的に人工知能が強力な技術であるために、それ自身が暴走すること以外にも、人為的な利用によって大きな被害をもたらす可能性が存在します。これは既に私達が核技術や、バイオ技術において直面してきたことと同様です。人工知能のリスク面は人間性への影響なども含めて多岐にわたって検討しておくべきでしょう。

――最後に、これからの社会の姿と、その中でご自身のやりたいことについてお聞かせください。

山川:技術である以上、人工知能にもメリットとリスクが共存します。そもそも人工知能は、人々の日常生活を安全で快適なものにする経済価値があるからこそ投資がなされているわけです。しかし今後はさらに、科学技術の進歩を後押しすることで、人類社会に大きな恵みをもたらすでしょう。特に気候変動や食糧問題などといった世界的な課題に対して優れた対策を見出すことに役立てられると思います。ドワンゴ人工知能研究所の設立趣旨は、こうした意味で次の世代の助けとなる人工知能を残してゆくことに貢献したいと考えています。

また私が注力している全脳アーキテクチャ研究では、脳を参考とした機械学習の結合により人間のような汎用人工知能の実現を目指しています。そしてこの技術の長期的な発展と活用を公益的な立場から促進するため、NPO全脳アーキテクチャ・イニシアティブ(WBAI)を今秋に設立します。WBAIではそのために必要不可欠な人工知能、神経科学、認知科学、機械学習などの、多分野にまたがる研究者コミュニティの形成・育成、さらに基盤的研究開発を行うつもりです。

一方で、人工知能のメリットを活かすと同時に多岐のリスクを緩和して、人類社会と調和した社会像を模索するためには、倫理や人間性、社会、経済などの諸分野の方々との対話を促進することが重要です。そこでWBAIのように技術をつくる立場においても、そうした対話を支えるための技術情報を適切に開示するつもりです。

安全面を考慮しながら汎用人工知能の研究開発を実施及び促進するWBAIによる新たな活動は、今後の人工知能技術の進展とともにその重要性を増すものと思いますので、多くの方々にご支援を頂きたいと思っている次第です。

プロフィール

  • Yamakawa hiroshi pr
    山川 宏
    ドワンゴ人工知能研究所 所長

    1987年東京理科大学理学部物理学科卒業。1989年東京大学大学院 理学系研究科 物理学専攻 修士課程修了。1992年東京大学大学院 工学系研究科 電子工学専攻 博士課程修了。1992年富士通研究所入社。1994年同社から通産省RWCプロジェクトに参加。2014年ドワンゴ 人工知能研究所 所長。2015年産総研人工知能研究センター客員研究員就任。2015年特定非営利活動法人全脳アーキテクチャ・イニシアティブ 代表就任。2015年電気通信大学大学院 情報システム学研究科客員教授就任。工学博士。専門は人工知能、特に認知アーキテクチャー、概念獲得、ニューロコンピューティング、意見集約技術など。

バックナンバー

関連記事

続きを見る
ページ先頭へ