「シンギュラリティ」という壮大な仮説真の脅威はその「検証力」にあり～WIRED「シンギュラリティ・サミット」レポート～（後）

2015/11/04

日塔史
株式会社電通

前回に引き続き「WIRED A.I. 2015 ～TOKYOシンギュラリティ・サミット #1」からレポートします。

「人間のようなAI：本質的危険性と安全性」（産業技術総合研究所人工知能研究センター　一杉裕志氏）

一杉氏は、松田氏の講演でも紹介された「産総研人工知能センター」（以下AIRC）の脳型人工知能研究チームに所属する主任研究員である。

AIRCは本年5月に設立された組織で、人工知能研究のプラットフォーム形成を目指して国内外の大学、研究機関などに散在するエース級人材を集積することを目指すものである。

そして客員研究員として前回紹介したドワンゴの山川宏氏、東京大学の松尾豊氏、国立情報学研究所の市瀬龍太郎氏も参加している。

なお前回触れたとおり翌日午前に「汎用人工知能研究会（SIG-AGI）創設記念シンポジウム」が開催されたが、同日午後に「産総研人工知能研究センター設立記念シンポジウム」（会場：日経ホール）が行われ、この2日間は人工知能関連の重要イベントが集中する形となった。

一杉氏の研究目標は「脳のリバースエンジニアリング」（脳の仕組みをコンピューター上で再現すること）を通じて、脳を模倣して人間のような知能を持つ機械＝「ヒト型AI」を作ることだ。

計算論的神経科学の進展でかなり脳のことが分かってきており、それを工学的に応用して成功したのが深層学習である、とのことである。

誤解されているが脳はとても普通の情報処理装置であり、心臓などに比べれば複雑だが意外と単純で、例えば大脳皮質は、認識、意思決定、運動制御、思考、推論、言語理解など様々な高次機能を司るが、たった50個程度の領野のネットワークで実現されているそうだ。

その大脳皮質はディープラーニングと同じ構造を持った巨大なベイジアンネット（確率推論モデルの一種）であるとの仮説に基づいて、一杉氏は、「BESOM」というアルゴリズムを開発している。

さらに、ヒト型AIが実現したときの社会へのインパクトに関して、知能の高いロボットによる労働支援により、人間の労働生産性が限りなく増大するので、富の再配分が適正に行われ、資源制約の問題が解決されれば人類は限りなく豊かになる、とした。

ヒト型AIはこのように、実現すれば人類に膨大な利益をもたらす研究分野であるが、「脳のアルゴリズムの解明」と「計算機の低コスト化」の二つの課題があることが述べられた。

また、テーマに掲げているようにAIには危険性があり、短期・中期・長期で分けて考える必要がある、とのことである。

短期的には単なる道具なので、人類を滅亡されることは考えられないが、AI兵器や犯罪で悪用のリスクがあること、さらにAIを使って誰かが世界を支配するという、AI自体ではなく道具として使用する人間の方にリスクがある、とした。

また中期的には人間の知能を超えるので、利便性が増すと同時に潜在的危険性も増し、暴走したAIはあらゆる安全策を自分で解除する可能性がある、と述べた。長期的には、人類が退化したり絶滅した後にAIが後継者になり得るかという話に及んだが、人工物には生物のようなしぶとさがないので消滅してしまう可能性が高く、AIが後継者として当てにならない以上、人間がAIを使いこなしていくしかない、と結んだ。　

「プレ・シンギュラリティの衝撃」（PEZY Computing　齊藤元章氏）

齊藤氏はスーパーコンピューターを開発しており、松田氏が日本の“ちゃぶ台がえし”のためのハードウエアとして多大なる期待を寄せている。

松田氏からの紹介によると、驚くことに昨年PEZY Computingは11カ月でスーパーコンピューターを開発（7カ月で1号機、４カ月で2号機）し、消費電力のスパコンランキング「Green500」（絶対性能ではなく１ワット当たりの性能を競うもの）で1～3位を総なめした。

さらに、予算さえあればあと5年（2020年）で「京」の100倍の計算速度（エクサスケール）のコンピューターができる、とのことである。

齊藤氏はまず放射線科医としてキャリアを開始し、複雑なハードウエア開発を20年にわたり行ってきたことを述べた上で、その開発者の立場から見て「収穫加速の法則」（前述）を今一度確認すると、1971年の世界初のマイクロプロセッサー（Intel 4004）に比べて、2011年には性能が1兆倍になっており、このペースだと2021年には1126兆倍になる、とした。

このように進化して生み出される次世代スパコンによって10年以内に出現する世界を、齊藤氏は「前特異点」（プレ・シンギュラリティ）と呼んでおり、極論すれば“保有するスパコンの能力＝国力”という時代が到来する、と述べた。

その前特異点では、科学技術と情報技術が究極までに発達し、生産性が無限に高まり、医療も劇的に進化して、人間が生きる上でのあらゆる問題から解放される、と予想。

その新しい世界の兆候として汎用人工知能（AGI）があり、AGIは次世代スパコンと同じく非常に強力かつ万能で“国力＝AGI性能”となることが述べられた。

人間1人当たりの能力を「1H」と呼ぶとすると、1Hを人間と同じ規模（大きさ）で実現したいと考えているが、それは現在のコンピューター技術から見ると途方もない性能になり、これまでとは全く異なる実装技術が必要となる。

しかし現在、それを慶応大学黒田研究室の「磁界結合」、ディスコ社と東工大学大場研究室の「半導体ウェハー極薄化」などの技術を活用して開発しているという。

そこで活用する技術は全て日本のものであり、この方法によって「ムーアの法則」を大きく上回る半導体スケーリングの恩恵を受けることができる、とした。

計算上は一辺が10センチの立方体より小さい800立方センチの体積に1H規模のニューロンとシナプス相当の機能を収めることが可能になるそうだ。

そして最後に、先行する欧米の多数の先行プロジェクトを日本の独自のハードウエアとソフトウエア開発で凌駕するための新しいスカンクワーク・プロジェクト「Project N.I.」（NはNewやNext、Nippon、Neuroなど、IはIntelligenceの意味）を開始したので、優秀で良識ある開発者を広く募集することをアナウンスした。

「日本がAI先進国になるために」（東京大学　松尾豊氏ほか）

順番は前後するが、齊藤氏の講演の直前に編集者の服部桂氏、経済産業省の井上博雄氏、東京大学の松尾豊氏のセッションが行われた。

産業的にAIにどのような取り組みを行っていけばよいかを総合的に議論するものだったので、セミナーレポートのまとめとして松尾氏の講演内容を紹介する。

松尾氏は現在様々な形でディープラーニング（深層学習）の講演を行っているが、まずここ数年で画像認識の精度の急激な向上が起こっている、と述べた。

山川氏が「モラベックのパラドックス」として紹介した通り、子どもができることほどAIにやらせるのが難しく、大人や専門家のタスクをやらせるのは比較的簡単だとされてきた。

そのような中、画像認識はまさしく子どもでもできる非常に簡単なタスクだが、コンピューターは苦手で何十年も一向に精度が上がらなかったそうである。

しかし、2015年2月に人間の画像認識のエラー率5.1％に対してMicrosoftが4.9%、3月にGoogleが4.8%を達成し、少なくとも画像認識においてはコンピューターが人間を上回った。

次に起こるのは、ロボットや機械の運動能力の向上で、2015年5月には米国カリフォルニア大学バークレー校でロボットが試行錯誤するうちにだんだん行動が熟練し、上達してくる研究が発表された。

このような運動能力の向上は、高度な知能を必要とするものではないのになぜできなかったかというと、状況の認識が正しくできなかったからで、これからはディープラーニングによって機械やロボットの運動能力が向上してくる、とのことである。

松尾氏によると、「大人の人工知能」と「子どもの人工知能」は分けて考えた方がよい。

「大人の人工知能」とはデータを入力し、そのデータの処理を人間が設計すると一見賢いような振る舞いができるもので、「子どもの人工知能」は画像を認識したり、行動が上達したりするものを指している。

この二つを区別するのは戦略が違うからで、「大人の人工知能」はデータを集めるのが重要なためGoogle、Amazonが強い世界で日本が逆転するのが難しいそうだ。

一方、「子どもの人工知能」は製造業や建設、農業、食品加工など体を使う産業と相性が良く日本企業にチャンスがある、と語った。

産業別に見ると、「大人の人工知能」は基本的に販売・マーケティング・広告の領域で活用されており、その市場規模は日本で6兆円、アメリカでも15兆円くらいだが、「子どもの人工知能」による「ものづくり」は製品を作って売るので動くお金が桁違いに大きく、そちらの付加価値向上の方がマーケットとして大きいのではないか、とのことである。