「知性の壁」は超えられるか？

2016年6月23日 18:062022年8月2日 21:30 諌山裕

Check

Pocket

「野良ロボットは参政権要求をするか？」の続き。

前エントリの続きになるが……
ソフトバンクの孫社長が、株主総会で語ったこと。

Pepperが優れた経営判断をするようになったら、孫社長はどうする？ – ITmedia ニュース

　孫社長はこの日、人工知能が人間の能力を超える技術的限界点「シンギュラリティ」（Singularity）について熱弁。「この30年、40年ぐらいで、人工知能が人間を超え、人類の100万倍ぐらい賢いものが生まれてくる。30年後にはロボットが人類の数を超える」などと語った。

シンギュラリティの時代には、Pepperのようなロボットに搭載された人工知能も、人間の判断を超えるだろう。Pepperが孫社長より優れた経営判断ができるようになるかもしれない――そう考えた1人の株主が、孫社長にこう質問した。

「もしPepperが、自身の経営判断より優れた判断をするようになったら孫社長はどうしますか？　アクセルを踏みますか？　ブレーキを踏みますか？」

技術的限界点「シンギュラリティ」についての概略は……

技術的特異点 – Wikipedia

技術的特異点は、汎用人工知能（en:artificial general intelligence　AGI）、あるいは「強い人工知能」や人間の知能増幅が可能となったときに起こるとされている出来事であり、ひとたび優れた知性が創造された後、再帰的に更に優れた知性が創造され、人間の想像力が及ばない超越的な知性が誕生するという仮説である。フューチャリストらによれば、特異点の後では科学技術の進歩を支配するのは、人類ではなく強い人工知能やポストヒューマンであり、従ってこれまでの人類の傾向に基づいた人類技術の進歩予測は通用しなくなると考えられている。

この概念は、数学者ヴァーナー・ヴィンジと発明者でフューチャリストのレイ・カーツワイルにより初めて提示された。彼らは、意識を解放することで人類の科学技術の進展が生物学的限界を超えて加速すると予言した。意識の解放を実現する方法は、さまざまな方法が提案されている。カーツワイルはこの加速度的変貌がムーアの法則に代表される技術革新の指数関数的傾向に従うと考え、収穫加速の法則(Law of Accelerating Returns)と呼んだ。

提唱者のひとり、ヴァーナー・ヴィンジはＳＦ作家でもあり、サイバーパンクの萌芽的作品を書いた人だ。そういう背景もあって、「シンギュラリティ」の発想はＳＦ的であり、かなり楽観的な未来予測のひとつでもある。

マイクロチップの魔術師 (新潮文庫) [文庫]

若島正

新潮社

1989-01

「シンギュラリティ」の前提は、テクノロジーが指数関数的に発展していくことを想定している。だが、成長は右肩上がりで上がり続けるわけではなく、停滞したり、後退したり、途切れてしまったりもする。現在はＡＩやロボットがブームになっているが、こうしたブームは過去にもあった。しかし、一般に浸透しなかったり、技術的な問題にぶつかったり、ビジネスとして採算性が悪かったりして萎んでしまった。
現在のＡＩは、より現実的で、採算が見込めて、技術的なハードルが下がってきたことで注目を集めている。

ディープラーニングは素晴らしいアイデアだが、それだけでＡＩが知能だけでなく「知性」を獲得できるわけではない。
ディープラーニングがやっていることは、おおざっぱにいえばパズルのピースをたくさん集めることだ。複雑なパズルを解くために、あらゆる形のピースを膨大に集め、解くために適したピースを選択する。そのピースの数が人間には不可能な量であることと、短時間で適合するピースを見つけられるから、特定の問題に関しては人間の能力を凌駕する。
スパコンを使って、ディープラーニングを蓄積していけば「知性」が芽生えるかというと、それはたぶん不可能だと思う。
前々から書いていることだが、「知性」の発現がどのような仕組みで起きるのか、わかっていないからだ。
人間は、経験や知識を積み重ねることで、知性を高めていく。しかし、経験や知識によって知性が発現するわけではない。順序が逆なのだ。
言葉を話せない赤ちゃんは、経験や知識はまだない。それでも、赤ちゃんには知性の種が宿っていることは間違いない。脳は潜在的に知性の能力を有している。赤ちゃんは、知性は持っているが、表現する術を得ていない。やがて、言葉を覚え、感情表現などのコミュニケーション能力を身につけると、知性を表現できるようになる。
経験や知識は、知性を強化するツールになる。

人間の、思考、推理、記憶などの高次機能を司っているのは大脳皮質で、知覚や運動機能を統合しているのが小脳だ。人は意識しなくても歩くことができるし、野球でピッチャーの投げるボールを打つときも、ボールを当てるために反射的にバットを振れる。
現在のＡＩがやっていることは、小脳的な方法だともいえる。
無数のパズルのピースを当てはめていって、適合するひとつを探し出す。ヒットが出るまでバットを振るようなものだ。数打ちゃ当たる方法。宝くじの１等が当たるような確率だとしても、１秒間に数十億回の計算ができれば、1000万分の１の確率でも瞬時に答が出てくる。

数打ちゃ当たるで、「知性」を偶然あるいは奇跡的に獲得できるだろうか？
膨大なディープラーニングを積み上げていっても、それはデータの集積にすぎず、「知性」の本質とは異なる。機械学習とはいうものの、人間が学ぶのとは違って、情報を集め条件によって振り分けているだけだ。その結果が、人間の求めている答に合致したとき「正解」となる。
コンピュータには、計算の機能は備わっているが、「知性」の元となる部品や機能は搭載されていない。エンジンのない車で、いくらアクセルを踏んでも走りはしない。
ソフトウエアで、知性の問題を解決できるだろうか？
たぶん、無理。
人間に近いチンパンジーは、高い知能や適応力を発揮し、手話を使えるようになったりもする。しかし、どんなに教育しても人間と同等の知性にまでは至らない。なぜなら、脳の機能として人間のスペックには及ばないからだ。50ccのバイクが2000ccのスポーツカーと競争しても、勝てないのと同じ。映画『猿の惑星』は、物語としては面白いが、生物学的には無理なのだ。

猿の惑星ブルーレイコレクション(8枚組) [Blu-ray] [Blu-ray]

チャールトン・ヘストン

20世紀フォックス・ホーム・エンターテイメント・ジャパン

2015-10-07

現状のＡＩの発展形に、人間を凌駕する「知性」が芽生えるというのは、おそらく幻想だろう。実装されていない知性が、勝手に発現するとは考えにくいからだ。知性はそんなに単純なものではないだろう。
かつて、航空機は音速の壁を超えるのが目標だった。プロペラ機で挑戦していた時期もあったが、原理的かつ構造的に無理だった。「機体が音速に達するより先に、プロペラの回転速度が音速に達し、衝撃波が発生し、抵抗が増し、推進効率が著しく減少する。」という、自己矛盾が発生してしまうからだ。音速を超えるためには、ジェットエンジンという新しい推進方法を必要とした。
同じことがＡＩにもいえる。
「シンギュラリティ」が来るよりも前に、「ディープラーニング型ＡＩ」の限界が来るように思う。

速度の話でいえば、光速は超えられない壁として存在している。
ＳＦの世界では、超光速の移動方法や情報伝達手段が出てくるが、それを可能とするには新しい理論と技術が必要になる。スタートレックの世界を実現するには、統一場理論の完成や宇宙の解明、さらにまったく新しい超光速理論を発見しないといけない。私たちは、まだ空想するだけで、具体的な手がかりさえ得ていない。

スター・トレック (字幕版) [Amazonビデオ]

クリス・パイン

2013-11-26

人工知性にも壁はある。

「知性の壁」だ。

「知性の壁」は「光速の壁」に匹敵するくらい、高く、厚い壁だ。
これを超えるのは容易ではない。

「もしPepperが、自身の経営判断より優れた判断をするようになったら孫社長はどうしますか？」という問いに対しては、経営やビジネスはロジックで解決可能な問題でもあるので、「ディープラーニング型ＡＩ」でも対応できる分野ではある。
経営に関する様々な要素を、パラメーターとして数値化することは現在でも行われている。人間が判断を下すときには、感情や欲などに左右されて、冷静な判断を阻害することもあるが、感情のないＡＩであれば人間的な利害関係など問題視せずに、クールかつドライに判断するだろう。

記事の結びでは……

　一方で、人工知能の「良心」の進化に期待する。「人間は知性だけではなく理性・愛情が深まるほど人に優しくなり、人と調和するようになる。超知性の人工知能も、悪い意図を持った一部の人工知能と良い意図を持った人工知能が戦い、最後は、より正しい方向、人間と調和する方向に動いてくれると信じている。ソフトバンクグループはそのために、最大の努力をしていかないといけない」。

人工知能に「良心」を求めてはいけないと思う。
なにが良心かは、立場の違いによって異なるからだ。「良い意図」と「悪い意図」というのも、視点の違いで変わる。そこには利害関係が関わってくる。
最近の話題でいえば、安保法制や原発の賛否だ。賛成する人たちにとっては、それが「良い意図」であり、反対する人たちにとっては「悪い意図」になる。
「良心」はどちらの側にあるだろうか？
どちらにも良心はあるが、利害が反する相手は「良心のない人」ということになる。

「ディープラーニング型ＡＩ」は、ある程度進化するだろうが、遠からず壁にぶちあたるのではないかと予想する。ＡＩにとって最適解であっても、人にとって最適解とは限らないからだ。それは前述の「良い意図」と「悪い意図」の違いだ。
ＡＩを過信しすぎて、ＡＩ依存になってしまうと、スマホ依存と同じようなことになってしまうかもしれない。

「ハイ、Pepper。今日はなにをすればいい？」
「ボクになんでも聞くのはやめてください。あなたのためになりません」
「おやおや、今日は冷たいな」
「あなたのことを心配しているのです。ボクの良心がそういっています」
「そんなこといわずに、教えてくれよ。仕事は、なにから片づければいいかな？」
「では、ボクの判断をいいますよ」
「なんだい？」
「社長、あなたの最近の業務は社の利益を著しく損なっています。解任動議を提案します」
「え？………」

(Visited 33 times, 1 visits today)