まだ存在していない、真の人工知能に対して、警鐘を鳴らしているのだが……
人工知能が人類の敵になる？ 起業家イーロン・マスク氏が人工知能を警戒する理由 － TechTargetジャパン 経営とIT
米マサチューセッツ工科大学（MIT）のAeronautics and Astronautics Department（航空宇宙工学科）で開催されたシンポジウムの閉幕講演において、起業家のイーロン・マスク氏は、人類が直面する人工知能（AI）のリスクについて警鐘を鳴らした。
（中略）
「機械が判断を下すとして、その決断が間違っていたら何が起こるだろうか」（プレンティス氏）
記事中にも例として挙げられている、映画『ターミネーター』のように、人工知能が人類を支配する……といったシナリオを描いている。
ここで問題なのは……
人工知能とはなにか？
知性とはなにか？
どのレベルに達したら、脅威となるのか？
……といったことだろう。
人間の作り出す機械あるいはコンピュータが、知能あるいは知性を持つことはあるかもしれない。その場合、知能や知性の定義がなんなのか？……ということ。
現在のコンピュータでも、大量のデータの計算能力や処理能力は人間以上だが、そこに知能や知性があるとはいわない。ただ計算しているだけ。
人間的にふるまうロボットなども登場しているが、それも人間の行動様式を模倣させているだけ。それが人間的に見えるのは、人間がロボットを「擬人化」して見るためだ。
人工知能が人類を支配する……といった妄想も、人工知能を多分に擬人化した発想だろう。
ＳＦとしては面白いんだけどね。
記事中に出てくる一言の……
「機械が判断を下すとして、その決断が間違っていたら何が起こるだろうか」
……という部分で、「正しい判断」とはなんだろうか？
人間がいつも正しい判断をしているわけでもなく、間違った判断の方が多いのではないか？
その間違った判断が、事故や災害、あるいは政治的・経済的な混乱を引き起こす。
人間は判断を誤ることが多々あるが、機械は間違ってはいけない、というのも理不尽な気がする。人工知能は、おそらく人間的な思考をモデルにするだろうから、人間的であればあるほど間違った判断を下すリスクが増える。逆にいえば、ときに間違うことが「人間的」であるともいえる。
サバイバルものの映画などにはよく登場するシーンに、「究極の選択」というのがある。
ある断崖絶壁で、３人が危機一髪に陥る。
吊り橋を渡ろうとして、劣化した橋が崩落。２人は、かろうじてつかまったロープにしがみついているが、いまにも奈落の底に落ちようとしている。
２人を助けられるのは、残ったもう１人。
しかし、１人の力で引き上げられるのは１人だけ。崩れた橋は、まもなく完全に崩壊してしまう。時間はない。２人とも助けることは難しい。
さて、助けるのは２人のどちらなのか？
どちらを助けるのが、「正しい判断」なのか？
（１）一番近い方の１人を助ける。
（２）救出者と仲のよかった方を助ける。
（３）２人とも助けようとして、２人とも助けられない。
（４）自分も危険になるので、どちらも助けない。
（５）助けを求めるのが男女の場合、女性を助ける。
（６）年齢的に若い方を助ける。
……etc.
シチュエーションによって、いろいろな選択肢がある。
どれが「正しい判断」なのかの答えはない。
「正しい判断」とは、いくつもある選択肢から、もっとも適切な選択をすることだが、どれかを選択すれば選択されなかったものは排除される。選択するに至る判断には、選択対象に対する評価や優先順位が考慮される。ＡよりＢ、ＢよりＣ、Ｃよりも……と、より有意な選択をすることになる。
それは正しいかどうかとは、無縁な場合もある。
前述の例でいえば、「ＡさんよりもＢさんを救うことが正しい」あるいは、「ＡさんではなくＢさんを救うことは間違っている」ということにはならない。
人工知能の判断が「正しい」か「間違い」かが問題になるのは、人間ですら難しい判断の場合だろう。誰もが納得するシンプルな判断なら、判断の判定を決定するアルゴリズムもそれほど難しくはない。下される判断は、当事者の利害関係でもあり、利するのはどちらか？…でもある。
未来の人工知能の立場に立てば、“彼”に与えられた最重要使命が、地球環境を良好な状態に維持することだとした場合、目的を最優先に考えれば、環境破壊の諸悪の根源は人間であると結論を出すかもしれない。ゆえに、人間を排除すべし……という判断をしたとしても、それが間違っているとはいえない。人工知能は合理的かつ効果的な選択をしただけ。人間にとっては不都合な判断だが。
映画「ターミネーター」に登場する「スカイネット」は、自我に目覚め、それを恐れた人間が破壊しようとする。それに対抗して、スカイネットは自己保存のために人間の敵となる。
そもそも「自我」とはなにか？
やっかいな問題だ。
これについては、過去にもたびたび書いているが……
「未来は機械知性によって作られるか？」
……など、繰り返しになるので割愛(^_^)。
現状のコンピュータ（ノイマン型）の延長線上には、真の人工知能……つまり、自我を持つような知能や知性は誕生しないと思う。
あるとすれば、「人工知能もどき」だろう。
スパコンがどんなに高速かつ高度な計算ができるようになったとしても、そこに自我は存在しない。数値化されたものを計算しているだけだ。
人間的なふるまいをすることで、知性があるように見せることはできる。それを知性と呼ぶかどうかだ。
真の人工知能の誕生があるとすれば、量子コンピュータが実用的になる未来かもしれない。
それはまだしばらく先の話。