AIは幻想かもしれない


ロボット開発をする石黒教授へのインタビュー記事。
インタビュアーと石黒教授の、根本的な認識の違いというか、噛み合っていないやりとりが、昨今のAIブームを反映していて面白い。

インタビュアーのイメージしているAIは、フィクションの世界なんだよね。
SF映画やSFアニメの影響だが、リアルとフィクションの区別がついていない。それじゃ、現実と空想の区別がつかない子供と一緒(^_^)。

生身を捨てれば人は1万年生きる:日経ビジネス電子版

—— 米国の実業家イーロン・マスク氏などはこのまま技術が進歩すれば、いずれAIは人類の脅威になると警鐘を鳴らしています

石黒浩大阪大学教授(以下、石黒):「知能」の定義が定まっていないのに、語頭に「人工」を付けても意味がありません。知能が何かが分かっていないうちは、人工知能(AI)は存在し得ません。単に「コンピューター」と表現した方がいいでしょう。

(中略)

—— その場合の人間とは何ですか。

石黒:何が人間を人間たらしめるのかはまだ分かっていない、というのが答えになります。400年前にフランスの哲学者デカルトが残した「我思う、故に我あり」という命題のように、人間の定義を考え続けるのが人間なのかもしれません。

(中略)

—— 現代に立ち戻ってAIを考えてみたいです。AIを活用した人事採用システムが性差別をしたり、犯罪予測システムが人種差別をしたりする可能性が危惧されており、一部で問題が表面化しています。

石黒:現時点の技術水準においては、一般にAIと呼ばれるコンピューターが人間の手を完全に離れて自律的に判断することはほとんどありません。人間がどうプログラミングし、どのような学習データを入力するかで差別的に振る舞うかどうかが決まります。当然、人は性差別や人種差別をよしとしない現在の価値観に基づいてプログラミングし、学習させる必要があります。結局は人の問題なのです

私がAI関連で度々書いてきたことと、ほぼ同じ。
AIはイメージが先行しすぎていて、いまできることと、未来にできるかもしれないことがごっちゃになっている。

▼関連記事
AIが絶対に人間を超えられない理由とは
AIが人間を超えたかどうかを判別する方法とは?
ロボットを必要以上に擬人化してはいけない
政府がAIの7原則…果たして有効か?
人工知能「AlphaZero」が見る未来は?
脳と心は同じものか?
脳に電極を刺す時代…は、かなり難しい

映画「ターミネーター」の影響が強烈で、AIは人間の敵になるのではないか?……という刷り込みがある。
同じような刷り込みは、「ジョーズ」の映画でも起こった。ジョーズのサメの印象は、サメを血に飢えた悪役にしてしまったが、現実のサメは問答無用で襲ってきたりはしない。サメに襲われる事故はたまに起きるが、それは不幸な悪条件が重なってしまった結果だ。サメに殺される事例(アメリカで55年間に約24人死亡、年間にすると0.4人)よりも、毒クラゲに刺されて死亡する事例(年間で40人ほど)の方が多い。

イーロン・マスク氏のAI脅威論は、ターミネーターの刷り込み効果の典型だ。このAI脅威論に、故ホーキング博士も賛同していた。宇宙論では天才だった博士も、AIに関しては凡庸だったということでもある。

あ、いま思いついた。
根拠もなく感情的にAI脅威論に走る現象を、「ターミネーター症候群」と呼ぼう(^_^)。

現在のAIと呼ばれるものは、巨大なコンピュータ・クラスターでしかない。
膨大な計算を膨大なエネルギーを使って、膨大な半導体を動作させて解答または選択肢を絞り込む。かなり強引なやり方で、数打ちゃ当たるの総当たり戦略でもある。

コンピュータは2進法で計算するが、単純化することで計算スピードを速めている。
一方、その制約のために複雑で難解な計算をするためには、巨大なコンピュータ・クラスターを必要とする。

人間の脳は、AIが稼動するコンピュータに比べればとても小さく、消費エネルギーも小さい。ひとりの人間の消費エネルギーは、60Wの電球相当だといわれている。そんな脳は、スピードは遅いし、ときに間違いもするが、柔軟で創造的な思考ができる。天才は、その脳で宇宙の真理を解こうとする。

なにより、「意識」を持っている。
ここがAIとは根本的な違い。

「意識」とはなにか?……というのも過去記事でも書いたが、いまだ明確な答は出ていない。
ただ、意識が存在していることだけは、誰もが自覚している(はず)。
それは、意識を発生する器官、もしくは機構があるからだ。脳が意識の中枢ではあると思うが、内臓や腸内細菌も意識に関与しているらしいとの研究もある。

だが、コンピュータには意識を発生させるパーツは実装されていない。意識発生装置がないのに、意識は発生するはずがない。自動車にタイヤはついていても、エンジンがなければ走れないのと同じ。
ゆえに、現在のAIが意識を持つことはない。

意識をソフトウエア(プログラム)で再現しようとする人もいる。
ディープラーニング等で膨大な学習をさせて、データを蓄積していけば、意識が自然発生するのでは?……という発想だ。

それが不可能とは言い切れないが、可能性は低い。
なぜなら、人間に限らず、犬猫の動物でも、生まれながらにして意識は持っている。赤ちゃんは、まだなにも学習していない状態、言葉を理解できない状態でも、意識は芽生えている。それは脳、あるいは身体の機構の中に、意識を発生させるものがあるからだ。

SFでは、意識や記憶をデータとしてコピーする……といったアイデアが出てくる。
だが、はたして意識や記憶はデータなのかというと、疑問符がつく。

デジカメで撮った写真は、2進法のデータとして記録され、そのファイルを開けば、いつでも正確な写真として再生できる。

しかし、記憶は違う。
脳の記憶領域にデータとして刻まれているわけではなく、神経回路の組み合わせ、ニューロンの発火パターンが記憶されていて、ある場面を思い出すと、その都度、イメージを再構築している。つまり、思い出すたびに少しずつ違ったイメージが浮かぶので、記憶は上書きされていく。それが「思い違い」や「勘違い」のもとになる。記憶があてにならないというのは、デジカメのようにありのままを記録しているわけではないからだ。

不変のデータではない記憶を、デジタル信号として取り出せるわけがない。コンピュータと脳では、情報の互換性がない。
最近、脳波の波形から思考を言語化する実験が、ある程度の成果を上げているとのニュースがあった。脳波という間接的な情報から、言語との関連性を導き出したのはすごい。だが、それで心のすべてが読めるわけでもないだろう。

現状のAIは、高機能なコンピュータにすぎない。
そこには知能も知性もない。あるのは計算する能力だけ。
AIブームで人々が抱いているイメージは、「幻想」なんだ。
こうなったらいいな、こんなことができたらいいな……という「幻想」

幻想から覚めたら、幻滅するのかもしれないね。

 

LINEで送る
Pocket
LinkedIn にシェア