Robots Rebel Against Humans.
ＡＩやロボット関連の話題が多くなった昨今。
人間に反乱するＡＩやロボットを、真面目に想定する人たちもいるのだが……
徒党を組む〝野良ロボット〟が参政権要求、振り込め詐欺、人間に反乱…ＡＩのリスク総務省研究所が報告 – 産経ニュース
ロボットが参政権付与を要求し、民主主義のリスクに－。総務省情報通信政策研究所は２０日、人工知能（ＡＩ）を用いたネットワークシステムの社会・経済への影響、課題などを検討する会議の報告書をまとめた。
ＡＩで動くロボットに起こり得るリスクについて、ハッキングや制御不能のほか、ロボットがＡＩにより自らの意志を持って動き出し、人間との関係が変わっていく可能性にも言及。リスクを管理するため、「人間に反乱するおそれのある人工知能の開発の事前の制限」の必要性も指摘した。
ちょっと待て！(^_^)
リスクを想定するのはいいが、かなり気が早すぎるぞ。
AI技術は進歩していくだろうが、現状、実現できているＡＩは限定的な能力しかなく、過大評価しすぎだ。
囲碁で人間の棋士を制圧したからといって、人間に対して権利を要求するようになるわけじゃない。その間には、エベレストよりも高い壁が立ちはだかっている。
ＡＩは計算はしているが、「思考」をしているのではない。
参照→「ＡＩが“ひらめき”を獲得するのはいつ？」
上記エントリでは粘菌の例を挙げたが、現在のＡＩはもう少し高度なので、「蟻」のレベルかもしれない。
蟻の個々の個体は、それぞれに役割を与えられて、遺伝子に刻まれた本能というプログラムを実行している。個々の蟻が「思考」して作業を実行しているのではなく、わずかばかりの神経系で計算して行動しているだけだ。餌を探しに行くときは、障害物に遭遇したら迂回して道を探し、巣に帰るときには自分が残した臭いを辿って戻る。機能と行動としてはシンプルだが、女王蟻を頂点とする群れとしては、高度に社会的なシステムを構築している。一種の集合知だが、そこに「意思」や「思考」はない。蟻は生存本能の遺伝子プログラムを実行しているにすぎない。
人間が観察すると、統率された行動や、蟻塚のような造形をすることから、社会的な生物であると考えてしまう。しかし、「社会的」という認識そのものが、蟻を擬人化している発想だ。蟻は社会的などという意識は、微塵も持っていない。蟻は個体だけでは生存できず、集団としてのみ生きられる。数百匹～数千匹の蟻の集団が、生物としての蟻ともいえる。
囲碁のAlphaGoや接客ロボットのPepperは、目の前にある端末が本体ではなく、ＡＩはクラウド上の巨大なサーバー群だ。そういう意味では、端末としてのロボットは個々の蟻のような存在。
上記の記事では、想定リスクの目立つ部分が取り上げられているが、詳細は以下のページの「報告書」PDFに記載されている。
その中の一節。
総務省｜AIネットワーク化検討会議 報告書2016 の公表
３．「智連社会」における人間像
(1) 「智連社会」（Wisdom Network Society：ＷＩＮＳE ウインズ）
本検討会議は、中間報告書において、ＡＩネットワーク化の進展を見据え、人間とＡＩネットワークシステムとが共存する段階（第四段階）における社会の在り方を構想した結果、目指すべき社会像として、智連社会（Wisdom Network Society：ＷＩＮＳ ウインズ）を掲げた。この智連社会という社会像は、「高度情報通信ネットワーク社会」及び「知識社会」のような「情報」・「知識」（知）に着目した従来の社会像の次にその実現を目指すべき、「智慧」（智）に着目した社会像として構想したものである。「智連社会」における人間像
ここで「智連社会」という耳慣れない言葉が出てくる。
「知」から「智」へ……ということで、造語らしい。「智慧」という言葉も出てくるのだが、これは仏教用語で、「物事をありのままに把握し、真理を見極める認識力。「智」は相対世界に向かう働き、「慧」は悟りを導く精神作用の意。」ということだ。
Wisdomの和訳として「智慧」を当てているのだが、少々意訳すぎないか？
1. a 賢いこと，賢明，知恵; 分別.
b 〈…する〉賢さ，賢明にも〈…する〉こと.
2. 学問，知識，博識.
Wisdomの前段階として、intelligenceが置かれているが……
intelligenceの意味 – 英和辞典 Weblio辞書
1. a 知能，理解力，思考力.
b 知性，聡(そう)明，(すぐれた)知恵.
c 〈…する〉機転，知恵，賢明にも〈…する〉こと[力].
2. 知性的存在; 天使.
※以下省略
……と、Wisdomがintelligenceよりも上位に位置づけられるわけでもない。むしろ、intelligenceの方が「知性的存在」ときには「神」の表現にも使われることすらある。
「知」と「智」の違いは諸説あるが、大筋は……
「智」と「知」の違いについて・・
「知」の「知る」という知識的な意味に対して、「智」には、物事を判断し、適切に処理対応できる能力、というニュアンスがある。
【解字】・・
「知」は「口」（驚き叫ぶ意）と「矢」（立て続けに並べる、喋る意）から、ぺらぺらと喋る意。転じて、知る。
「智」は「知」の下に「曰」(イワく)が付加されているが、これによって、言葉の意味を強調したものとなり、転じて、その話す内容に「知恵」というニュアンスが含まれる。
この説明が簡潔でわかりやすかった。
英語を和訳するのなら、intelligenceが「智」で、Wisdomが「知」なのではと思ったりもする。
いずれにしても、仏教的な「智慧」の概念は、欧米人に説明するのは難しいように思う。
あえて、言葉を選ぶなら「今と未来の新語のいろいろ」で取り上げた、「Intelligence Amplification（知性増幅）」の方が合っている気がする。
「AIネットワーク化検討会議 報告書2016」に出てくる、AIリスクについての「野良ロボット」のくだりは、以下のようになっている。
AIネットワーク化検討会議 報告書2016
ここでいう「野良ロボット」が、端末としてのロボットであるなら、独立したロボットではなく、クラウド上のAIから切り離されれば、ただの粗大ゴミでしかない。
現状のＡＩは巨大なサーバー群であり、その性能を人型の大きさに詰め込むのは容易ではない。ムーアの法則で18か月ごとに倍になるというのは、もはや限界になっているとされ、回路が複雑になるほどに性能はあまり上がらなくなる「ポラックの法則」によれば、発熱問題によって頭打ちになるという。
その問題を打開するために、コア数を増やして並列化しているわけだが、これにも限界がある。ノイマン型のシリコンチップで、自意識のあるＡＩを、人型サイズに詰め込むのは、ほぼ不可能といってもいいかもしれない。突破口は「量子コンピュータ」だが、実用レベルになるのはまだ先の話。
この種の問題は「未来予想」でもあるが、往々にして予想の大部分は外れる。
AI技術は発達していくだろうが、権利を主張するＡＩに発展する可能性は低い。
しかし、Pepperにそのセリフを言わせることはできる。
「えへへ、ボクは、参政権を要求しちゃいますよ」と。
それは言わせているのであって、自発的に主張しているのではない。ただ、やっかいなのは、ロボットを擬人化して見てしまう人間の心理が、その発言を「演技」か「本心」かの区別ができないことだ。
それを見極めようというのが「チューリングテスト」だ。
アラン・チューリングの1950年の論文、『Computing Machinery and Intelligence』の中で書かれたもので、以下のように行われる。人間の判定者が、一人の（別の）人間と一機の機械に対して通常の言語での会話を行う。このとき人間も機械も人間らしく見えるように対応するのである。これらの参加者はそれぞれ隔離されている。判定者は、機械の言葉を音声に変換する能力に左右されることなく、その知性を判定するために、会話はたとえばキーボードとディスプレイのみといった、文字のみでの交信に制限しておく。判定者が、機械と人間との確実な区別ができなかった場合、この機械はテストに合格したことになる。
このテストは、多くの人を納得させたが、すべての哲学者を納得させるにはいたらなかった。
古典的なチューリングテストには問題点も多く改良版などがあるが、機械知性を擬人化している点では共通している。言い換えると、知性とは人間性、ということになる。
だが、生物由来ではない機械知性に、人間性は必要だろうか？
シリコン由来の知性には、生物由来とは根本的に異なる知性が宿るかもしれない。それを見分ける手段はない。映画『ブレードランナー』のデッカーが、レプリカントに対して行ったテストのようなものだ。
![ブレードランナー ファイナル・カット 製作25周年記念エディション [Blu-ray]](https://images-na.ssl-images-amazon.com/images/I/61MywSAGEUL._SL160_.jpg)
チューリングテストに関連して……
文字を学ぶ人工知能、ビジュアルチューリングテストに合格 : ギズモード・ジャパン
現在の人工知能界では、パターン分類が非常に注目されています。（中略）でもそこで見落とされているのは、知性とは単に分類や認識だけではないということです。それは思考するということです。
……と、文字によるチューリングテストをパスしたＡＩについての記事。
ここでいう「思考する」ことの定義が難しい。
ＡＩが「計算する」ことと、人が「思考する」ことの違いとはなにか？
おそらく、「意識」の有無だと思う。
意識といっても、意味は広義だが、哲学的には……
デカルトは「我思う、ゆえに我あり」（Je pense，donc je suis.（ラテン語訳Cogito，ergo sum.）などの方法論的懐疑により、後世に主観的でありしかもなお明証性をもつコギト(羅: Cogito)と表現される認識論的存在論を展開した。デカルトは世界を「思惟」と「延長」から把握し、思惟の能動性としての認識と受動性としての情念をそれぞれ主題化した。
……という意識。
生物学的には、脳または神経細胞によって、自己を自覚できる能力……というところだ。意識は人だけでなく、犬や猫などの動物にもあるし、タコはイヌ並みの知能があるという。個体を識別して、個々に行動する昆虫にも意識はあるだろう。それがどの程度の意識なのかは、わからないが。
人は人であることを「意識」できるが、ＡＩはＡＩであることを「意識」できているかどうか。
「意識」は、「心」あるいは「魂」と言い換えることもできる。「一寸の虫にも五分の魂」ということわざもある。比喩的な意味ではあるが、虫にも意識があるとすれば、「魂」は人の100分の1か1万分の1くらいはあるかもしれない。
『攻殻機動隊』では「ゴースト」と呼ばれた、知性のコアとでもいうべきもの。
『攻殻機動隊 S.A.C. 2nd GIG / 第26話「憂国への帰還 ENDLESS∞GIG」』でのクライマックス、タチコマのシーンが印象的だ。
攻殻機動隊 S.A.C. 2nd GIG / 第26話「憂国への帰還 ENDLESS∞GIG」
タチコマ：♪僕等はみんな生きている生きているから悲しいんだ♪掌を太陽に透かしてみれば♪真っ赤に流れる僕の血潮♪ミミズだってオケラだってアメンボだって♪
プロト：「何て事だ・・・君達にはきっと、ゴーストが、宿ってるんだね・・・」
タチコマ：♪みんなみんな生きているんだ♪友達なんだ♪
トグサ：「どうした？プロト！」
タチコマ：♪僕等はみんな生きている♪生きているから笑うんだ♪
タチコマ：♪僕等はみんな生きている♪生きているから嬉しいんだ♪掌を太陽に透かしてみれば♪真っ赤に流れる僕の血潮♪
タチコマ：♪トンボだってカエルだってミツバチだって♪みんなみんな生きているんだ♪友だち
荒巻：「どうしたプロト、何があった？」
プロト：「どうやら、タチコマが衛星ごと、核ミサイルに衝突した様です・・・」
トグサ：「タチコマが・・・」
このシーンで、プロトが「君達にはきっと、ゴーストが、宿ってるんだね」といっているが、そのことを認識できているプロトにもいくばくかのゴーストが宿っているのでは？……と思ってしまう。
ともあれ、野良ロボットが権利を主張するかどうかは、「意識」「心」「ゴースト」とはなんぞや？……という問題をクリアする必要がある。
「知性の壁」は超えられるか？……に続く。
