Netflixで、ＡＩに関連した２本のドキュメンタリー映画を観た。
どちらもＡＩの利用に対して警鐘を鳴らす内容だ。
ここ数年はＡＩブームで、なんでもかんでもＡＩが使われているような印象だ。
そもそもＡＩの定義が曖昧で、どの程度のスペックがあればＡＩと呼べるのかの基準はない。
であるにもかかわらず、ＡＩが出す結論は正しいと受けとめることがまかり通っている。
その盲信ぶりは、神を信じる宗教に等しいものだろう。
ＡＩがバラ色のユートピアをもたらすのではなく、人権や自由のないディストピアをもたらしかねないという危機感を訴えていた。
両方の映画で取り上げられていたのが、ジョージ・オーウェルの古典的名作「１９８４」だ。
テクノロジーの進歩が、「１９８４」の世界を実現可能にしてしまった。
日本ではＡＩに対して賛美あるいは推奨する動きが活発で、危機感はほとんど聞かれない。
街中に監視カメラが設置されても、防犯上の利点ばかりが強調され、プライバシーの侵害については無関心だ。
その点は、中国と大差ない。
政治体制は違うが、国に監視されたり管理されることに、抵抗をあまり感じない国民性だともいえる。個人よりも集団の意思が尊重される社会だからだね。それが「同調圧力」でもある。
２本の映画で共通していた主張がある。
「アルゴリズムは権力である」
そのアルゴリズムを企業が持つか、国が持つかの違い。
アメリカではおもにＩＴ企業が持ち、中国では国（共産党）が持っている。
ＡＩはアルゴリズムで動作し、人々を選別することに使われる。
その目的は「利益を上げること」
表示される広告やオススメ商品やコンテンツは、すべからく利益を生み出すための仕掛け。ＡＩは利益を最大化するためにアルゴリズムを駆使し、人々の欲求を誘導する。
利益を追求するＡＩにとっての優良な人間とは、お金をたくさん使う人……つまり可処分所得が多い裕福な人間だ。逆に、貧乏人は利益につながらない価値の低い人間となる。
ＡＩが判定する信用スコアは、富裕層ほど高くなる。支払い能力が高いからだ。
これは人間の差別化であり階級化でもある。
いわば、ＡＩカースト制度だ。
「ＡＩに潜む偏見」では、顔認証技術についての公平性が問われていた。
ＡＩの根幹でもあるディープラーニング（機械学習）は、入力されるデータから学ぶわけだが、そのデータに偏りがあれば、結果として出力される答えに偏見が生じる。
事例として挙げられていたのは、白人男性の認識率が高いのに対して、黒人が著しく低い結果になる問題が出されていた。出演者の黒人女性の研究者は、顔認識で自分の顔が認識されないことから疑問を持ち、調査を始めていた。
ＡＩに入力されるデータが白人に偏っていたために、ＡＩには人種差別がインプットされることになった。ＡＩは自発的にデータを集めているわけではないので、データを与える人間の偏見がそのまま反映されたわけだ。
別の例では、警察が街中で犯罪者を顔認識で判別するシステムを導入すると、黒人の方が誤認識される割合が高くなっていたという。そのために、いわれのない疑いをかけられる事例が発生していた。そうなってしまうのは、「ＡＩが正しい」という前提に立っているからだ。
これを、「人種差別が自動化されている」と表現していた。
ＡＩは利便性と効率化をもたらしてはいるが、同時に人権や自由を見えない形で奪うことにもつながっている。
ある意味、民主主義を破壊しつつあるともいえる。
選挙や投票で決めるのではなく、人間が介在しないアルゴリズムで社会を動かしている。
しかも、多くの人がスマホやＳＮＳの依存症になっている。
あなたがスマホを見ている時間は、どのくらいだろうか？
iPhoneにはスクリーンタイムを記録する機能がある。
私の場合は……
……と、たったこれだけ(^_^)
スマホ中毒でもSNS中毒でもないので、極端に少ない。
PC（MacおよびWindows）は仕事で使うので、PC画面を見ている時間は長いものの、スマホを手に持つ時間はわずか。iPhoneはもっぱら音楽プレーヤーとして使っている。
コンピュータはパソコン登場以前の時代（1970年代）から使っているので、コンピュータ歴は長い。コンピュータの進歩とともに育ってきたので、良いところも悪いところも経験してきた。
ＡＩはその延長線にあるわけだが、昨今のＡＩブームは虚構のイメージと実態が錯綜している。
現在のＡＩは、社会を良くするために使われているわけではなく、ＡＩを提供する企業の利益を生み出すために使われている。人権や自由や民主主義が破壊されても、企業が儲かればいい。
それを「監視資本主義」と表現していた。
アメリカでは個人データの使用に関して、制限を設ける法律が作られ始めている。
日本では、そもそもデジタル化が遅れているために、危機感も乏しい。
紙からデジタルに……と、政府が旗振りをしているが、セキュリティの観点からするとデジタル化されていない情報は盗み出すのも難しいので、むしろ紙の方が安全だったりもする。ただし、効率は恐ろしく悪くなるが。
「ＡＩに潜む偏見」に印象的な発言があった。
「正しさを定義するアルゴリズムはない」
なかなかの名言だ。
なにが正しいかを判断するのは誰なのか？
正しさの判定基準とはなんなのか？
誰にとっての正しさなのか？
哲学的ともいえる命題に、ＡＩは答えを出すことはできるのか？
結局のところ、ＡＩは人間から学ぶので、人間社会にさまざまな偏見や差別や不公正・不平等が存在すれば、ＡＩもそれを学習して不完全な判断を下すことになる。
ＡＩに依存する未来は、ＡＩによる全体主義になっていくのかもしれない。
そして、そのことに多くの人は気がつかないか、気にしないのだ。
便利だからいいじゃん……と。