AIは社会をどう変えるか?

LINEで送る
Pocket

AIは社会をどう変えるか?

Netflixで、AIに関連した2本のドキュメンタリー映画を観た。
どちらもAIの利用に対して警鐘を鳴らす内容だ。

  • 監視資本主義 デジタル社会がもたらす光と影(2020年)
  • AIに潜む偏見 人工知能における公平とは(2020年)

ここ数年はAIブームで、なんでもかんでもAIが使われているような印象だ。
そもそもAIの定義が曖昧で、どの程度のスペックがあればAIと呼べるのかの基準はない。
であるにもかかわらず、AIが出す結論は正しいと受けとめることがまかり通っている。
その盲信ぶりは、神を信じる宗教に等しいものだろう。

AIがバラ色のユートピアをもたらすのではなく、人権や自由のないディストピアをもたらしかねないという危機感を訴えていた。
両方の映画で取り上げられていたのが、ジョージ・オーウェルの古典的名作「1984」だ。
テクノロジーの進歩が、「1984」の世界を実現可能にしてしまった。

日本ではAIに対して賛美あるいは推奨する動きが活発で、危機感はほとんど聞かれない。
街中に監視カメラが設置されても、防犯上の利点ばかりが強調され、プライバシーの侵害については無関心だ。
その点は、中国と大差ない。
政治体制は違うが、国に監視されたり管理されることに、抵抗をあまり感じない国民性だともいえる。個人よりも集団の意思が尊重される社会だからだね。それが「同調圧力」でもある。

2本の映画で共通していた主張がある。

「アルゴリズムは権力である」

そのアルゴリズムを企業が持つか、国が持つかの違い。
アメリカではおもにIT企業が持ち、中国では国(共産党)が持っている。

AIはアルゴリズムで動作し、人々を選別することに使われる。
その目的は「利益を上げること」
表示される広告やオススメ商品やコンテンツは、すべからく利益を生み出すための仕掛け。AIは利益を最大化するためにアルゴリズムを駆使し、人々の欲求を誘導する。

利益を追求するAIにとっての優良な人間とは、お金をたくさん使う人……つまり可処分所得が多い裕福な人間だ。逆に、貧乏人は利益につながらない価値の低い人間となる。
AIが判定する信用スコアは、富裕層ほど高くなる。支払い能力が高いからだ。
これは人間の差別化であり階級化でもある。
いわば、AIカースト制度だ。

AIに潜む偏見」では、顔認証技術についての公平性が問われていた。
AIの根幹でもあるディープラーニング(機械学習)は、入力されるデータから学ぶわけだが、そのデータに偏りがあれば、結果として出力される答えに偏見が生じる。

事例として挙げられていたのは、白人男性の認識率が高いのに対して、黒人が著しく低い結果になる問題が出されていた。出演者の黒人女性の研究者は、顔認識で自分の顔が認識されないことから疑問を持ち、調査を始めていた。

AIに入力されるデータが白人に偏っていたために、AIには人種差別がインプットされることになった。AIは自発的にデータを集めているわけではないので、データを与える人間の偏見がそのまま反映されたわけだ。

別の例では、警察が街中で犯罪者を顔認識で判別するシステムを導入すると、黒人の方が誤認識される割合が高くなっていたという。そのために、いわれのない疑いをかけられる事例が発生していた。そうなってしまうのは、「AIが正しい」という前提に立っているからだ。

これを、「人種差別が自動化されている」と表現していた。

AIは利便性と効率化をもたらしてはいるが、同時に人権や自由を見えない形で奪うことにもつながっている。
ある意味、民主主義を破壊しつつあるともいえる。
選挙や投票で決めるのではなく、人間が介在しないアルゴリズムで社会を動かしている。
しかも、多くの人がスマホやSNSの依存症になっている。

あなたがスマホを見ている時間は、どのくらいだろうか?
iPhoneにはスクリーンタイムを記録する機能がある。
私の場合は……

スクリーンタイム

……と、たったこれだけ(^_^)
スマホ中毒でもSNS中毒でもないので、極端に少ない。
PC(MacおよびWindows)は仕事で使うので、PC画面を見ている時間は長いものの、スマホを手に持つ時間はわずか。iPhoneはもっぱら音楽プレーヤーとして使っている。

コンピュータはパソコン登場以前の時代(1970年代)から使っているので、コンピュータ歴は長い。コンピュータの進歩とともに育ってきたので、良いところも悪いところも経験してきた。
AIはその延長線にあるわけだが、昨今のAIブームは虚構のイメージと実態が錯綜している。

現在のAIは、社会を良くするために使われているわけではなく、AIを提供する企業の利益を生み出すために使われている。人権や自由や民主主義が破壊されても、企業が儲かればいい。

それを「監視資本主義」と表現していた。

アメリカでは個人データの使用に関して、制限を設ける法律が作られ始めている。
日本では、そもそもデジタル化が遅れているために、危機感も乏しい。
紙からデジタルに……と、政府が旗振りをしているが、セキュリティの観点からするとデジタル化されていない情報は盗み出すのも難しいので、むしろ紙の方が安全だったりもする。ただし、効率は恐ろしく悪くなるが。

「AIに潜む偏見」に印象的な発言があった。

「正しさを定義するアルゴリズムはない」

なかなかの名言だ。
なにが正しいかを判断するのは誰なのか?
正しさの判定基準とはなんなのか?
誰にとっての正しさなのか?
哲学的ともいえる命題に、AIは答えを出すことはできるのか?

結局のところ、AIは人間から学ぶので、人間社会にさまざまな偏見や差別や不公正・不平等が存在すれば、AIもそれを学習して不完全な判断を下すことになる。

AIに依存する未来は、AIによる全体主義になっていくのかもしれない。
そして、そのことに多くの人は気がつかないか、気にしないのだ。
便利だからいいじゃん……と。

(Visited 190 times, 1 visits today)