太田裕朗「AIは人類を駆逐するのか？」恐~い話…ではなく

はじめに～序章

AI技術の発展により生活が豊かになるのはいいことだけど、これからの時代のAIの有り方を考えるうえで“自動と自立”があると、著者は始めに提起します。タイトルからもわかる通り、機械が暴走して人類が滅びてしまうのではないか？というターミ○ーター的なアレです。自立性を“オートノミー”として機械が「他社からの支配を受けず自分が持つ規律に従って行動」する人間の脳に限りなく近くなるよう日々研究が行われていて、その時代は訪れるだろうと。高度な自立性を持った生物は人間しかいなかった地球に新たな自立性を持つ存在が誕生した時に人間はどうなるのか？どうするべきなのか？

既に“おすすめ商品”、気象予報”、“自動運転”など様々なAIが我々の生活を囲んでいて、どんどん快適にストレス無い生活になっていて、その傾向は止まらないでしょう。しかし、ある日システムがパタッ……と停止する…人間には何が起こったかわからないがAIは「ストップ！」を判断する未来が近い将来やってくる、かもしれないと…こっわ…

ちなみに本書で“AI・機械学習・ディープラーニング”はほぼ同じものとして進行します。厳密には違うものとのことですが、それより大事なのは“自動と自立”の考え方になります。

第1章　自動と自立は何が違うのか

「何が違うのか」というタイトルの割にはこの章で自立にはあまり触れずに、現在の機械・AIの歴史や現状をまとめています。始まりは狩猟時代から罠を仕掛けたりして人類は自動を開発していき、確実性・効率化が目的で、最初の機械は1901年に地中海の沈没船から見つかった歯車式の天体運動を計算するものであり、これは紀元前のギリシャ人が使用していたものだと言われています。

ノイマンが1945年にコンピューターの原理を打ち出し、それまでは計算の度に回線をつなぎ直していたコンピューターは飛躍的に改良され、メモリに命令とデータと格納し実行する現代のシステムの基本となりました。またインテルの創業者ゴードン・ムーアが「半導体の集積率は18ヶ月で2倍になる」“ムーアの法則”を唱え、実際にそのような進化を遂げています。これはチップを小さくするほど多くの計算を詰め込めることが可能になっていて、対して人間の脳は逆に大きくするしか能力の向上は望めないのです。

我々の生活の周りの多くの機械は“自動ドア”や“電卓”や“エレベーター”などあらかじめ決められた動きをするものがほとんどで、もちろんそれは“自動化”の範囲内のものです。旅客機の自動操縦も「こういう場合はこう」と様々な事態に対応できるように全ては事前にプログラムされたもので、人間の想定内なのです。

近年では機械学習・ディープラーニングといったデータから傾向を分析し学べるようにもなり、犬と猫の写真を大量に用意し、どちらが猫か教えれば写真を判別できるようになる、人間の子供の認知機能のようなものもあります。ただこれも主導は人間であってコンピューターが突如「犬と猫を判別したいなぁ」と思ったわけではないのです。どんな高度な自動運転も将棋ソフトも“計算が早いだけ”であって、「将棋強くなりてぇなぁ、新しい戦法を考えよう」とは思っていません。

第2章　自動が内包する自律への動き

購入したものだけでなくクリックしたものやそのページに何分滞在したのかもデータとして収集され、その結果の“おすすめ商品”を買い続けたらその人は機械が想定する人物像にどんどん近づいていってしまう。Youtubeのおすすめ動画で心当たりがありますよね、「これも面白そう」が連続していく…やがて“自分”がいなくなってしまう可能性もあるとこの章は始まりますが、著者はそれを否定はせずに我々人間側の理解と覚悟が必要だと言っています。

改めて3段階で自動・自律の境を説明しています。

この③が人間から独立して機械が“意志”を持って動いているかのような完全な自律に該当します。②では途中の歩行者の飛び出し回避や渋滞を避けて目的地へ、など「まぁ出来るんじゃない？」と思えますし実際に実用化に向けて膨大なデータのもと日々研究が進められています。ただ③の自律は極めて難しく、本書の例では“小学生が学校帰りに寄り道する”これを機械ができるようになるための判断・行動基準について有名な“トロッコ問題”を挙げています。「このままでは5人が犠牲に、ポイントを切り替えれば1人の命が失われる」こうした問題には道徳・倫理が関係し、絶対の正解というものはなく、“判断系”の開発でどの事業も苦戦しているのです。

レイ・カーツワイルは「2045年にはAIがAIを作り、人間の想像出来ない未来が始まる」とこれからはAIが未来を決める、そんな未来を予言しています。1956年にジョン・マッカーシーがArtificial Intelligenceという言葉を使いましたが、当初はデータを手作業で入力しなくてはいけないこともあり開発は思う結果を得られず、しばらく人口知能は忘れられた存在でしたが、コンピューターの計算速度などの発展に伴い、確率の面から大きな進歩を遂げ、1997年にチェスの世界チャンピオンがIBMの「ディープブルー」に敗れたのです。これはまだチェス専用の“特化型”でありそれは膨大なチェスのデータを詰め込んだものにすぎません。

では人間のデータを詰め込めば人間のような頭脳が作れるのでは？と研究が進むのですが、アマゾンの人物評価システムが女性を低く評価し運用が中止する事態に。これはITの分野で女性が少なくそのデータをAIが判断し「女性を雇うのはやめようというアルゴリズム」を作りだした結果で、AIは優秀でありますが、データに簡単に騙されてしまうという弱さも持っているのです。つまり人間のデータを詰め込む、「その“人間のデータ”って大丈夫なの？」という問題、AIを作る側次第で偏ったものになってしまう危険があり、また「なんでAIはそう判断した？」が説明出来ず、犬と猫を判別するのに「耳に注目しました、～～だからこっちが犬です」の「…でAIはなんで耳を判断基準にしたの？」まではわからないのです。

ただこれは人間でも同じで、どこを見て犬と猫を判別しているかを皆さんは説明できるでしょうか？この点はAIも人間らしいが、“損するもの”とわかっているギャンブルをやめられない人間もいるなか、AIにお金を持たせたら借金してまで「次は勝てる」と思い賭け続けることは……ないですよね。というよりAIならギャンブルも負けないのでしょうか…

第3章　AIをどう教育すべきか

基準さえあればAIは威力を発揮出来るのですが、自律には価値判断が必要でそれを教えるのも人間次第であるわけですから、“我々人間がしっかりしなくてはいけない”がこの章の言いたいこと、というよりこの本の言いたいことでしょうか。「そんなのターミネー○ーでも言われてただろ…」と聞こえてくるようですが、「AIのゴールは何？」も重要な問題で

機械は(充電は減りますが)空腹を感じないし、電源につなぐだけでよく日によって「ラーメンがいい」などと要求はしません。その点で限りなく人間に近づけることの実現性は低く、そもそもそうする意味がない、人間ならもう居る、と著者は述べています。生存意欲から人間は狩猟・栽培・生産などを効率化してその全てが人間の歴史であり、「狩猟の時代なんて知らないし（笑）」と言ってもそのDNAを脈々と受け継いできたのは事実です。

ただその価値判断を人間が考え続け機械に“目的関数を与えスコアを高める”を教えることを止めてはいけません。大事なのは「何をどこまで教えるか」であり人間のデータを限りなく入力したところで“完璧な人間”がいないように“完璧なAI”は有り得ない、「何を教えるのか」を考えることは我々人間の生き方を見つめ直すことにも繋がっていて、その問いにおそらく終わりはありません、考え続け、教え続けていかなくてはいけないのです。そのためのAI開発の前提にマックス・テグマークは「倫理基準を作り、超えてはいけない一線をルール化」することを主張しています。そこを疎かにしたままの研究を進めてはドローン兵器のようなものが今後も次々と開発されてしまうのです。

人類はこういった研究に対する意欲をいつの時代も持ち続け核爆弾などを生み出し進化してきました。「核爆弾のいい所・悪い所」など意見が分かれることはないでしょうが、AIに関しての議論は現在進行形で繰り広げられています、著者をはじめ多くの人が開発には賛成なのですが、「何を教えるか」の話し合いは今後も続いていくでしょう。

第4章　自律する頭脳と共存する時代

AIの進化は今後ますます加速していき、あらゆる分野でその威力を発揮します。農業・製造業・サービス業などでは効率的になり低価格化が予想され、人間にとって労働が義務でなくなる時代も十分に起こりうるのです。音楽の配信サービスや電子書籍も既存のモデルが崩れた例であり、当時のケネディ大統領よりはるかに多くの情報にスマホ１つでアクセスできる時代になったと言われています。第二次世界大戦後、あの規模での争いはなく、今後もこうした資源の豊富な現代では世界大戦は起きないのかもしれません。満たされた生活では争いは起きにくいのです。つまりAIが世界を平和にする、そんな風に考えることもできて、もっとマクロに地球規模の問題、温暖化や大気汚染など共通の問題に各国が団結して取り組む未来もAIの進化に掛かっているのかもしれません。

またその中で様々な変化が人間を待っていることでしょう。これは既に実感できますが、機械が代わりに働いてくれて、その影響で少ない人口で社会が回り、人類の最適解に向かって国家という役割が弱まり、教育も価値観や倫理にシフトし、これまで考えてこなかった部分に脳を使うことで人間の脳そのものが変化する未来。少し遅かったですが“コロナパンデミック”もAIなら「今後感染が拡大する」と防げたのかもしれません。そのような現代の生活にAIに繋がっていない部分、今後改善が見込まれる箇所は多数あり、その実現に向けてもマックス・テグマークは「AIによって人間はどうなるのかではなく、私たちはどうなりたいのか」を真剣に考えるべきと述べています。

おわりに　石器からコンピューター

短くですが“道具史“をまとめています。石器で狩猟や採集、鉄器でその威力を高め、火を使えるようになるとエネルギーの摂取も制度を増します。この辺りまでは動物的ですが、言語を使用することで飛躍的に高度な生物に進化し、農業・工業さらに石炭の利用によるエネルギー革命、そしていよいよ軍事技術の延長にフォン・ノイマンがコンピューターを発明します。汎用的なコンピューターはこれまでの道具とは異なり多くの分野で利用され自動化が進んできました。そしてこの先にAIによる自律への動きが強まっていきます。

まとめ

ター○ネーター的な「人間対コンピューター」の戦争みたいなことは書かれませんでした（笑）このいかにもな表紙ズルくない？それよりも「ブリキのラビリン○」の働く必要がなくなった人間達が機械に飼いならされる、みたいな方を想像しました。しかし、本書はそこまでの話でもなく、「AIの支配する未来怖いだろ～」を強調せず、それ以前の「今人間はどうAIと向き合うべきか」を真摯に書いていて、SFでもファンタジーでもありません。これを読んで今すぐ自分に実行できることは……ないけど（笑）読んでおいてよかったかなと思える、誰かの”おすすめ商品”に入れたい１冊でした。

○ーミネーターが1985年で、ブリキの○ビリンスが1993年とは結構“読みが早い”というかこの手の「機械の未来」を最初に描いたのはどんな映画？マンガ？なんでしょうか、それも気になりますね。