「ホモデウス」による未来予想！人は未来に何を求めるか？
１ 初めに
イスラエルの歴学者ユヴァル・ノア・ハラリ氏が著した書籍「ホモデウス」（訳：柴田裕之）は、上下巻そして、3部から構成されています。なお以下、ユヴァル・ノア・ハラリ氏を「著者」、この記事を書く自分自身を「筆者」と表記したいと思います。
そして、この記事は著者に反論を試みるものではなく、「ホモデウス」を読んで感じた疑問と解釈、考察を素直に記述するものであることをおことわりしておきたいと思いますし、それが「ホモデウス」の中で著者自身が述べているとおりの要望あるいは切望であると信じています。
「ホモデウス」は3部構成となっていますが、筆者の感覚によれば第1部と第2部は、結論となる第3部への論理的あるいは状況的根拠であるように思われます。しかしながら、その根拠は薄く、筆者より博識な読者の方であれば簡単に論破し、根拠を崩すことは容易であると思います。
しかし根拠を崩されたとしても、第3部の結論は実際に起こり得るものだと考えられ、さらには著者の「ホモデウス」を通して本当に訴えたかったことが、見えてくるような気がしてなりません。著者はＡＩの発達により起こり得ることは「予言ではなく予測である」と述べていて、著者は自身が鳴らす「警鐘を人類はどのように対処していきますか？」と問いかけています。
筆者は、この問いかけに応えることが可能なようにこの記事を完成させたいと思います。そして、「この記事の方法が唯一ではなく、答えはたくさん存在する」と付け加えておきたいと思います。
なお、筆者は「ホモデウス」の第1部と第2部は第3部ほど重要ではないと考えるため、第3部の内容に対する答えだけを考察したいと思います。そして考察の及ばない部分については後続の記事への課題としたいと思います。
２ ＡＩと人類の優劣
「ホモデウス」の第3部の冒頭の数ページで次の3つのことが前提として述べられています。
① 人の脳の全ては、アルゴリズムで構成されている。
② 人に本当の自由意思は存在しない。
③ ＡＩは人の考える善悪を判断できない。
２．１ 脳のアルゴリズム
科学者によれば、「人の感情や意思決定は、ニューロンを伝わる電気信号というプロセスの結果である。従って、魂などというものは存在しないし発見されてもいない。」ということらしいですが、「心」の存在は否定していません。つまり、科学者は「心」も電気信号で説明できると主張しているのです。
科学者の主張する「電気信号による説明」は、ニューラルネットワークといくつかの科学的実験を論拠としていると思われます。
さて、電気信号によるプロセスは例えば次のようなものが考えられるでしょうか？
① 人の5感のいずれかから信号が上がってくる。例えば痛覚にすると、その信号は脳内で電気信号に換えられて処理され、思わず「痛い」と悲鳴をあげる。
② 人が何かを思う。例えば思いを妄想や空想とすると、起点となるニューロンから次々と電気信号に換えられて何かの結果を生み出すか？生み出さない。
２．１．１ 脳へアルゴリズムの実装は可能か？
①について考えると、確かに「電気信号による説明」は可能なように考えられます。古典的なコンピュータはリレー方式によって実装されていました。アルゴリズムはリレー方式で実現可能です。仮にロボットの皮膚に痛点を持たせ、語彙に「痛い」を加えたらアルゴリズムによって人間と同じ振る舞いをするロボットができあがると確信します。
しかし、ニューラルネットワークはリレー方式によってアルゴリズムを実装しているのでしょうか？リレー方式のコンピュータハードは膨大な体積を必要とします。人の持つ能力（アルゴリズム）は、膨大で複雑なのでリレー方式によるアルゴリズムの構築をしようとすると人の脳の体積はあまりにも小さいのではないでしょうか？計算できる読者の方は試みてください。脳＝リレー方式のハードとすると脳は東京ドームくらいの体積で足りるでしょうか？
では、脳に現在のようにマシン語で動くマイクロチップが存在するのでしょうか？それとも未知の演算方式が存在するのでしょうか？さらには科学者はそれらのようなものを発見しているのでしょうか？残念ながら筆者には答えがだせません。
２．１．２ アルゴリズムの起動者
プロセスや論理（あるいは論理展開）には始まり（起点）が存在します。上の①の場合、脳では5感の末端神経（痛点など）が予想されますが、②の場合、始まりは任意のニューロンとなるのでしょうか？そして脳は任意のニューロンをどのようにして選択するのでしょうか？
任意のニューロンの選択はアルゴリズムではなく、なんらかのメカニズムであるように思われます。もしかすれば生まれたときに何らかのメカニズムによって唯一の起点が与えられた結果、今生きている時点までアルゴリズムによって引き継がれているものなのでしょうか？あり得ることですが、それは脳のアルゴリズムの全てを解明したとしても起点を説明できないと考えます。
受精卵から始まり、赤ちゃんから成人へと成長する過程において、何故そこに手が2本存在するのか？そこに口が存在するのか？科学はまだ解明できていないものと思っています。同時にアルゴリズムの起点も発見されていないのではないでしょうか？
一方、2言論者である筆者は、脳の外側にその起点は存在すると考えています。たとえ、その起点が生まれたときに与えられたただの1点だとしてもです。そして、その1点が人が生まれた意味であり、生きていく意味だと考えます。なお、そのただの1点が何者でどのような意味なのか筆者に問われても筆者の一生をかけても答えることはできません。
ただその1点は、個々人によって異なるものではなく全人類共通のものだと感じます。起点、即ち幅も深さも持たないパソコンでいえば、電源スイッチのようなものだと思います。もしかすれば生命のスイッチなのかもしれません。
人は環境によって多様に成長します。受精卵の時点ですでに遺伝子という環境が与えられています。つまり、起点が同一でも多様な個人が生み出されます。
もちろん、ただの1点ではなく複数の起点が与えられても問題はありません。問題なのは起点を誰（脳のアルゴリズムなのか？それ以外か？という意味です）が与えるのか？つまり起点の有無を問うことなのですから。
２．２ 自由意志の存在
自由とは何者か？それに対して筆者は明確な答えを持っていないかもしれません。ただ単純に「誰かに束縛されない事」と答えていいのでしょうか？そこで筆者は次の2点について考えてみました。
① 脳内あるいは心の自由
② 現実世界あるいは物理世界での自由
２．２．１ 心の自由
心の自由は、束の間のそして幻想的なものかもしれません。空想したり妄想したり、もしこうだったならと想像して現実世界ではできないような体験を実現できます。さらにファンタジーの世界を夢見て現実の外にいくこともできます。
最も自由なのは、過去を思い出したり、未来の夢（もしかしたら不安かもしれません）を見ることです。つまり、時間旅行をすることですが、その自由な思いが現実世界に影響を与えない限り、誰に文句を言われる筋合いはありません。
２．２．２ 現実世界の自由
この自由は、心の自由と比べていささか窮屈かもしれません。過去に戻ることもできず、思い描いた未来にいくこともできません。
筆者の世界観からのみ現実世界の自由を考察してみたいと思います。結論からいうと、「複数の事柄から1つを選択できる自由」これが筆者の世界観からの自由です。その1つの選択が自身を滅びに導こうとも、栄光を掴もうとも「全てを自分自身で選択したい」これが筆者の自由です。
事柄とは、自分自身が意味があると思う自然（物理）的あるいは社会的現象のことです。「自分自身が意味があると思う」ということは、気づいていない事柄が存在するかもしれません。つまり、私たちは思い込みなどによって、選択の自由を自ら放棄している可能性があります。こういうところが、ＡＩに遅れをとる部分なのかもしれません。
２．２．３ 本当の自由
量子力学によって、真空から物質が現れたり消えたりすると主張されていたと記憶しています。しかしながら、それらに多くの人は意味を見出すことはできません。そもそも、それらの物質を日常において見ることはできません。つまり、それらは意味ある事柄とはみなされません。
このことを前提として、我々はこの世界に物質的な事柄を創造することは不可能なのです。できることはすでに存在する物質を選択することだけです。例えば、予算が決まっていて冷蔵庫を買おうか？テレビを買おうか？パソコンを買おうか？悩むときなどになります。
さて、社会構造や主義は自然が創造した物質的なものではなく、人類が作り上げたものです。これらのものは人類によって作り変えることが可能です。何も革命を起こそうというのではありませんが、現実にはかなり困難な作業かもしれません。
資本主義も民主主義も共産主義も、人間至上主義も人類の作り上げたものです。そしてそれらは主として国家の主義であることが多いのです。その主義に反することは反国家的とそしられるかもしれませんが、それらの善悪の判断は究極的には個人の主観に委ねられます。
しかし、それらの全てはＡＩや遺伝子工学などによって飲み込まれると著者は主張しています。筆者はそれが未来の事実であれ虚実であれ、選択の自由によって見極めていきたいと思います。
２．３ ＡＩの善悪
著者は書籍の中で「ＡＩは善悪の判断はできない」と述べています。これを逆説的に解釈すると「人類の判断による善悪は人類にとって重要である」としたいたいと思います。ここで人類とは国家であったり、各種社会であったり、個人であったり主体を持つものという意味です。
次のような思考課題が思い浮かびます。
① 人類にとっての善悪とは何か？
② 善悪を伴う判断をＡＩに委ねていいのだろうか？
２．３．１ 善悪とは何か？
「善悪とは主体を持つものが各々主張する事柄の1つである。」と筆者は主張します。
例えば、「人の命を奪うことは悪である」という主張は全世界の共通した「悪」という認識なのでしょうか？戦争が起こって多数の生命が奪われるとき、その戦争に反対する人々は多数存在するでしょうが、戦争の発起人を含めた一部の人たちにとっては、必ずしも悪ではないようです。少なくとも「絶対悪」ではないのでしょう。つまり、「条件付き悪」である「〇〇のためならば人の命を奪うことは必ずしも悪ではない。」と主張する人たちの存在を意味します。
このことから全世界の全ての人々に「共通の絶対悪」は存在しないように思います。このことが、次項（２．３．２）で筆者が考えたい問題に繋がっていきます。
「ＡＩは善悪の判断はできない」という前提に対して、人類すらも明確な善悪の判断ができていないことが、上述のことからわかります。現在の世界では命以外にも人類共通の善悪判断の問題が多数存在します。
人類すら解決できていない判断をＡＩに委ねていいのか？むしろそういう問題こそＡＩに委ねるべきなのか？議論は分かれていくのでしょうか？
２．３．２ ＡＩに委ねる判断
「ＡＩの技術は日々進歩している」このことに反論する人は少ないのではないでしょうか？今できないことが、10年後には実現されているかもしれないですし、100年後かもしれません。それに対し人の脳はそれほど進歩しているのでしょうか？つまりこれは、「ＡＩはいつか人の脳を超える日がくる」ことを意味するかもしれません。
人類が解けていない善悪の判断の問題を含めた多くの難問もＡＩはいとも簡単に解くことが予想されます。今では便利なＡＩという感じを人々は持っているかもしれませんが、ＡＩが人から完全に独立した自立学習を手に入れたとき、ＡＩにとって人はどのような存在に見えるのでしょうか？
「ホモデウス」の著者は、「人類の選ばれた少数のエリートだけが生き残れる。」と述べていますが、筆者はその少数のエリートですら「あなたたちは無用だ」とＡＩに言われる日がくるのだと予想しています。
上述のような人類にとっての悪夢を防ぐ手段は、残念ながら筆者には2つしか思い浮かびません。その1つは、ＡＩの研究開発を今すぐ止めることですが、これは現実的に無理です。もう1つはＡＩに委ねる判断を限定するためにＡＩに与える環境、即ちデータを人類が常に操作していくことですが、これもただの問題の先送り策に過ぎないと思われます。
上述のことを「非常に受け入れがたい」と筆者は感じていますが、「ＡＩに委ねる判断の種類を人が選ぶことのできない日がくる」と結論づけることしかできません。
２．４ ＡＩの優位性
上述したような脅威は、人が魂を持っていようが、持っていまいが無関係なものです。人がＡＩの持っていない魂を持っていて、そこから心が生まれてくるといくら主張しても脅威が襲ってくる可能性は残ります。長い年月を考えると可能性は高いと言えるでしょう。
さて、人の脳よりＡＩが優れている箇所を考えてみると、それは演算能力にあります。演算速度や演算に必要なデータの格納量などですが、これは「ＡＩが人から完全に独立した自立学習を手に入れる」こととは、直接的には無縁のように思われます。
しかしながら、演算速度や演算に必要なデータの格納量の優位性は、人類が100万年かけて得た脳よりはるかに速い期間でＡＩが自分で構築したＡＩ脳の能力を得ることを示唆しています。
人が試行錯誤や経験で得た能力をＡＩ（というよりも現時点ではコンピュータ）はシミュレーションによって、そして人（主として科学者）の介助によって得ていくことが予想されます。単純に計算すれば、コンピュータが人の100万倍の演算能力を持っていれば、人はＡＩに1年で追い抜かれるかもしれません。そして、そのあとは人がＡＩを追い抜き返すことは現実的ではありません。
３ 「ホモデウス」の未来予想
「２ ＡＩと人類の優劣」の後半において筆者は「ホモデウス」より遥か未来を予測してしまいました。「３ ホモデウスの未来予想」では書籍「ホモデウス」の中から人類にとっての未来の脅威予測を述べていきたいと思います。そして、その内容は筆者に「遠い未来への途中経過に過ぎない」と感じられていることを付け加えておきたいと思います。
３．１ 経済と軍事
「ホモデウス」は「経済と軍事は意味を持たなくなる」と示唆しています。
３．１．１ 経済
人は仕事を失う。これは人は職を失い、その結果職の対価を受け取れなくなることを意味します。ＡＩに大半の職が奪われます。大半の職の比率は８７%と「ホモデウス」は予測していますが、87%は、ある未来時点での比率で、ＡＩの進歩や進化が進めばその比率は高くなっていくことが予測されます。
職を失えば、生きがいも失うと感じる人も存在するでしょう。お金が得られなければどのようにして生活すればいいのかと不安になる人も存在するでしょう。個々の不安は募るばかりです。
しかし、マクロ的に経済を見てみると、消費者の不存在という実態が問題となっていきます。なにしろ消費者となる労働者たちは職の対価を得られないのですから、食料も衣類も電化製品も買うことができないのですから。意味があるとすれば残った13%の人々の間だけとなります。
辿り得る姿は次の2つが考えられます。
① 職即ち対価を得られない人々は飢えて死ぬ。
② 強力な社会保障制度が発達し、多くの人々が働くことなく生活できる。これだったらＡＩが食料生産や工場の運営をするのですから夢のような社会が実現するかもしれませんが、筆者はその先にもっと受け入れがたい「ＡＩからあなたたちは必要ない」と宣告される未来を予測します。
①や②のいずれであったとしても現在の経済システムは崩壊します。
３．１．２ 軍事
かつて、銃は人の手で引かれていました。前線の兵士は恐怖と戦いながら突撃しました。
現在は、コンピュータ制御されたミサイルがボタンひとつで発射されます。
ＡＩが発達すればロボットも進化します。直接の戦闘はロボット同士で行われます。知能も身体能力もＡＩに劣る人の出番は皆無となります。
ロボットが動く前に、ロボットの指揮系統がサイバー攻撃を受けて敗北すれば、ロボット同士の直接的な戦闘も行われません。ＡＩが司る軍事に徴兵制度は廃れます。人は兵士という職も失います。
ＡＩ同士が戦闘を行うのですから、未来の軍事大国とは、兵器の保有量で決まるものではなく、強力な軍事ＡＩを所有する国を意味します。
３．２ 超人エリート
ＡＩの進歩過程において、一般の労働者と異なるＡＩを統括、あるいは開発する人々が必要になります。「ホモデウス」ではこれらの人々を13%の人類とみています。
彼らは人類というよりも自分たち即ち一部の人たちを、「ホモ・サピエンス」から「ホモ・デウス」へと進化させようとするだろうと書籍「ホモデウス」は主張しています。彼らを超人エリートと呼ぶことにします。
超人エリートは、自らを神へと進化させ不死と共に超人的な能力を手に入れようとするでしょう。その神への進化は人の欲望であると同時に対ＡＩ対策となることが予測されます。
筆者はそれでも、「いつかＡＩに追い越される日が訪れる」と感じます。倫理的に「神への進化」は間違っていると言うつもりは全くありません。倫理とは、自由主義などのあらゆる主義と同じように人が決めたものだからです。
ＡＩの進歩や進化によって、人が決めたものはいずれ廃れていくと筆者は予測します。
４ 「ホモデウス」の問いかけ
書籍「ホモデウス」は、いくつかの脅威に対する警鐘を鳴らしていますが、同時にその脅威を回避するための問いかけも発しています。誰に対してかは明白で読者に向けられたものです。
４．１ 生命とアルゴリズム
「生き物はアルゴリズムに過ぎないのか？」
「生命はデータ処理に過ぎないのか？」
著者はこのように問いかけているのですが、筆者にはその真の意味がよくわかりません。問いかけに対する答えがＡＩがもたらす脅威を回避できるとは思えないからです。
４．１．１ アルゴリズム
脳がアルゴリズムによって処理されているとしても、筆者は「なるほど」と思うしかありませんが、それが全ての処理であるかと問われれば、「Ｎｏ」と答えるしかありません。
「２．１．２ アルゴリズムの起動者」で述べた内容と、他に例えば「割り込み」（ソフトウエア用語の意味として）の脳への実装者の問題が筆者の心の中で謎として残るからです。
４．１．２ 生命
人は「魂」を持っているか？と聞かれたら二元論者である筆者は「Ｙｅｓ」と答えます。もっとも「Ｎｏ」であっても何も困らないのですが。
1つの理由として「魂が存在しないことを証明することは不可能に限りなく近いほど困難である。」即ち数学でいう「無いということを証明することは困難である」からの引用が挙げられます。
2つ目の理由は「自分が自分であることを自分が知っている」ということです。
3つ目は「観測できないからといって、存在しないと言い切るのは乱暴に過ぎる。」ということです。例えば、空間は物質ではなく直接的に観測できるものでもありません。それでも、科学者は空間の存在を否定しません。確かに空間を説明するものはたくさん存在しますが、それは物質の観測などを通して間接的な経験によって得たもののように感じます。つまり、「魂」と「空間」の扱いの違いはどこにあるのかという疑問が消えません。
４．２ 知能と意識
書籍「ホモデウス」は知能と意識のどちらに価値があるか問いかけています。そして、意識の一部である「恐ろしい」などの感覚（感情）は知能にとって必要ではなく、脳にそのようなものが備わっているのは何故だろうか？と述べています。
筆者の感情や信念の部分が答えると、「意識が優しさや思いやりを意味するものならば、知能より意識に価値がある」となります。
しかし、これはＡＩの脅威に対する対処に全く無関係であるように感じます。故に、「恐ろしい」などの感覚（感情）は何か意味を持っているかもしれませんが、現在の筆者にとってこの項の問いかけに答えることができません。
４．３ 自分を知る者
書籍「ホモデウス」は、「医療の現場で医師よりＡＩの方が正確な診断をくだすようになる。」と述べています。
それならば、人が健康で長生きしたいと願うとき、自分の健康状態を全てＡＩに委ねることが、効果的だと思われます。いくつかのナノチップを身体に埋め込んで常に血圧や血液の状態などを監視して貰えば、突発的な心筋梗塞や脳卒中を防ぐことができます。
脳卒中を防ぐためには、自分の脳をＡＩに公開しなければなりません。すると、電気信号で思考を行う脳の情報は全てＡＩに筒抜けになります。つまり、その人が今何を考えているのかをＡＩは知ることになります。
これは、自分が自分のことを知るより、ＡＩの方が詳しく知ることを意味します。
書籍「ホモデウス」は、「このことによって社会や政治、日常生活はどのように変わっていくのか？」と問いかけています。
もう1つ、幸福感を得るとき、あるニューロンに電極を刺して微弱な電流を流せば、それは実現されることが実験からわかっているようです。麻薬の常習者も同じような体験をしているのかもしれません。
健康や幸福のために、上述のことを受け入れるのか？拒否するのか？正しいか悪いかを抜きにして近い将来に重大な決断を迫られるかもしれません。
５ 掌の上の自分
「西遊記」の中で孫悟空が、自分の精一杯の「遠く」へ飛び立ったと感じたとき、そこは未だお釈迦様？の掌の上だったという説話がありますが、人類も似たようなものだと思っています。
大宇宙を含んだ自然環境の外に人類は到達することができません（現時点では）。これはＡＩにとっても同じなのではないかと考えます。ＡＩにとっての「限界環境境界」を決めるのが人なのか？そうでないのか？は現時点の筆者にはわかりません。
「限界環境境界」を考えていくことが、ＡＩの脅威を軽減する方法だと筆者は考えています。もちろん、「限界環境境界」を設定するのが誰なのか？どのようにして？その範囲は？そして、それは可能なのか？いくつもの問題が残りますが。
人類は人類の全てを完全に制御（知っている）しているようには見えません。そんな人類は、より優れた知能を持つＡＩを制御できるのでしょうか？
人類は進化論による自然淘汰を受け入れる必要があるのでしょうか？
弱者を切り捨てて一部の人だけが生き残る日はくるのでしょうか？
脅威を思いつくことは止みそうにありません。これは、現在の現実を未来に延長して投影しているからかもしれません。
