最近読んだ本で興味深いのは21 Lessons for the 21^st Century

私の書いた『なぜ「官僚」は腐敗するのか』（潮出版社）が今日、手元に届きました。10月5日に公式に発売されます。自分の本はともかく、最近読んだ本のなかでもっとも興味を引いたのはユヴァル・ノア・ハラリ著21 Lessons for the 21^st Centuryです。ユダヤ人の彼は歴史学者です。

なにがおもしろいかというと、AI化や医療技術の発展が21世紀の制度や文化をまったく変えてしまう可能性を指摘しつつ、その問題点を明らかにしようとしている点です。とくに、AIを支える、コンピューターのための計算手順を意味する「アルゴリズム」が人間の行動を指示するまでに至り、アルゴリズム支配が進むことへの警鐘に注意喚起されました。

この際、アルゴリズムは「ディープラーニング」や「マシンラーニング」を通じて設定されるため、より多くの情報データを集めてコンピューターに学ばせる体制をもつ側が有利になります。つまり、AIは中央集権的システムと親和的なのです。だからこそ、世界最大の人口をもつ中国は積極的にAIを利用しようとしています。中央集権的な情報管理に基づいて、そうした中央集権的システムを堅持できるようなバイアスをもったアルゴリズムを設定し、体制維持に利用しようとしているわけです。

その意味で、AIの進展は21世紀を生きる人間にとってきわめて重要な環境変化をもたらすことになるでしょう。とくに恐ろしいのは、アルゴリズム設定が人間の「心」を操作しうる点にあります。もうすでに、多くの人々はAIの指示になんの疑問をいだくことなく、その指示にしたがって目的地に向かうソフトを使っています。

その延長上には、わけのわからないアルゴリズムに基づいてAIが指示するとおりに恋人を選んだり、採用者を選んだり、融資先を選んだり、あるいは大学での受講授業を選択したりするようになるでしょう。

AIは政治家に複数の政策を提言し、不勉強な政治家はそのなかから一つを選択するという安易な道にはしるようになるでしょう。こうして、徐々にアルゴリズムとAIによって、人間自身の思考が操作されてしまいかねなくなるのです。

ここで注意しなければならないのは、知性（intelligence）と意識（consciousness）の違いです。AIは問題を解決する能力であるインテリジェンス（知性、知力）をもっていますが、そのための手順がアルゴリズムとして示されることで、AIはその知性を発揮できるにすぎません。しかし、AIは苦痛、喜び、愛、怒りのような感情を感じる意識をもっているわけではありません。ゆえに、AIは意識をもたず、倫理に対してもまったくその埒外にいます。人間の心を知らないからです。

実は、人間は意識について、いま現在もなにも知らないに近い状態にあります。それがどのように形成されるのか。そもそも「自由意志」は存在するのか。たとえば、すでに紹介したハラリはその著書のなかで、「自由意志」によってあなたが欲していることを行うことが自由を意味するとすれば、たしかに人間は自由意志をもっているが、「自由意志」によって欲していることを選択するのが自由を意味するのであれば、人間は自由意志をもたないと指摘しています。ゲイである彼によれば、ゲイになるかどうかという欲求を選択する自由など彼になかったのであり、自らの身体の内側でなにが起きるかを自分自身はコントロールできないと強調しています。したがって、ハラリのような後者の立場からみると、人間はそもそも自由意志をもっていないとも言えることになります。

なお、意識についてちょっとだけ脱線しておきましょう。興味をもった若者に少しだけ意識について知ってほしいからです。ジュリアン・ジェインズ著『神々の沈黙: 意識の誕生と文明の興亡』に基づいて「意識」に関する諸説を整理してみると、意識にはつぎの諸説があります。

①物質の属性にまで還元できるとする新実在論（内観において感じる主観的状態は系統発生的な進化をさかのぼれば、相互に作用する物質の基本的な属性にまでたどることができ、意識と意識されているものとの関係は天体間の重力の関係とすら変わらない）、②あらゆる生命体の基本的属性であり、単細胞動物の感応性が腔腸動物、原索動物、魚類、両生類、爬虫類、哺乳類、人類へと進化した結果であると考える、③意識の発生は物質とともにではなく、動物の誕生とともにでもなく、生命がある程度進化した特定の時点であったとみなし、その出現の判断規準として、経験によってあるものが他のものへと結びつく「連合記憶」がうまれる起源を重視する、④単純な自然淘汰によって生物学的に進化した連続性の結果として生まれたのではなく、言語を話し、知性をもつ人類と、そうでない類人猿との間に不連続性を認め、そこから意識がうまれたとみなす、⑤動物は進化し、その過程で神経系やその機械的反射作用の複雑性が増し、神経がある一定の複雑性に達すると、意識が発生するとみなす、⑥物質のあらゆる属性は、その物質が誕生する前の不特定の要素から創発したもので、生命体特有の属性は複雑な分子から創発し、意識は生命体から創発したと考える、⑦すべての行動はいくつかの反射とそれから派生した条件反射に還元でき、意識は存在しないという行動主義、⑧脊髄の上端から脳幹を経由して視床と視床下部へとつながり、そこへ感覚神経と運動神経があつまってきている「網様体」という部位に意識がかかわっているとする――といったさまざまな見方があります。わかってほしいのは、意識には諸説があり、いま現在まったく未開拓とも言える領域となっているということです。

21世紀を生きる若者には、このわけのわからない意識の領域にチャレンジしてもらいたいと思います。AIはさしずめ、命令にしたがって計算するだけであり、しかもその手順を示すアルゴリズムの設定過程で人間による操作を受けます。その際、大いなるインチキが行われる可能性が高い。そんなAIよりも、意識そのものについて研究してほしい。そこには、人間に関するまったく新しい地平が広がっているし、コンピューターと人間との関係を考えるうえで重要な新たな観念があるはずだと思います。