本日、大澤真幸著『生成AI時代の言語論』（左右社）を読了した。多数の参考とすべき箇所があったので、いつものように、メモとして記述しておきたい。

 

39頁

「ブルシットジョブ」：日本語で「クソつまらない仕事」

 

43頁　自由意志という幻想

44頁　憲法学者の山本龍彦さんは、ChatGPTが登場するより前から、AIが憲法秩序に与える脅威について指摘してきました。近代的な憲法や制度は、人間が個人としての自律性をもち、自由に意思決定をしていることを前提にしてきました。憲法は、そのような個人の権利を保障しようとしてきたわけですし、私たちが民主主義的な決定に基づく法や制度を正統だと見なすのも、その決定が、個人たちが自由な意思決定の主体であり、かつそれがその個人たちの意思決定をリーズナブルな方法で集計した結果として無知美かれたものだと考えるからです。しかし、私たちが、生成AIに簡単に影響されてしまうのだとすれば、私たちが、個人として、

45頁　　自由に自律的に意思決定している、という前提が崩れてしまう。

 

46頁　哲学者のカントに「超越論的仮象」という概念があります。仮象とは、つまり幻想のことです。普通の仮象は、理性を働かせれば排除することができる。しかし、理性によって除去できない仮象もある。それは、まさに理性が働くために前提とせざるをえない仮象です。そういうものを、カントは超越論的仮象と呼びました。「個人がそれぞれ自由意志をもっている」ということは、そのような仮象です。そのことを前提にしないと、私たちは、何が善く、何が悪いと言った道徳的な判断もできなくなってしまう。誰の責任で、誰に罪があるのか、といったことも議論できなくなってしまいます。ですから、自由意志は幻想だとしても、理性的な判断をするために必要になる幻想なので、それは捨て去らないほうがいいのです。

 

53頁　僕が懸念しているのは、集合的な意思決定、つまり政治的意思決定を生成AIの判断に任せるようになったとき、どのようなことが起こるかということです。そのような状態

54頁　になると、AIが人間を支配しているのと同じ状態が出現するかもしれない。事実、能力のない政治家が判断するよりも、AIが判断したほうが成功する確率が高くなることもありえます。国会答弁だってすでに、無能な閣僚ではなく生成AIが作成したほうが説得力がある……と言えるような状況になりつつあります。

 

106頁　記号接地で重要なのは対象に対して「私」がどのように関わるかということです。つまり、記号と対象が因果的に連関していれば記号接地していることになるかというと、そうではない。むしろ、主体が対象に対して感じる好悪の感情、それもさほどはっきりしたものではない微細な情動の揺れ動きが記号接地を促すわけですよね。認知科学の言葉を使えば「クオリア」があると言えばいいでしょうか。

　　　（感覚的・主観的な経験にもとづく、独自の質感。

 

136頁　　今井むつみの発言　大事なのは、帰納推論とアブダクションは連続的なものなのだということです。たとえば、扱える事例が限られていてデータが足らず、純粋な統計推論ができない場合、思い込みで埋めるしかありません。そういう意味でも帰納推論は必然的にアブダクションにならざるを得ないわけです。ただ、AIは純粋な帰納推論ができる一方、アブダクションはしない、ということは押さえるべきでしょう。

 

137頁　アブダクションの原型には、もしかしたら「信じる」という態度、心の構えがあると言えるのではないでしょうか。人間は他の動物に比べて著しく信じやすい生き物でもあります。というより、そもそも、直接に知覚したり、感覚したりしてもいないものに関して、それを信じるという心のあり方は、人間に特有なものだと言えるかもしれません。

　デカルトは、人間の「疑う」力を徹底的に使って、この「私」という存在を――結局それは「意識」としての私ということになりますが――導きました。「疑う」力を意図的・作為的に行使したとき、はたしてどこまでできるかを問うたわけですね。それは逆に考えれば、人間はデフォルトにおいては、ほとんどなんでも信じてしまっている生き物なのである、ということです。だから、あそこまで意図的に徹底して疑ってみたデカルトはすごいと言われるわけです。

 

138頁　そもそも人間の知性は「信じる」ことを原型としているはずです。僕らは、普

139頁　段、「知っている」という心の状態と「信じている」という心の状態の区別に無頓着です。しかし、両者の間に微妙な違いがある。そして、より本源的なのは「信じている」のほうではないか。

　　　　私たちが「知っている」と思っていることの多くは、言語――あるいは一般に「記号」――を通じて獲得したものです。他者の発した記号を通じて、です。教えてもらったりとか、書かれているものを読んだり、とか。実際に、自分が直接経験して、知っていることのほうがずっと少ない。言語を通じて知るというのは、実は、誰かが知っていると主張していることを信じる、ということです。このように信じることを通じて知っていることと、端的に経験して知っていることの間に、ほくらは区別など打ち立ててなくて、両者はシームレスにつながって、僕らの「知っていることのシステム」を構成しています。

 

160頁　そして生成AIは、資本主義を終わらせようとして、導入されるわけではない。まったく逆である。性能の高い生成AIを急速に波及させる動因は、資本主義的な営利衝動にある。だから、生成AIは、一方で、私たちの資本主義的な精神や価値観を維持したまま、いや強化しつつ、他方で、資本主義というシステムを全体として終わりへと漸近させていく。

 

172頁　やっかいなのは、それぞれの個人の言語を用いた思考が、基本的には自律的なものなのに生成AIに影響されるということではなく、まさにその自律性をささえる機制そのものが生成AIへの脆弱性の原因になっている、という点にある。

　そもそも、個人の行動や心の働きに帰せられている「自由」とか、「自律性」とかいった性質は、一種のフィクションである。人間の行動や意思が因果関係から超越しているわけではない。もっとも、「それらは幻想なのだから除去することができる、除去すべきである」というわけではない。それらは、私たちがそこから逃れられないし、逃れるべきでもないフィクションだ。「自由」や「自律性」は、カントが言うところの超越論的仮象である。普通の仮象は、理性によって取り除くことができる。しかし理性がどうしても必要とする仮象、理性がまさに

173頁　理性的であるために前提にせざるをえない仮象がある。そうした仮象をカントは「超越論的仮象」と呼んだ。人間の一人ひとりが自由に意思決定し、自律的に行動しうると仮定しない限り、何が正しいか、何が善いことなのか、ということを考えること自体が無意味になってしまう。

　　が、それでも、繰り返せば、自由も自律性もフィクションである。だから、それらは何かによって否定されたり、破壊されたりはしない。私たちは、それらの存在を仮定するだけだ。そして、仮定された自由に対するどのような影響、そのような力の行使が規範的に望ましいか／望ましくないかが検討される。

　　生成AIの回答に説得されたり、影響されたりしたとしても、そのこと自体が悪いということにはならない。いずれにしても、人は常に、誰かに影響されたり、何かに感化されたりしている。本に書いてあったことに説得されたり、ネットで見つけた情報に動かされたりしたとしても、自由が侵されたとは言えない。それどころか、そのような影響のもとで意思決定し、行動することこそ、まさに自由の行使である。生成AIの影響も、それだけで特に自由にとって危険だということにはならない。

　　とすれば、ごく穏当な、当たり前の結論に至るのではないか。生成AIを使ってもよいが、その回答を鵜呑みにしてはならない。生成AIの答えに誤りがないかチェックしなさい。生成AIが言っていることをそのまま受け入れるのではなく、自分なりに判断して取捨選択しなさい。あなたが結論を導く上での補助線的なトゥールとしてのみ生成AIを使いなさい。等々。

174頁　だが、まだ重要な懸念事項がある。生成AIは、私企業である巨大プラットフォーマーの管理下にある。私たち利用者は、生成AIがどのようなアルゴリズムに従っているか、どのようにチューニングされているか、どんなバイアスがかけられているのか、まったく知らない。先に述べたように、利用者は、私企業の利益にかなうように、少なくともその私企業に不利益にならないように、AIの回答を通じて誘導されているかもしれない。

 

175頁　一般に想定されている因果関係は、思考がまずあって、それが言語によって表現される、という順序である。支離滅裂にしか説明できない人は、「自分の考えをよく整理してから話なさい」などと注意されたりする。だが、ここで反省してみるとよい。どうしても語りたいこと、

176頁　なんとしてでも聞いてもらいたいことはたいてい、語るのが難しいこと、うまく言えないことではないだろうか。語ることが困難なこと――もしかすると語り得ないこと――こそ、語るに値すること、語らねばならないことである。

　　思考があって、それが言語として外化されているのではなく、語ることを通じて、思考が明晰なものとして形成されることがあるのだ。

 

179頁　動詞のいわゆる中動態middle voiceが指し示しているのは、以上のような経験である。この経験は能動態active voiceでは記述できない。つまり、私自身がその言葉を意図的に制御しているようには感じられない。しかし、受動態passive voiceにも相応しくない。つまり、私は何か外部のものに強いられて語っているわけではない。能動態でも受動態手もない中動態こそ、今述べているような言語についての体験にふさわしい。

　　現在のヨーロッパの諸言語からは消え去ってしまったが、古代のインド＝ヨーロッパ語には、能動態でも、受動態でもない動詞の相、中動態があった。それは、「形の上では受動態だが、意味的には能動」となる動詞だ。ここで見ている現象が、まさにこの通りである。「私が語っている」と、能動態で言うほかないのだが、しかし、私自身には、それが受動態の相で体験されている（自分ならざる者に語らされているかのように感じられている）。

180頁　中動態的なやり方で、人は、まさに自らが言うべきことを見出す。それは、まぎれもなく私の言いたいことであったはずなのに、他者性を帯びている。いや、その他者性こそが逆に、語られていることがほかならぬこの私にとっての真実であることの証にすらなっているのだ。

　　　　　　中動態については、國分巧一郎の『中動態の世界――意志と責任の考古学』（医学書院、2017年）

 

182頁　人間の思考の自律性、思考の自由は、能動的なものではなく、中動（態）的なものである。外（他者）からやって来たと感じられる言葉を通じてこそ、「私の思考の真実」が表現される。だが、中動態的な経験は、容易に受動態へと転化してしまう。このことが、生成AIの影響に対する人間の脆弱性の究極的な原因となっている。自律性がもともと中動態的な構成をもつがゆえに、人間の思考は、生成AIに受動的に影響され、その回答に誘導されやすいのだ。

 

185頁　とりあえず、この章で論じてきたことをまとめるならば、次のようになるだろう。私たちは、生成AIの能力が人間の言語能力や認知能力の水準に達しているかということをたえず気にしている。しかし実際には、私たちの方が、自分の言語についての経験を、むしろ生成AIの方に適合させようとしている。生成AIが人間に近づいてきているのではなく、人間の方が生成

186頁　AIに近づこうとしているのだ。それは、言語をめぐる体験の核心部にあった宝物を、自分から放棄することに等しい。

 

189頁　知能とは何か？　思考とは何か？　マイケル・トマセロは、思考を、三つの能力によって定義している。　　Michel Tomasello, A Natural History of Human Thinking, Harvard University Press, 2014. 

　　　①世界についての経験を認知的に表象する能力。

　　　②それらの表象を因果的または論理的に――そして意図的に――変形し、推論する能力。すなわち、表象を用いて、シミュレーションを行う能力。「こうしたああなるだろう」「ああしたらそうなるだろう」等と推論する能力。

　　　③推論によってシミュレーションされた経験が、いかなる行動的な結果をもたらすのか、それを自己観察し、評価する能力。自分の行動のシミュレーションによって導かれる、その行動の結果が、自分にとってよいのかわるいのかを評価する能力。

190頁　これらの三つのうち、一般に最も重視されてきたのは②である。②が、通常の思考や知性についてのイメージの中心にある。結果を、論理の規則や因果の法則に基づいて予想することはかんたんなことではなく、いかにも「知的」という印象を与える。ヒト以外の動物には、②の能力はない……というわけではないが、ヒト以外の動物に関しては、仮に②の能力をもっていたとしても、きわめて貧しいものに違いない、と一般には信じられている。

　　　逆に、最も冷遇されてきたのが、①の表象能力である。①は、②の推論能力や③の自己観察の能力の前提なのだが、あまり重視されてはこなかった。なぜなら、ヒト以前の、あるいはヒト以外の動物でももっている、非常に難度の低い能力だと思われてきたからである。知覚し、感覚する能力はすでに①である。

　　だが、実は、ヒトという動物に関しては、①をかんたんなものとして片付けるわけにはいかない。なぜなら、人間の場合には、①に言語が介在するからである。人間は、言語を通じて経験した世界を表象する。言語が介在することによって、表象の能力は、さまざまな意味において格段に高まった。たとえば、知覚や感覚自体が、言語によって、あるいは言語のように構造化されている。それによって、諸事物の間の差異がいわばデジタル化されるので、よりクリアに認識されることになる。また、言語に規定された分節の精細度は、ときには高まり、ときには逆に――無関連なことに関しては――低くなる。さらに、言語をもつことによって、知覚的・

191頁　　感覚的に現認されないことがら（想像上の事物、抽象的な概念など）をも人間は表象することができるようになった。

　　表象の能力は、他の二つの能力の前提である。言語を通じて表象能力①が向上したことが、推論能力②や自己モニタリング能力③をも高めることにつながっている。だが、ここで問題が生ずる。言語という要素が介在したことによって、ヒトはいかにして表象することが可能か、という問いは、かんたんに片付けることができる疑問ではなくなった。言語は、いかにして、言語の外部にある対象を表象することができるのか？

 

260頁　ギリシャの元経済相でもある経済学者ヤニス・ヴァルファキスが「テクノ封建主義technofeudalism」と呼んでいる、現代の経済システムの仕組み

 

262頁　しかし、ヴァルファキスによると、2008年（リーマンショック）以降、決定的な変化があった。中心的なプレイヤーは、インターネットを舞台に巨大な収益をあげている資本である。とりわけGAFAMに代表されるプラットフォーマーだ。彼らの利潤の獲得の方法は、資本主義のやり方ではなく、（もともと資本主義がそれに取って替わってきたはずの）封建制のやり方になっている。つまり、彼らは資本家というよりもむしろ、封建領主になっている。これがヴァルファキスの診断の中心的なポイントだ。

　　封建制というからには、荘園――つまり領主の私有地――があるわけだが、それは何か？　アマゾンやフェイスブックといったデジタルなプラットフォームが、荘園にあたる。巨大なプラットフォームは、インターネットのデジタル空間の中にある、封建領主の領地にあたる。だがそうして、プラットフォームを活用して利潤を得る方法が、資本主義のそれではなく、封建主義のそれだということになるのか？

263頁　デジタルな「封建領主」はどのように設けているのかを、まずは確認しておこう。彼らのデジタルな荘園（プラットフォーム）を使わせてもらいたい、と思っている商売人たちが無数にいる。その荘園で、自分の商品を売ったり、宣伝したりしたいというわけだ。そこで、領主（プラットフォーマー）は、商売人に、荘園を使わせてやる。そのかわり、商売人たちは、一種の「地代（レント）」を、領主に支払わなくてはならない。このレントこそ、「封建領主」の主な収入源である。

　　が、これだけなら、普通の（現実の）土地や建物を科して、地代や家賃をとっている地主・家主と基本的に同じである。地主も家主も資本主義の外にいるわけではない。彼らは、資本主義のルールに基づいて儲けている。ならば、プラットフォーマーも同じではないか。プラットフォーマーも、普通の地主や家主と同じように、資本主義の中にいると見なすべきではないか。

　　しかし、よく見よ。プラットフォーマーの「荘園」にはどうして価値があるかを考えてみるとよい。とてつもない数の商売人たちが、それを使わせて欲しいと願うほどにこの荘園には価値がある。どうしてなのか。この荘園の価値を高めるためにせっせと働いてくれる、「農奴」がいるのだ。賃金労働者ではなく、農奴である。この仕組みが、貢献主義的だとする根拠はここにある。領主が賃金をまったく払わないのに、荘園の価値を高めるためにただ働きをする農奴が、地球上に何億人もいるのだ。

　　農奴とは誰のことか？　農奴とは、プラットフォーマーが提供するサービスをリ湯推している「我々」のことである。我々は毎日、プラットフォームを使って、検索したり、テクストや写

264頁　　真をアップしたり、買い物をしたりしている。このとき我々は、気前のよいプラットフォーマーにタダでサービスを提供してもらっている気でいる。しかし、この「無料の利用」こそ、ほんとうは、我々の未払い労働そのものである。X（旧ツイッター）で呟いたり、グーグルで検索したり、アマゾンで買い物したりすると、我々は、自分の個人情報を残す等、プラットフォーマーのストック――彼らの「荘園」であるところのプラットフォーム――の価値を高めるのに貢献している。我々は「ありがたい」とまで思いつつ、無料でサービスを利用しているつもりだが、これこそ、農奴の労働であり、我々の方こそ、無報酬で、領主のために働いていたのだ。

　　今、グローバル経済に活力を与えているのは、インターネットのプラットフォーマーたちである。彼らは、その利益を、市場からではなく、デジタルな荘園から得ている。とすれば、それはもはや資本主義ではなく、一種の封建主義である。ヴァルファキスはこのように認定する。この認定には説得力がある。