例によって、最近読んだ『知ってるつもり：無知の科学』（スティーブン・スローマン＆フィリップ・ファーンバック著）土方奈美訳におけるラインマーカー部分を以下に記しておきたい。なお、電子書籍を使用しているので、ページ数は示していない。

 

 

The Knowledge Illusion: Why We Never Think Alone

Steven Sloman & Philip Farnbach

 

 

 

 

人間の知性は、大量の情報を保持するように設計されたデスクトップ・コンピュータとは違う。知性は、新たな状況下での意思決定に最も役立つ情報だけを抽出するように進化した、柔軟な問題解決装置である。

 

人間の思考はまさに簡単すべきものになる。ただそれはコミュニティの産物であり、特定の個人のものではない。

 

 

ここで言いたいのは、人間は無知である、ということではない。人間は自分が思っているよりも無知である、ということだ。私たちはみな多かれ少なかれ、「知識の錯覚」、実際にはわずかな理解しか持ち合わせていないのに物事の仕組みを理解しているという錯覚を抱く。

 

 

特定の状況に適した行動を選ぶための最適なツールは、情報を処理する知的能力である。

 

 

複雑さを受け入れる代わりに、特定の社会的ドグマに染まってしまう人が多い。私たちの知識は他の人々のそれと一体化しているため、信念やモノの考え方はコミュニティが形づくる。仲間内で共有されている意見を拒絶するのは難しいので、その妥当性を評価することすらしないことも多い。自分に変って所属集団にモノを考えてもらおうとする。知識の公共性を受け入れれば、何が自分の信念や価値観を決定づけているかをもっと現実的にみられるようになるはずだ。

 

知識の公共性を認識することで、私たちの世界の見方が偏っていることが明らかになるケースもある。

 

知識がすべて自分のなかにあるのではなく、コミュニティのなかで共有されることを理解しはじめると、英雄に対する認識が変わる。個人に注目するのではなく、もっと大きな集団に目が向くようになる。

知識の錯覚は、社会の進化とテクノロジーの未来にも重要な示唆を与える。テクノロジー・システムが一段と複雑化するのにともない、それを完全に理解できる個人はいなくなる。

 

 

重要な示唆はほかにもある。私たちは共同してモノを考えるため、チームで活動することが多い。これはすなわち個人としてどのような貢献ができるかは、知能指数より他者と強調する能力によって決まる部分が大きいことを意味する。

 

 

「説明深度の錯覚」（略してIoED）

無知を研究する手法　ファスナーの説明

 

人はファスナーのような身の回り品だけでなく、ありとあらゆるものに対してこうした錯覚を抱くということだ。　　　人は自分の理解度を過大評価する。

 

 

では、どれだけ無知なのだろう。どれだけ知識があるか、評価することは可能だろうか。この問いに答えようとしたのが、トーマス・ランドアーである。ランドアーは認知科学のパイオニアとしてハーバード大学、ダートマス大学、スタンフォード大学、プリンストン大学で教鞭をとるかたわら、ベル研究所で25年にわたって研究成果の応用に取り組んだ。

 

ランドアーは優れた方法をいくつか考案して、人間の知識量を測定した。たとえば平均的な大人の語彙を評価し、それだけの単語を保存するのに何バイト必要か計算した。それに基づき、平均的な大人の知識ベースを算出したところ、得られた答えが0.5ギガバイトだった。

 

 

アイテムが視覚的なものであっても、音楽的なものであっても、あるいは口頭で提示しても、学習の速度はほぼ一定だった。

 

続いてランドアーは、私たちが人生70年のあいだ、一定の速度で学習を続けると仮定し、持っている情報の量、すなわち知識ベースの大きさを計算した。さまざまな方法を使ったが、結果はだいたい同じだった。1ギガバイトである。

人間はおよそ知識のかたまりではない。

 

 

トヨタ自動車によると、現代の自動車は3万点もの部品からできている。

 

 

ウミウシですら1万8000個の神経細胞（ニューロン）がある。　　　ニューロンの数はネズミが約2億、ネコは約10億、人間は100億近い。

 

 

ドナルド・ラムズフェルドの有名な言葉

「世の中には、わかっているとわかっていることがある。これは自分たちにわかっているという事実が、わかっていることだ。一方、わかっていないことがわかっていることもある。つまり、自分たちにはわかっていないこという事実が、わかっていることだ。しかし、わかっていないことがわかっていないこともある。自分たちにわかっていないという事実すら、わかっていないことだ。」

 

 

 

知るべきことのほんのいったんしか理解していないのに、まっとうな生活を送り、わかったような口をきき、自らを信じることができるのか。

それは私たちが「嘘」を生きているからだ。物事の仕組みに対する自らの知識を過大評価し、本当は知らないくせに物事の仕組みを理解していると思い込んで生活することで、世界の複雑さを無視しているのである。実際にはそうでないにもかかわらず、自分には何が起きているかわかっている、自分の意見は知識に裏づけられた正当なものであり、行動は正当な信念に依拠したものであると自らに言い聞かせる。複雑さを認識できないがゆえに、それに耐えることができるのだ。これが知識の錯覚である。

 

 

 

人間は地球上で最も因果的思考に長けた生き物である。

 

 

因果的推論は、因果的メカニズムに関する知識を使って、変化を理解しようとする試みである。さまざまなメカニズムを通じて、原因がどのような結果に変るかを推測することで、未来に何が起こるかを予想するのに役に立つ。　

 

 

システム１とシステム２⇒ダニエル・カーネマン『ファスト＆スロー』

直観と熟慮

ヒンドゥとヨガの伝統では、「チャクラ」と呼ばれるエネルギーの集積する七つの輪がある。

 

 

つまるところ思考は、身体を通じてしか世界を認識できない。思考の材料となる情報は目から、耳から、鼻から、そして他の知覚器官から入ってくる。相互作用は逆方向にも働く。思考は何をすべきか判断し、それを身体に伝える。

 

 

 

知性は、個人がたった一人で問題の解決に取り組むという環境のなかで進化してきたのではない。集団的協業という背景の下で進化してきたのであり、私たちの思考は他者のそれと相互にかかわりながら、相互依存的に進化してきたのだ。ハチの群れと同じように、それぞれの個体が特定の役割に精通すると、その結果として生まれる集団的知能は部分の総和を超える。

 

 

ロシアの心理学者、レフ・ヴィゴツキー　　　ヴィゴツキーは20世紀初頭に、知性は社会的存在であるという見方を提唱した。人間と他の動物との違いは、個体の知力にあるのではない、とヴィゴツキーは主張した。

 

 

志向性を共有する力は、人間の最も重要な能力を支えるものかもしれない。知識を保存し、次の世代へと伝える能力である。これは人類学者の言う「累積文化」をもたらす。言語、協力、分業によって、社会脳を通じて伝えられた知識が累積し、文化が生まれる。

 

 

言語、記憶、関心をはじめ、すべての知的機能は認知的分業という原則に従い、コミュニティ全体に分散しながら働いていると考えられる。

 

 

個人には志向性を共有する能力が必要だ。他者と関心や目標を共有し、共通理解を確立する能力がなければならない。

もう一つ欠かせない要素は、情報保管方法にかかわるものだ。共通知識は集団のなかで分散されている。すべてを持っている個人はいない。だから私個人が知っていることを、他の人々の知識とつなげる必要がある。

 

 

 

知識の呪縛とは、私たちは自分の頭の中にあることは、他の人の中にもあるはずだと考えがちなことを指す。一方、知識の錯覚は、他の人の頭の中にあることを、自分の頭にあると思い込むことを指す。いずれのケースも、私たちは誰が知っているかを理解できないことを示唆している。

人は集団意識の中で、他者や環境に蓄積された知識に依存しながら生きているので、個人の頭の中にある知識の大部分はきわめて表層的である。そんな表層的知識でも十分生きていけるのは、たいてい他の人は相手にそれ以上を期待しないからだ。彼らの知識も同じように表層的なのだ。それでも生きていけるのは、知識のさまざまな部分の責任をコミュニティ全体に割り振るような認知的分業が存在するからである。

認知的分業は、認知の進化のあり方を決め、また今日の認知のあり方を決定づけている。

 

 

もっと危険な弊害もある。外から入手できる知識と頭の中にある知識を混同するため、たいての人は自分がどれだけモノを知らないかに気づいていない。自分が実際よりはるかに多くを理解していると思い込んで生きている。これから見ていくとおり、社会の重要な課題の多くは、この錯覚から生じている。

 

 

 

自動化のパラドックスとは、自動化された安全システムの有効性がきわめて高いがゆえに人間が依存するようになり、それが人間の操作者の主体性を妨げ、危険性を高めることだ。現代のテクノロジーは非常に高度で、しかもますます高度化している。自動安全システムはさらなる進歩を遂げている。システムがさらに複雑化し、追加の警報装置やバックアップ・システムを備えると、さらに多くの役割を期待されるようになる。そうしたシステムが故障すると、被害はその分甚大になる。皮肉なことに、航空機、鉄道、産業機械の自動化システムによって、全体としての安全性が損なわれるリスクがある。

 

 

クラウドソーシングはたくさんの人の知識や能力を統合することで、かつてないほど裾野の広い、ダイナミックな知識のコミュニティを生み出した。多様な経験、場所、知識ベースから集まるデータを統合するサイトやアプリにとって、クラウドソーシングは重要な情報源だ。

 

 

 

テクノロジーが一段と高度になるにつれて、機器の内部で何が起きているのか、私たちにはますますわからなくなる。それを動かしつづけるためには、専門家に頼らざるをえない。

 

 

科学に対する意識を決定づけるのは、むしろさまざまな社会的・文化的要因であり、だからこそ変化しにくい。

 

 

コミュニティへの忠誠心

この新たな見解を主張する急先鋒が、イェール大学の法学部教授であるダン・カハンだ。科学に対する意識は、エビデンスに対する合理的かつ公平な評価に基づくものではない、とカハンは言う。それは信念とは個別に取り出したり捨てたりできるようなバラバラなかけらではなく、他の信念や共有された文化的価値観、アイデンティティなどと深くかかわり合っているからだ。特定の信念を捨てるということは、他のさまざまな信念も一緒に捨てること、コミュニティと決別すること、信頼する者や愛する者に背くこと、要するに自らのアイデンティティを揺るがすことに等しい。こうした視点に立てば、遺伝子組み換え技術やワクチン、進化論、あるいは地球温暖化について少しばかり情報を提供したところで、人々の信念や意識がほとんど変わらなかったのも不思議ではない。文化がわれわれに及ぼす影響力は、啓蒙の努力によって覆せるものではない。

 

 

私たちはたいてい新たなテクノロジーや科学的発見に対して、自らの力で十分な知識に基づく精緻な見解を形成することはできない。だから信頼できる人々の意見をそっくり受け入れるしかない。このように私たちの意見と周囲の人々の意見は、互いに補強しあうことになる。そして何かに対してはっきりした意見を持っているという事実によって、私たちは自らの意見には確固たる根拠があると思い込む。だから実際に自分が知っているより多くを知っていると思う。

 

 

 

第三章では、個人の認知システムの働きは、因果関係の推論であることを見てきた。人間は因果モデルを構築し、それに基づいて推論をする。因果モデルは人間が世界の仕組みに対する理解に基づき、自らを取り巻く世界について思考し、推論する手段である。第四章では、個人の持つモデルはたいてい素朴で不正確なものであり、直接的経験によって偏りがあることを見てきた。こうしたモデルは私たちの態度を決定づける要因にもなる。

 

 

 

プラトン『ソクラテスの弁明・クリトン』

 

 

 

 

一般に私たちは、自分がどれほどモノを知らないかをわかっていない。ほんのちっぽけな知識のかけらを持っているだけで、専門家のような気になっている。専門家のような気になると、専門家のような口をきく。しかも話す相手も、あまり知識がない。このため相手と比べれば、私たちのほうが専門家ということになり、ますます自らの専門知識への自信を深める。

これが知識のコミュニティの危険性だ。

実際には強固な支持を表明するような専門知識がないにもかかわらず、誰もが自分の立場は正当で、進むべき道は明確だと考える。誰もが他のみんなも自分の意見が正しいことを証明していると考える。こうして蜃気楼のような意見ができあがる。コミュニティのメンバーは互いに心理的に支え合うが、コミュニティ自体を支えるものは何もない。

 

 

さらに状況を悪化させているのは、誰もが鏡の迷宮に生きている事実に気づいていないことであり、この孤立状態が無知を一段と深めている。異なる立場を理解することができない。まれに異なる意見を聞くことがあっても、相手もこちらの意見をわかっていないので無知に見える。相手がこちらの立場を単純化し、意見の細かな特徴や深い部分に理解を示さないと、「きちんと理解してくれればいいのに」と思う。こちらがどれだけこの問題を気にかけ、どれほど率直な議論を望んでいるか、そしてこちらの意見がどれほど問題の解決に役立つかを理解してもらえたら、相手も私たちと同じ意見を持つようになるだろう、と。しかしここには問題がある。相手が問題の細部や複雑さを十分理解していないのと同じように、私たちも相手を理解していないのである。

誰も自らの無知を理解できない、しかしコミュニティがメンバーに正しいという感覚を与えつづけるという状況が行き着くところまで行ってしまうと、きわめて危険な社会的メカニズムが動き出すリスクがある。歴史にさほど詳しくない人でも、社会がときとして画一的なイデオロギーを追求し、プロパガンダや恐怖政治によって独自の意見や政治的立場を封じようとする危険な熱にうかされることは知っているだろう。

 

 

 

説明してみることで、その問題に対する意見が多少なりとも軟化するかを知らなかったのだ。被験者は説明することで、自分が思っていたほど問題を理解していなかったことに気づくことはすでにわかっていた。⇒説明に失敗することで謙虚になり、自分の意見は正しいという自信が弱まるのだろうか。

 

因果的説明は効果あり⇒必要なのは、政策そのものを考えること、具体的にどのような政策を実施したいのか、その政策の直接的影響はどのようなものか、その影響の影響はどのようなものかを考えることである。つまり、ふだん行っている以上に物事の仕組みについて深く考える必要がある。

自分の意見を支持する理由は効果なし。

 

われわれの研究では、詳細な因果的説明を求めることで、知識の錯覚を打ち砕けば、立場が穏やかになることが示されている。

 

 

 

つまり因果的説明は人々の意見を穏やかにするのに役立つ簡単かつ効果的な方法である、というわれわれの主張は、特定の問題にしかあてはまらないということだ。具体的には、価値観に基づいて意見が決まる問題ではなく、結果に基づいて意見が決まる問題にしかあてはまらない。それでも対象となる問題は多い。ほとんどの意見は、結果を踏まえて決まる。社会が原子力発電に取り組むことの是非から教育、医療に至るまで、さまざまな問題について、たいていの人は最も効果の大きい方法を支持する。

 

 

私たち個人は無知なことが多い。しかし放送はそれを正し、思慮深い専門家の視点を提供する重要な媒体であるべきだ。テレビ番組に不偏不党は期待できない。あらゆる報道には多少の偏りがつきものだ。しかし視聴者には分析を見せるべきだ。メディアに登場する人々は、提案された政治の具体的な結果を議論すべきであり、視聴者にひたすらスローガンや偏って解釈を吹き込むべきではない。

 

 

 

意識のなかで、複雑な集合体を個人に置き換えるという現象は、公的機関についての議論でも見られる。

 

 

人間の記憶は有限であり、推論能力には限界がある。歴史の学徒が理解できる内容には限りがある。その結果、私たちは物事を単純化しようとする。その一つの手段が英雄信仰、すなわち重要な個人とそれを支える知識のコミュニティとを混同することだ。大勢の人々がさまざまな目的を同時に追求するという、途方もなく複雑な状況を理解し、すべてを記憶するのは不可能だ。だから代わりに事象を小さな塊にまとめ、たった一人の個人に帰属させるのである。

 

 

 

知能というのは、個人の性質ではない。チームの性質である。

 

 

 

理解の錯覚が起こるのは、人は「見たことがある」あるいは「知っている」ことを、「理解している」ことと混同するためだ。

 

 

 

私たちが知識の錯覚に陥るのは、専門家の知識を自分の知識と混同するからである。他の誰かの知識にアクセスできるという事実が、自分がその話題について知っているかのような気分にさせる。同じ現象が教室でも起きている。子供たちは必要な知識にアクセスできるため、理解の錯覚に陥る。必要な知識は教科書や教師の頭の中、そして自分より優秀な仲間の頭の中にある。

認知的分業のなかで自分にできる貢献をし、知識のコミュニティに参画することが私たちの役割ならば、教育の目的は子供たちに一人でもモノを考えるための知識と能力を付与することであるといった誤った認識は排除すべきだ。

 

 

つまり学習とは単に新たな知識や能力を身につけることではない。そこには他者と協力する方法を学ぶこと、そして自分に提供できる知識、他者から埋めてもらわなければならない知識は何かを知ることも含まれている。

 

 

 

本物の教育には、自分には知らないことが（たくさん）あると知ることも含まれている。持っている知識だけでなく、持っていない知識に目を向ける方法を身につけるのだ。そのためには思いあがりを捨てなければならない。知らないことは知らないと、認める必要がある。何を知らないかを知るということは、自分の知識の限界を知り、その先に何があるかを考えてみることにほかならない。それは「なぜ？」と自問することだ。

 

 

私たちが個人として知っていることは少ない。それはしかたのないことだ。世の中には知るべきことがあまりに多すぎる。多少の事実や理論を学んだり、能力を身につけることはもちろんできる。だがそれに加えて、他の人々の知識や能力を活用する方法も身につけなければならない。実は、それが成功の鍵なのだ。なぜなら私たちが使える知識や能力の大部分は、他の人々のなかにあるからだ。

 

 

コロンビア大学では2006年から「無知」と題した講座が開かれている。

1. Firestein (2012) Ignorance. Oxford University Press.

科学者がゲストに招かれ、自分が何を知らないかについて講演する。さまざまな分野の科学者が「知りたいこと、知るべきこと、どうすればそれを知ることができるか、それを解明すれば何が起きるか、解明しなければどうなるか」を語るのだ。

 

 

 

科学者が真実と考えることの大部分は、信じる気持ちに支えられている。神への信仰ではなく、他の人々が真実を語っているという信頼である。ただ、宗教と違うのは、科学では「真実」とされるものに疑問が生じたときに、よりどころとすべきものがあることだ。それは立証の力である。科学的主張の真偽は確認することができる。

 

 

ある主張が信頼できそうか、知識を持っているのは誰か、その人物は真実を語る可能性が高いかを判断するすべを身につけさせるのも、教育の重要な機能の一つだ。このような判断を下す簡単な方法はないが、きちんと教育を受けた人は、教育を受けていない人よりうまくやれるだろう。これは科学教育に限った話ではなく、法律、歴史、地理、文学、哲学など教育の対象となるあらゆる分野に当てはまる。

 

 

 

知識を他者に頼ると、それを利用して偽りの情報を流布させようとする者たちの攻撃に対して弱くなる。学生の科学リテラシーを高め、正確な情報をゴミや雑音と区別する能力を身につけさせることには、単に論文がうまく書けるようになる以上の意味がある。

 

 

 

学者が自らの思想にそぐわない新たな発想と出会うと、たいてい三つの反応が連続して起こる。まず否定する、次に拒絶する、そして最後にわかりきったことだと主張する。世界観を揺るがすような発想に出会うと、まずは無視しようとする。時間をかけ、わざわざ考える価値のないものだと思い込もうとする。それがうまくいかないとき、たとえばコミュニティからその発想と向き合えという圧力がかかると、拒絶する理由をひねり出す。学者は、新たな発想を否定する理由を考えるのがおそろしく得意だ。ただ最終的にそのアイデアが否定できないほどすばらしく、コミュニティに定着すると、そんなものは自明であり、正しいことは最初からわかっていたと主張する理由を見つける。

 

 

世界について知りうる内容はこれだけあるのに、個人が知っている情報はごくわずかであるという意味において、個人は無知である。そんなことは明らかではないか。世界が複雑なのは自明で、すべてを知ることなどとてもできない。私たちが実際上に自分はモノを知っていると思っているというのは多少意外な感があったが、そうかもしれないという予感はあった。応えられると思った質問に答えられない、という状況に直面するたびに、現実を思い知らされてきたはずだ。思考は行動の一部であるという主張も、当然のように思える。推論は基本的に因果を説明するものであるというわれわれの主張も、推論というのが非常に幅の広い概念であることを考えれば、特段驚くようなものではない。人は知識のコミュニティで生きているという事実も、目新しくはない。誰かに質問をするとい行為は、私たちは他者の知識に頼って生きているという事実を追認するものだ。本書で取り上げた問題や細かな議論のなかには、それほど自明でないことも含まれていた。しかし核となる主張は、ほとんどの人がすでに知っていることと矛盾しない。本書を通して、こうした考え方はずっと前から存在してきたこととはっきり述べてきた。しかも、そのなかに常識に反するようなものは一つもない。

 

 

知識の錯覚のなかで生き、自らが知識のコミュニティの一員であることを理解せず、個人の力、才能、能力、業績など個人ばかりを見ようとする。さらに、問題なのは、自らの知識を過大評価し、どれだけ他者に知識を依存しているかという認識を欠いたまま、日常生活にかかわる大小の判断から社会のあり方にかかわる判断まで、さまざまな意思決定をすることだ。その例として、そのように食べ物を選び、退職後の蓄えを運用し、投票先を決め、政治的立場を支持し、テクノロジーとかかわり、従業員を選ぶか、子供や若者を教育するかを見てきた。重要なのは、自明な事実を知っているというだけでなく、それに対して自覚的であること、そうした認識に基づいて個人と社会にかかわる意思決定をすることである。

 

 

本書には三つの主題がある。無知、知識の錯覚、そして知識のコミュニティである。

 

 

 

エロル・モリスとのインタビューにおけるデビッド・ダニングの発言。NYT, June 20, 2010.

簡単に言えば、人は自分が知っていることをする傾向があり、自分が何も考えていないことをしない傾向がある。 このように、無知は私たちの人生の進路を大きく左右する。 そして、未知の未知は、すべての人の無知の分野の大部分を占めている

1. Dunning
2. Kruger & D. Dunning (1999) “Unskilled and Unaware of It: How difficulties in Recognizing One’s Own Incompetence Lead to Inflated Self-Assessments,” Journal of Personality and Social Psychology, 77(6) 1121-1134

 

 

ただコミュニティのなかで生きるといっても、自らの意思決定に対する責任は負わなければならない。他の人々が間違っているかもしれないし、コミュニティはときとして極端で誤った見解を持つこともある。個人は自らを欺くことがあり、集団はメンバー同士が欺き合うのを助長することもある、そうでなければ、カルト集団のカリスマ的宗教指導者が前後の見境をなくしたときに起こる悲劇が説明できない。

 

 

コミュニティが誤ったアドバイスをしたときには、それを拒絶するのはあなたの責任だ。

 

 

私たちには誤った主張や嘘をできるだけ避けようと努力をするコミュニティを選ぶ自由がある。社会がここまで進歩できたのは、人はたいてい協力的であろうとするためだ。私たちは、自分が知っていることだけを伝え、確信が持てないときにはそれを正直に言う人だけで周囲を固めようとする。そしてそれはたいていうまくいく。日頃つきあう相手は、たいてい信頼できる。だからコミュニティで生きていくことが可能なのだ。

 

 

知識の錯覚は、知識のコミュニティで生きている結果である。それは自分の頭に入っている知識と、他の人々の頭に入っているものとを区別できないために生じる。認知的な意味では、全員が一つのチームであるがゆえに、知識の錯覚は起きるのだ。錯覚を抱かなければチームプレーヤーになれないわけではないが、錯覚を抱いているのはチームプレーヤーである証だ。

 

 

錯覚は楽しいものかもしれないが、無知と同じように手放しで喜べるものではない。たとえば人間関係についての知識の錯覚は、何が問題かわかっているという意識から、関係修復の努力をしないという弊害をもたらすこともある。相手の短所はわかりきっているという傲慢さあるいは恐怖心から、関係を断ってしまう。私たちはどうしても社会的関係の全体像、すなわち自分も問題の一員であることを理解できない。それ以外の領域においても、知識の錯覚に起因する人間の弱点や悲劇を、本書を通していくつも見てきた。