TED日本語 - ジュリア・ゲレフ: 間違っているのに正しいと感じるのはなぜなのか

TED日本語

プレゼンテーション動画

TED日本語 - ジュリア・ゲレフ: 間違っているのに正しいと感じるのはなぜなのか

TED Talks

間違っているのに正しいと感じるのはなぜなのか
Why you think you're right -- even if you're wrong
ジュリア・ゲレフ
Julia Galef

内容

ものの見方というのは大切なものです。特に自分の考えを検証しようというときには。皆さんは何があっても自分の考えを死守しようとする兵士タイプでしょうか、それとも好奇心に動かされる斥候タイプでしょうか?ジュリア・ゲレフは19世紀フランスの興味深い歴史的教訓を交えながら、この2つのマインドセットの裏にある動機と、それが私たちの情報を解釈する仕方にどう影響するのかを探ります。自分の固く信じていることが試されるとき何を望むのかとゲレフは問います。自分の信念を守ることか、それとも世界を可能な限り明快に見通すことか?

Script

So I'd like you to imagine for a moment that you're a soldier in the heat of battle. Maybe you're a Roman foot soldier or a medieval archer or maybe you're a Zulu warrior. Regardless of your time and place, there are some things that are constant. Your adrenaline is elevated, and your actions are stemming from these deeply ingrained reflexes, reflexes rooted in a need to protect yourself and your side and to defeat the enemy.

So now, I'd like you to imagine playing a very different role, that of the scout. The scout's job is not to attack or defend. The scout's job is to understand. The scout is the one going out, mapping the terrain, identifying potential obstacles. And the scout may hope to learn that, say, there's a bridge in a convenient location across a river. But above all, the scout wants to know what's really there, as accurately as possible. And in a real, actual army, both the soldier and the scout are essential. But you can also think of each of these roles as a mindset -- a metaphor for how all of us process information and ideas in our daily lives. What I'm going to argue today is that having good judgment, making accurate predictions, making good decisions, is mostly about which mindset you're in.

To illustrate these mindsets in action, I'm going to take you back to 19th-century France, where this innocuous-looking piece of paper launched one of the biggest political scandals in history. It was discovered in 1894 by officers in the French general staff. It was torn up in a wastepaper basket, but when they pieced it back together, they discovered that someone in their ranks had been selling military secrets to Germany.

So they launched a big investigation, and their suspicions quickly converged on this man, Alfred Dreyfus. He had a sterling record, no past history of wrongdoing, no motive as far as they could tell. But Dreyfus was the only Jewish officer at that rank in the army, and unfortunately at this time, the French Army was highly anti-Semitic. They compared Dreyfus's handwriting to that on the memo and concluded that it was a match, even though outside professional handwriting experts were much less confident in the similarity, but never mind that. They went and searched Dreyfus's apartment, looking for any signs of espionage. They went through his files, and they didn't find anything. This just convinced them more that Dreyfus was not only guilty, but sneaky as well, because clearly he had hidden all of the evidence before they had managed to get to it.

Next, they went and looked through his personal history for any incriminating details. They talked to his teachers, they found that he had studied foreign languages in school, which clearly showed a desire to conspire with foreign governments later in life. His teachers also said that Dreyfus was known for having a good memory, which was highly suspicious, right? You know, because a spy has to remember a lot of things.

So the case went to trial, and Dreyfus was found guilty. Afterwards, they took him out into this public square and ritualistically tore his insignia from his uniform and broke his sword in two. This was called the Degradation of Dreyfus. And they sentenced him to life imprisonment on the aptly named Devil's Island, which is this barren rock off the coast of South America. So there he went, and there he spent his days alone, writing letters and letters to the French government begging them to reopen his case so they could discover his innocence. But for the most part, France considered the matter closed.

One thing that's really interesting to me about the Dreyfus Affair is this question of why the officers were so convinced that Dreyfus was guilty. I mean, you might even assume that they were setting him up, that they were intentionally framing him. But historians don't think that's what happened. As far as we can tell, the officers genuinely believed that the case against Dreyfus was strong. Which makes you wonder: What does it say about the human mind that we can find such paltry evidence to be compelling enough to convict a man?

Well, this is a case of what scientists call "motivated reasoning." It's this phenomenon in which our unconscious motivations, our desires and fears, shape the way we interpret information. Some information, some ideas, feel like our allies. We want them to win. We want to defend them. And other information or ideas are the enemy, and we want to shoot them down. So this is why I call motivated reasoning, "soldier mindset."

Probably most of you have never persecuted a French-Jewish officer for high treason, I assume, but maybe you've followed sports or politics, so you might have noticed that when the referee judges that your team committed a foul, for example, you're highly motivated to find reasons why he's wrong. But if he judges that the other team committed a foul -- awesome! That's a good call, let's not examine it too closely. Or, maybe you've read an article or a study that examined some controversial policy, like capital punishment. And, as researchers have demonstrated, if you support capital punishment and the study shows that it's not effective, then you're highly motivated to find all the reasons why the study was poorly designed. But if it shows that capital punishment works, it's a good study. And vice versa: if you don't support capital punishment, same thing.

Our judgment is strongly influenced, unconsciously, by which side we want to win. And this is ubiquitous. This shapes how we think about our health, our relationships, how we decide how to vote, what we consider fair or ethical. What's most scary to me about motivated reasoning or soldier mindset, is how unconscious it is. We can think we're being objective and fair-minded and still wind up ruining the life of an innocent man.

However, fortunately for Dreyfus, his story is not over. This is Colonel Picquart. He's another high-ranking officer in the French Army, and like most people, he assumed Dreyfus was guilty. Also like most people in the army, he was at least casually anti-Semitic. But at a certain point, Picquart began to suspect: "What if we're all wrong about Dreyfus?" What happened was, he had discovered evidence that the spying for Germany had continued, even after Dreyfus was in prison. And he had also discovered that another officer in the army had handwriting that perfectly matched the memo, much closer than Dreyfus's handwriting. So he brought these discoveries to his superiors, but to his dismay, they either didn't care or came up with elaborate rationalizations to explain his findings, like, "Well, all you've really shown, Picquart, is that there's another spy who learned how to mimic Dreyfus's handwriting, and he picked up the torch of spying after Dreyfus left. But Dreyfus is still guilty." Eventually, Picquart managed to get Dreyfus exonerated. But it took him 10 years, and for part of that time, he himself was in prison for the crime of disloyalty to the army.

A lot of people feel like Picquart can't really be the hero of this story because he was an anti-Semite and that's bad, which I agree with. But personally, for me, the fact that Picquart was anti-Semitic actually makes his actions more admirable, because he had the same prejudices, the same reasons to be biased as his fellow officers, but his motivation to find the truth and uphold it trumped all of that.

So to me, Picquart is a poster child for what I call "scout mindset." It's the drive not to make one idea win or another lose, but just to see what's really there as honestly and accurately as you can, even if it's not pretty or convenient or pleasant. This mindset is what I'm personally passionate about. And I've spent the last few years examining and trying to figure out what causes scout mindset. Why are some people, sometimes at least, able to cut through their own prejudices and biases and motivations and just try to see the facts and the evidence as objectively as they can?

And the answer is emotional. So, just as soldier mindset is rooted in emotions like defensiveness or tribalism, scout mindset is, too. It's just rooted in different emotions. For example, scouts are curious. They're more likely to say they feel pleasure when they learn new information or an itch to solve a puzzle. They're more likely to feel intrigued when they encounter something that contradicts their expectations. Scouts also have different values. They're more likely to say they think it's virtuous to test your own beliefs, and they're less likely to say that someone who changes his mind seems weak. And above all, scouts are grounded, which means their self-worth as a person isn't tied to how right or wrong they are about any particular topic. So they can believe that capital punishment works. If studies come out showing that it doesn't, they can say, "Huh. Looks like I might be wrong. Doesn't mean I'm bad or stupid."

This cluster of traits is what researchers have found -- and I've also found anecdotally -- predicts good judgment. And the key takeaway I want to leave you with about those traits is that they're primarily not about how smart you are or about how much you know. In fact, they don't correlate very much with IQ at all. They're about how you feel. There's a quote that I keep coming back to, by Saint-Exupery. He's the author of "The Little Prince." He said, "If you want to build a ship, don't drum up your men to collect wood and give orders and distribute the work. Instead, teach them to yearn for the vast and endless sea."

In other words, I claim, if we really want to improve our judgment as individuals and as societies, what we need most is not more instruction in logic or rhetoric or probability or economics, even though those things are quite valuable. But what we most need to use those principles well is scout mindset. We need to change the way we feel. We need to learn how to feel proud instead of ashamed when we notice we might have been wrong about something. We need to learn how to feel intrigued instead of defensive when we encounter some information that contradicts our beliefs.

So the question I want to leave you with is: What do you most yearn for? Do you yearn to defend your own beliefs? Or do you yearn to see the world as clearly as you possibly can?

Thank you.

(Applause)

自分が 激戦の地にいる 兵士だと想像してください ローマの歩兵でも 中世の射手でも ズールー族の戦士でもいいです 時代や場所の違いはあっても 変わらないものがあります アドレナリンが増加し 自分や仲間を守り 敵を倒すという必要に基づく 深く染みついた 反射的なものに従って 行動をします

今度はずっと違った役割の 「斥候」になったところを 想像してみましょう 斥候の仕事は 攻撃や防御を することではありません 斥候は理解するのが仕事です 斥候は出かけていって 地勢を把握し 潜在的な障害を識別します そして 川を渡るのに 好都合なところにある 橋を見つける といった目的を持ちます 斥候は 何よりも そこに何があるのか 可能な限り正確に 知りたいと思います 軍隊にとっては 兵士も斥候も 欠かせない存在ですが この2つをマインドセットのタイプとして とらえることもできます 日常において 私たちが情報やアイデアを どう処理するかの メタファーとしてです 今日私が主張したいのは 良い判断 正確な予測 優れた決断が出来るかどうかは どちらの考え方をしているかによるところが 大きいということです

この2つのマインドセットの 違いを見るために 19世紀フランスの出来事を 取り上げましょう この一見何でもない紙切れが 歴史上の大のスキャンダルを 引き起こすことになりました フランス軍参謀部の将校が 1894年に発見しました 破って屑籠に 捨てられていましたが 繋ぎ合わせてみたところ 軍の機密をドイツ側に 流している者が 仲間の中にいると 分かりました

大々的な捜査が行われ 嫌疑は速やかに この人物 アルフレド・ドレフュスに 向けられました 立派な経歴で 過去に犯罪歴はなく スパイをする動機は見当たりませんでした しかしドレフュスは軍の参謀部で 唯一のユダヤ人将校でした あいにくと当時のフランス軍には 強い反ユダヤの傾向がありました ドレフュスの筆跡が 件のメモと照合され 一致するとの判断が 下されました 外部の筆跡鑑定家によると 一致は不確かでしたが そんなのは問題じゃありません スパイ行為の証拠を探して ドレフュスの部屋を捜査し 書類を調べ上げましたが 何も出てきませんでした それで彼らは疑いを 一層深めただけでなく ずる賢いやつだという 見方をしました 何しろ見つかる前にすべての証拠を 隠しおおせたのですから

それから彼らは 罪を裏付けるものがないか 彼の生い立ちも調べました 昔の教師にあたって 彼が外国語を学んでいたことを 知りました 後に外国政府と 陰謀を企てようとしていたことを 明白に示しています 教師はまた ドレフュスが優れた記憶力の 持ち主として知られていたことも話しました まったくもって疑わしいですよね? スパイともなれば多くのことを 記憶する必要がありますから

事件は裁判に付され ドレフュスは有罪になりました 彼らはドレフュスを 広場に引き立てていくと 儀式的に彼の記章を 制服からはぎ取り 剣を真っ二つに折りました これは「ドレフュスの官位剥奪」と 呼ばれています そして南米の沿岸にある 「悪魔島」 という いかにもふさわしい名前の 不毛な島で 終身刑に処すとの 判決が下されました その島に送られたドレフュスは 日々を孤独に過ごし 無実を証明できるよう 再審を求める請願の手紙を フランス政府に 何度も書きました しかし政府側は この件はもう 決着がついたものと思っていました

私にとってドレフュス事件が 興味深いのは なぜ彼らがそうも ドレフュスの有罪を 確信していたのか ということです ドレフュスは意図的に はめられたのでは ― と思うかもしれませんが 歴史家によると そうではありません 私たちの知る限り 当時の役人たちはドレフュスの有罪は確かだと 純粋に信じていたんです 不思議に思いますよね そのような微々たる証拠で 有罪だと思い込む人間の心理とは 何なのでしょう?

これは科学者が「動機付けられた推論」と 呼んでいるものの例です 意識していない 動機や願望や恐怖が 情報の解釈に影響を及ぼす ― という現象です ある情報や考えに対して 私たちは味方のように感じ それを勝たせたい 守りたいと思います 別の情報や考えに対しては 敵のように感じ 叩き潰したいと思います だから私はこの動機付けられた推論を 「兵士のマインドセット」と呼んでいます

皆さんの中に ユダヤ系フランス人将校を 大逆罪で告発した経験のある人は あまりいないと思いますが スポーツや政治ならよく見ていて 思い当たるかもしれません たとえば審判が 自分の贔屓チームの反則を取るとき それを誤審と見なしたい 強い動機があります 一方で 相手チームの反則を 取るときには 「いいぞ! 良い判定だ これ以上確認する必要なんてない」と思います あるいは死刑制度のような 議論の多い政策に関する 研究について読んだとき 自分が死刑制度を 支持しているところに 「死刑は効果的ではない」と その研究が示していたなら どうにか難点を 見つけたいという 欲求を感じます でも死刑は有効という結論なら いい研究だとすぐに納得します 逆もしかり 死刑反対の人もまた 同様の反応をします

私たちの判断は 無意識のうちに どちらに勝って欲しいかに 強く影響されているんです これは至る所で 見られるもので 私たちの様々な考えが そうやって形作られています 健康 人間関係 誰に投票するか 何が公正で 何が倫理的か この「動機付けられた推論」 ないしは「兵士のマインドセット」が怖いのは それが無意識だということです 自分では客観的で 公平だと思いながら 無実の人の人生を 台無しにしかねないのです

ドレフュスには幸いなことに 歴史はここで終わりません これはピカール大佐 フランス軍の高級将校で 他の人たちと同じように 彼もドレフュスは有罪だと思っていました また他の軍人の多くと同様 彼もユダヤ嫌いでした それでもピカールは 疑いを持ち始めます 「もしかしてドレフュスは 冤罪なのでは?」 ドレフュスが収監された後も ドイツ側へ情報が流出している 証拠が見つかりました また軍にいる別の将校の筆跡が 件のメモと完璧に一致し ドレフュスのものよりずっと 似ていることも分かりました 彼はこの発見を 上官に報告しましたが 落胆したことには 彼らは無関心か 手の込んだ説明を するばかりでした 「それはドレフュスの筆跡を真似た 別のスパイが現れて スパイ活動を引き継いだ というだけで ドレフュスが有罪なことに 変わりはない」 最終的には ピカールは ドレフュスの潔白を証明できましたが それには十年もかかり その間にはピカール自身が 軍への不忠ということで 投獄までされています

多くの人はこの件でピカールを 英雄視はできないと感じます 反ユダヤというのはいただけません それはその通りです しかし個人的には 彼が反ユダヤだったことが 彼の行為をいっそう 賞賛に値するものにしていると感じます 他の将校たち同様に偏見があり 先入観に捕らわれる 要素がありながら 真実を見つけ堅持しようという思いが すべてに打ち勝ったのです

「斥候のマインドセット」と 私が呼んでいるものを ピカールはよく体現しています どちらのアイデアを勝たせよう というのではなく 本当の姿を可能な限り 正確に素直に見ようとする ― それが都合が良く快適で きれいなものではなかったとしても これは私が強く興味を惹かれている マインドセットで いったい何が斥候のマインドセットを 生み出しているのか この何年か 見極めようとしてきました どうしてある人たちは いつもではないにせよ 自らの偏見やバイアスや 動機をうち破って あたう限り客観的に 事実や証拠を 見ることができるのか?

答えは感情にあります 兵士のマインドセットが 防衛本能や部族意識のような感情に 根源を持つのと同様に 斥候のマインドセットもまた 別のある感情に 根ざしています 斥候というのは 好奇心が強く 新しいことを知る喜びや パズルを解きたいという欲求が 勝っている傾向があります 何か予想に反するものに直面すると 興味を惹かれるのです 斥候はまた違った 価値観を持っています 自分の思いこみが正しいのか 試すのは良いことであり 考えを変えることを 弱さとは思っていません そして何より斥候は 自分がしっかりしています 自分の人間としての価値を 何か特定の事柄で 正しいか間違っているかと 結びつけて考えません そのため 死刑は 有効だと思っていたけど そうでないことを研究が 示していたとしたら 「どうも自分の考えは間違っていたようだけど だから自分が馬鹿ってわけじゃない」と考えます

このような一連の性質が 良い決断をもたらすことを 研究者が見出し 私自身も経験的に気付きました 皆さんに覚えておいて欲しいのは この性質は基本的には 頭の良さや知識の多さとは 関係しないということです 実際 IQとは さほど相関していません どう感じるかが問題なんです たえず私が立ち戻ってくる サン=テグジュペリの言葉があります あの『星の王子さま』を書いた人です 「船を造りたいなら 木を集め 手分けして仕事するよう 部下に命じるのではなく 広大で果てしない海への憧れの気持ちを 引き出してやることだ」

言い換えると 個人として社会として 自分たちの判断力を 本当に良くしたいと思うなら 最も必要になるのは 論理やレトリックや 確率や経済などの知識では ないということです それはそれで貴重なもので あるにしても そういった原理を使いこなせるために 最も大切なのが 斥候のマインドセットなんです 自分の感じ方を 変える必要があります 自分の間違いに気付いたとき 恥ずかしく思うのでなく 誇りに思うすべを 学ぶ必要があります 自分の考えと相反する情報に出会ったとき 防御的になるのでなく それを面白いと思うすべを 学ぶ必要があります

皆さんに問うて欲しいのは 「自分がもっとも憧れるのは何か?」ということです それは自分の信念を守ることなのか それとも世界を可能な限り 明快に見通すことなのか?

ありがとうございました

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画