TED日本語 - エドワード・テナー: 意図せぬ結果

TED日本語

TED Talks(英語 日本語字幕付き動画)

TED日本語 - エドワード・テナー: 意図せぬ結果

TED Talks

意図せぬ結果
Unintended consequences
エドワード・テナー
Edward Tenner

内容

あらゆる新発明は、期待通りにせよ予期せぬ結果にせよ世界を変えます。歴史家のエドワード・テナーは、人間が発明をする能力と結果を見通す能力の間に存在するギャップが過小評価されている述べ、これを示す事例を紹介します。

Script

I didn't always love unintended consequences, but I've really learned to appreciate them. I've learned that they're really the essence of what makes for progress, even when they seem to be terrible. And I'd like to review just how unintended consequences play the part that they do.

Let's go to 40,000 years before the present, to the time of the cultural explosion, when music, art, technology, so many of the things that we're enjoying today, so many of the things that are being demonstrated at TED were born. And the anthropologist Randall White has made a very interesting observation: that if our ancestors 40,000 years ago had been able to see what they had done, they wouldn't have really understood it. They were responding to immediate concerns. They were making it possible for us to do what they do, and yet, they didn't really understand how they did it.

Now let's advance to 10,000 years before the present. And this is when it really gets interesting. What about the domestication of grains? What about the origins of agriculture? What would our ancestors 10,000 years ago have said if they really had technology assessment? And I could just imagine the committees reporting back to them on where agriculture was going to take humanity, at least in the next few hundred years. It was really bad news. First of all, worse nutrition, maybe shorter life spans. It was simply awful for women. The skeletal remains from that period have shown that they were grinding grain morning, noon and night. And politically, it was awful. It was the beginning of a much higher degree of inequality among people. If there had been rational technology assessment then, I think they very well might have said, "Let's call the whole thing off."

Even now, our choices are having unintended effects. Historically, for example, chopsticks -- according to one Japanese anthropologist who wrote a dissertation about it at the University of Michigan -- resulted in long-term changes in the dentition, in the teeth, of the Japanese public. And we are also changing our teeth right now. There is evidence that the human mouth and teeth are growing smaller all the time. That's not necessarily a bad unintended consequence. But I think from the point of view of a Neanderthal, there would have been a lot of disapproval of the wimpish choppers that we now have. So these things are kind of relative to where you or your ancestors happen to stand.

In the ancient world there was a lot of respect for unintended consequences, and there was a very healthy sense of caution, reflected in the Tree of Knowledge, in Pandora's Box, and especially in the myth of Prometheus that's been so important in recent metaphors about technology. And that's all very true. The physicians of the ancient world -- especially the Egyptians, who started medicine as we know it -- were very conscious of what they could and couldn't treat. And the translations of the surviving texts say, "This I will not treat. This I can not treat." They were very conscious. So were the followers of Hippocrates. The Hippocratic manuscripts also -- repeatedly, according to recent studies -- show how important it is not to do harm. More recently, Harvey Cushing, who really developed neurosurgery as we know it, who changed it from a field of medicine that had a majority of deaths resulting from surgery to one in which there was a hopeful outlook, he was very conscious that he was not always going to do the right thing. But he did his best, and he kept meticulous records that let him transform that branch of medicine.

Now if we look forward a bit to the 19th century, we find a new style of technology. What we find is, no longer simple tools, but systems. We find more and more complex arrangements of machines that make it harder and harder to diagnose what's going on. And the first people who saw that were the telegraphers of the mid-19th century, who were the original hackers. Thomas Edison would have been very, very comfortable in the atmosphere of a software firm today. And these hackers had a word for those mysterious bugs in telegraph systems that they called bugs. That was the origin of the word "bug." This consciousness, though, was a little slow to seep through the general population, even people who were very, very well informed.

Samuel Clemens, Mark Twain, was a big investor in the most complex machine of all times -- at least until 1918 -- registered with the U.S. Patent Office. That was the Paige typesetter. The Paige typesetter had 18,000 parts. The patent had 64 pages of text and 271 figures. It was such a beautiful machine because it did everything that a human being did in setting type -- including returning the type to its place, which was a very difficult thing. And Mark Twain, who knew all about typesetting, really was smitten by this machine. Unfortunately, he was smitten in more ways than one, because it made him bankrupt, and he had to tour the world speaking to recoup his money. And this was an important thing about 19th century technology, that all these relationships among parts could make the most brilliant idea fall apart, even when judged by the most expert people.

Now there is something else, though, in the early 20th century that made things even more complicated. And that was that safety technology itself could be a source of danger. The lesson of the Titanic, for a lot of the contemporaries, was that you must have enough lifeboats for everyone on the ship. And this was the result of the tragic loss of lives of people who could not get into them. However, there was another case, the Eastland, a ship that capsized in Chicago Harbor in 1915, and it killed 841 people -- that was 14 more than the passenger toll of the Titanic. The reason for it, in part, was the extra life boats that were added that made this already unstable ship even more unstable. And that again proves that when you're talking about unintended consequences, it's not that easy to know the right lessons to draw. It's really a question of the system, how the ship was loaded, the ballast and many other things.

So the 20th century, then, saw how much more complex reality was, but it also saw a positive side. It saw that invention could actually benefit from emergencies. It could benefit from tragedies. And my favorite example of that -- which is not really widely known as a technological miracle, but it may be one of the greatest of all times, was the scaling up of penicillin in the Second World War. Penicillin was discovered in 1928, but even by 1940, no commercially and medically useful quantities of it were being produced. A number of pharmaceutical companies were working on it. They were working on it independently, and they weren't getting anywhere. And the Government Research Bureau brought representatives together and told them that this is something that has to be done. And not only did they do it, but within two years, they scaled up penicillin from preparation in one-liter flasks to 10, 000-gallon vats. That was how quickly penicillin was produced and became one of the greatest medical advances of all time. In the Second World War, too, the existence of solar radiation was demonstrated by studies of interference that was detected by the radar stations of Great Britain. So there were benefits in calamities -- benefits to pure science, as well as to applied science and medicine.

Now when we come to the period after the Second World War, unintended consequences get even more interesting. And my favorite example of that occurred beginning in 1976, when it was discovered that the bacteria causing Legionnaires disease had always been present in natural waters, but it was the precise temperature of the water in heating, ventilating and air conditioning systems that raised the right temperature for the maximum reproduction of Legionella bacillus. Well, technology to the rescue. So chemists got to work, and they developed a bactericide that became widely used in those systems.

But something else happened in the early 1980s, and that was that there was a mysterious epidemic of failures of tape drives all over the United States. And IBM, which made them, just didn't know what to do. They commissioned a group of their best scientists to investigate, and what they found was that all these tape drives were located near ventilation ducts. What happened was the bactericide was formulated with minute traces of tin. And these tin particles were deposited on the tape heads and were crashing the tape heads. So they reformulated the bactericide. But what's interesting to me is that this was the first case of a mechanical device suffering, at least indirectly, from a human disease. So it shows that we're really all in this together.

(Laughter)

In fact, it also shows something interesting, that although our capabilities and technology have been expanding geometrically, unfortunately, our ability to model their long-term behavior, which has also been increasing, has been increasing only arithmetically. So one of the characteristic problems of our time is how to close this gap between capabilities and foresight. One other very positive consequence of 20th century technology, though, was the way in which other kinds of calamities could lead to positive advances. There are two historians of business at the University of Maryland, Brent Goldfarb and David Kirsch, who have done some extremely interesting work, much of it still unpublished, on the history of major innovations. They have combined the list of major innovations, and they've discovered that the greatest number, the greatest decade, for fundamental innovations, as reflected in all of the lists that others have made -- a number of lists that they have merged -- was the Great Depression.

And nobody knows just why this was so, but one story can reflect something of it. It was the origin of the Xerox copier, which celebrated its 50th anniversary last year. And Chester Carlson, the inventor, was a patent attorney. He really was not intending to work in patent research, but he couldn't really find an alternative technical job. So this was the best job he could get. He was upset by the low quality and high cost of existing patent reproductions, and so he started to develop a system of dry photocopying, which he patented in the late 1930s -- and which became the first dry photocopier that was commercially practical in 1960. So we see that sometimes, as a result of these dislocations, as a result of people leaving their original intended career and going into something else where their creativity could make a difference, that depressions and all kinds of other unfortunate events can have a paradoxically stimulating effect on creativity.

What does this mean? It means, I think, that we're living in a time of unexpected possibilities. Think of the financial world, for example. The mentor of Warren Buffett, Benjamin Graham, developed his system of value investing as a result of his own losses in the 1929 crash. And he published that book in the early 1930s, and the book still exists in further editions and is still a fundamental textbook. So many important creative things can happen when people learn from disasters.

Now think of the large and small plagues that we have now -- bed bugs, killer bees, spam -- and it's very possible that the solutions to those will really extend well beyond the immediate question. If we think, for example, of Louis Pasteur, who in the 1860s was asked to study the diseases of silk worms for the silk industry, and his discoveries were really the beginning of the germ theory of disease. So very often, some kind of disaster -- sometimes the consequence, for example, of over-cultivation of silk worms, which was a problem in Europe at the time -- can be the key to something much bigger.

So this means that we need to take a different view of unintended consequences. We need to take a really positive view. We need to see what they can do for us. We need to learn from those figures that I mentioned. We need to learn, for example, from Dr. Cushing, who killed patients in the course of his early operations. He had to have some errors. He had to have some mistakes. And he learned meticulously from his mistakes. And as a result, when we say, "This isn't brain surgery," that pays tribute to how difficult it was for anyone to learn from their mistakes in a field of medicine that was considered so discouraging in its prospects. And we can also remember how the pharmaceutical companies were willing to pool their knowledge, to share their knowledge, in the face of an emergency, which they hadn't really been for years and years. They might have been able to do it earlier.

The message, then, for me, about unintended consequences is chaos happens; let's make better use of it.

Thank you very much.

(Applause)

私は 常に意図せぬ結果を望んではいませんが その価値は認めようとしています 一見ひどい結果に見えたとしても 進歩のための本質であることが 判ってきたからです それでは 意図せぬ結果が 果たす役割を見ていきましょう

4万年前の過去まで遡ってみましょう 文明が劇的に発展して そして 音楽や美術 テクノロジー 現代では当たり前になったものー こうしてTEDに登場する多くのものが 誕生する時期です 人類学者のランダル・ホワイト氏は おもしろい見解を述べています もし 4万年前の 我々の祖先に 彼らが今に遺した物を 見せたとしても 全く理解できないでしょう 祖先たちは目先の問題を 片付けていただけなのです 彼らがしていたことは 現代にまで伝わっているのですが でもどうしてここに至ったのか 理解できないでしょう

さて 1万年前に時間を進めましょう ここからもっと面白くなります 穀物の栽培を取り上げます 農業の起源はどうだったのか 当時の我々の祖先が 技術アセスメントをしたら どんな結果を出したでしょうか 委員会から提出される 報告書には 今後 数百年間の人類の未来に農業が 及ぼす影響がまとめられています 評価は低かったでしょう まず栄養状態が悪化して 寿命が短くなります 女性は厳しい目に遭います 遺された骨を調べたところ 朝昼晩と穀物を挽いていたことが判りました 政治的にも厄介でした 人々の間の格差が 大幅に開き始めました もし合理的な技術アセスメントをしたら 諦めるべきだという結論に なっても不思議ではありません

今でも 我々の選択には意図せぬ効果が伴います 歴史的な例として 箸について 日本人の人類学研究者が ミシガン大学の 博士論文にまとめました 箸は長期的には 日本人の歯並びに 影響を及ぼしました 人類の歯は今も変化を続けています その証拠に 我々の口と歯は 小さくなり続けています 意図せぬ悪い結果というわけではありませんが ただ ネアンデルタール人から見ると 現代の噛み切る力の弱い歯は いただけないでしょう 祖先と我々とで 立場の違いによって 見方が異なるのです

古代の人は 意図せぬ結果を重視していました とても健全な警戒感があったことは 善悪の知識の木の話からも パンドラの箱の話からもわかります またとりわけ 現代技術の 比喩として重要な プロメテウスの神話も同様です それが 真実なのです 太古の医師というのは 特に 今の医療の原型を 作り上げたエジプトでは 何が治療できて 何が治療できないのか よく把握していました 現存する資料の訳にこう書かれています 「治療しない 治療できない」 たいへん慎重でした ヒポクラテスの弟子も同様でした ヒポクラテスの集典にもありますが 危害を加えないことが強調されてます 最近の研究で明らかにされたことです それから もっと最近の話ですが ハーヴェイ・クッシング氏は 脳神経外科医学の先駆者です 医療の中でも 手術による死者が大半だった分野を 明るい見込みのある分野に改革しました 彼は 為すことが常にー 正しいわけではないことに留意していました しかし 彼は全力を尽くして きめ細かい記録を残すことによって この分野を大きく進展させることができたのです

近代 今度は19世紀を 見てみましょう 新しいテクノロジーの形態が導入されます この時代に登場するのは 単なる道具ではなく システムです ますます複雑な機械の 組み合わせが登場して 何が起こっているかの見極めは ますます難しくなりました そんなシステムに最初に触れたのは 19世紀半ばの電信技手です 彼らこそ ハッカーの元祖です トーマス・エジソンは 今日のソフトウェア会社に溶け込むでしょう 電報システムの奇妙なバグを ハッカーたちはこう呼びました 「バグ」 これがバグの語源です しかしこの認識が 広まるまでには時間がかかりました 知識層の間でも同様でした

サム・クレメンズすなわち マーク・トゥエインは 少なくとも1918年までに米国特許庁に 登録された最も複雑な機械に 多額の投資をしていました それがペイジの自動植字機でした ペイジ自動植字機は 1万8千点の部品から成り 特許書類には64ページの本文に加えて 271点の図面が記されていました 素晴らしい機械でした 組版において人がしていたことを全て 行える機械だったのです 活字を元の場所に戻すという 難問も解決していました 組版の全てを知り尽くしたトゥエインは この機械に魅せられたのです 不幸にも 深くはまり込み過ぎて本人は 破産に追い込まれました 彼が世界中で講演旅行を続けたのは そのとき投じたお金を取り戻すためでした 19世紀のテクノロジーで重要なことは どんなに専門家が 絶賛したアイデアでも 部品の間の様々な関係のせいで 見事に失敗する場合があったことです

20世紀初頭には 事態をさらに 複雑化する別の要因が加わります なんと安全技術そのものが 危険を招きかねないのです 当時の人たちがタイタニックの事故で学んだことは 乗客全員の分の救命ボートを 装備すべしということでした 救命ボートに乗れずに 失われた尊い命から 学んだことです ところが 別の事故が起きました イーストランド号が 1915年にシカゴ港で転覆しました 死者841人 タイタニックよりも 14人多い犠牲者を出しました この事故は部分的には 追加した予備の救命ボートが理由で もともと不安定だった船は さらに不安定になったのでした この話もまた 意図せぬ結果から 正しい教訓を引き出すのが 容易ではないことを示します これはシステムの問題や 荷物の詰み方 バラストなど多くが関わります

こうして20世紀には 現実がいかに複雑かを 思い知らされましたが ポジティブな側面も見られました 新しい発明が 緊急事態から生まれることや 不幸の中から 生まれることが見いだされました これを示す良い例があります 技術の奇跡としては あまり知られていませんが 歴史的に見ても著しい成果として 第2次世界大戦中にペニシリンが量産化されました ペニシリンは1928年に発見されました しかし 1940年になっても 商業的にも医学的にも実用的な量は 生産できませんでした いくつもの製薬会社が取り組んでいましたが ばらばらの取り組みでは 意味のある結果は得られませんでした そこで 政府調査局は 製薬会社の代表者を集め これを何とかしよう と訴えました その結果 2年も経たないうちに ペニシリンの量産化に成功したのです 当初の1リットルのフラスコから 1万ガロンタンクの量産になりました これほど早くペニシリンが量産できるようになり 医学は飛躍的進歩を遂げました 同じく第2次世界大戦中に 太陽電波の存在が 明らかになりました イギリスのレーダー基地に生じた 障害の研究から判ったことです このように災厄には良い面もあって 基礎科学さえも進歩します 応用科学や 医学は言うまでもありません

時は 第2次世界大戦後 意図せぬ結果はさらにおもしろいことになります 非常に良い例は 1976年に端を発するものです この年にレジオネラ症を 引き起こす菌が発見されました この菌は 水中に普通に存在していますが 暖房や換気 エアコンの中に溜まった 水の温度が レジオネラ菌の繁殖に 最も適した温度になると 問題を起こすのです さあ 技術の出番です 科学者たちが殺菌剤を開発し 空調システムで広く 使われるようになりました

しかし 1980年代に別の問題が起こりました 不思議なことに 米国各地でテープドライブが 動かなくなったのでした 製造元のIBMは どうすればいいのか途方に暮れました 社内の優秀な科学者たちを 結集して調査にあたらせ 問題のテープドライブは全て 換気ダクトのすぐそばに 置かれていたことを突き止めました 実はこの殺菌剤には 少量のスズが含まれ そのスズ粒子がテープヘッドに 堆積して ヘッドを破壊したのです 殺菌剤の調合は変更されました 興味深いのは 間接的とはいえ 機械装置が初めて 人と同じ病原菌に 苦しめられた事例だという点です 機械も人と同じ目に遭ったのです

(笑)

また こんなおもしろいことがあります 我々の能力や技術は 幾何級数的に増加するのに その長期的な作用をモデル化する能力は 伸びてはいるものの 算術級数的な増加にすぎません そこで現代の特徴的な課題として いかにして能力と見通しの ギャップを埋めるかという課題があります 一方20世紀の技術の大変ポジティブな結果としてー また別の種類の災厄が 前向きの進歩につながってきた という面があります ビジネス歴史学の研究者2人が メリーランド大学で興味深い研究をしています ブレント・ゴールドファーブ氏とデービッド・キルシュ氏です 多くがまだ未発表ですが 歴史に残る著名な発明について 調べています 主要な発明のリストをまとめた結果 基礎的な発明が最も多い 最も重要な10年を見いだしました 他の研究者のリストも参照して 実にたくさんのリストから 導かれたのは大恐慌の時期です

その理由は誰にもわかっていませんが 次の逸話はそんな何かを反映したものでしょう それは ゼロックス・コピー機の起源です 発明から50周年を 昨年迎えました これを発明したチェスター・カールソン氏は 特許弁護士でした しかし 彼は特許調査の仕事を 望んだわけではありません 他にいい技術職が見つからなかったので たどりついた仕事がこれでした 彼は特許書類の複製の質の悪さと コストの高さが不満でした そこで乾式の複写印刷の開発を 開始しました 特許取得は 1930年代後半ですが ようやく商業的な実用化に 漕ぎ着けたのは 1960年でした このようにして 混乱の影響を受けて 当初目指した経歴を 断念した人が別の仕事に就いて 創造性や能力を発揮することが あるのです 恐慌などの不幸なできごとが 逆にかえって 創造性を高めることが 知られています

これは結局何を意味しているのか 私が思うに 我々は 予測困難な可能性の中で生きています 例えば経済界を見てみましょう ウォーレン・バフェットの師 ベンジャミン・グレアムは 1929 年の大恐慌のときの 自らの損失の痛手を教訓に バリュー投資という独自のシステムを 開発しました 30年代初頭に出版された その本は 今でも改訂版が 投資家の入門書となっています 災難から学び 創意工夫をなすことができます

現代の大小の 厄介ごと ベッドのノミや殺人蜂 スパムメール こんな課題に対する解決策が 目先の課題を遥かに越えるかもしれません 例えば ルイ・パスツール氏ですが 1860年代に 製糸業界のために蚕の病気を 研究するよう依頼されました 彼の発見は感染症の細菌学の 先駆けとなったのです 蚕の間の伝染病が 当時のヨーロッパでは問題となっていました しばしば ある種の災厄は それよりももっと大きな課題を 解く鍵となります

このことの意味は 意図せぬ結果について 新しい見方が必要だということです もっと前向きに捉えるべきであり 我々の役に立つだろうと捉えるべきです 紹介してきた人びとのことから 学ぶ必要があります 例えば クッシング博士から学ぶべきです 彼の手術も初期には患者の命を 奪ったこともあったでしょう 必要な失敗であり 必要な過ちでした 彼は間違いから慎重に学んだはずです 「脳手術をしているわけではない」という 言い回しが生まれたのは 失敗がとりわけ厳しく受け止められてしまう 医学の分野において 失敗から学ぶことがいかに難しいか ということに敬意を払ってのことです また 製薬会社が 緊急事態を目の当たりにして どのようにして知識を差し出し 知識を共有したかということも 覚えておいてください こんなことは前代未聞だったのです その気になればもっと早く出来たことでした

こうした意図せぬ結果に関して 私が学んだメッセージです 混沌は生じてしまうもの うまく活用しようではありませんか

ありがとうございました

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画