TED日本語 - ロビン・ハンソン: 脳をコンピューターにアップロードしたらどうなる?


TED Talks(英語 日本語字幕付き動画)

TED日本語 - ロビン・ハンソン: 脳をコンピューターにアップロードしたらどうなる?

TED Talks


What would happen if we upload our brains to computers?


Robin Hanson


「em」をご紹介します。人の脳をエミュレートし、思考し、感じ、コピーした元の脳とそっくりに機能するマシンです。フューチャリストであり社会科学者のロビン・ハンソンが語る未来の姿はこんなものです。超高速コンピューター上で機能する em が世界経済を肩代わりするようになり、マルチタスクをするために自らをコピーし、人間に残された唯一の選択肢はリタイアすることだけ。ハンソンの描き出す奇妙な未来をご覧ください。ロボットが地球を治めたらどんなことが起きるでしょうか。


Someday, we may have robots as smart as people, artificial intelligence, AI. How could that happen? One route is that we'll just keep accumulating better software, like we've been doing for 70 years. At past rates of progress, that may take centuries. Some say it'll happen a lot faster as we discover grand new powerful theories of intelligence. I'm skeptical.

But a third scenario is what I'm going to talk about today. The idea is to port the software from the human brain. To do this, we're going to need three technologies to be good enough, and none of them are there yet. First, we're going to need lots of cheap, fast, parallel computers. Second, we're going to need to scan individual human brains in fine spatial and chemical detail, to see exactly what cells are where, connected to what, of what type. And third, we're going to need computer models of how each kind of brain cell works -- taking input signals, changing interval state and sending output signals. If we have good enough models of all the kinds of brain cells and a good enough model of the brain, we can put it together to make a good enough model of an entire brain, and that model would have the same input-output behavior as the original. So if you talk to it, it might talk back. If you ask it to do things, it might do them. And if we could do that, everything would change.

People have been talking about this idea for decades, under the name of "uploads." I'm going to call them "ems." When they talk about it, they say, "Is this even possible? If you made one, would it be conscious? Or is it just an empty machine? If you made one of me, is that me or someone else?" These are all fascinating questions that I'm going to ignore ...


because I see a neglected question: What would actually happen? I became obsessed with this question. I spent four years trying to analyze it, using standard academic tools, to guess what would happen, and I'm here to tell you what I found. But be warned -- I'm not offering inspiration, I'm offering analysis. I see my job as telling you what's most likely to happen if we did the least to avoid it. If you aren't at least a bit disturbed by something I tell you here, you're just not paying attention.


OK, the first thing I can tell you is that ems spend most of their life in virtual reality. This is what you might look like if you were using virtual reality. And this is what you might see: sunlight glinting off of water, you might hear gulls flying above, you might even feel the wind on your cheeks or smell seawater, with advanced hardware. Now, if you were to spend a lot of time here, you might want a dashboard where you could do things like make a phone call, move to a new virtual world, check your bank account.

Now, while this is what you would look like in virtual reality, this is what an em would look like in virtual reality. It's computer hardware sitting in a server rack somewhere. But still, it could see and experience the same thing. But some things are different for ems. First, while you'll probably always notice that virtual reality isn't entirely real, to an em, it can feel as real to them as this room feels to you now or as anything ever feels. And ems also have some more action possibilities.

For example, your mind just always runs at the same speed, but an em can add more or less computer hardware to run faster or slower, and therefore, if the world around them seems to be going too fast, they can just speed up their mind, and the world around them would seem to slow down.

In addition, an em can make a copy of itself at that moment. This copy would remember everything the same, and if it starts out with the same speed, looking at the same speed, it might even need to be told, "You are the copy." And em could make archive copies, and with enough archives, an em can be immortal -- in principle, though not usually in practice. And an em can move its brain, the computer that represents its brain, from one physical location to another. Ems can actually move around the world at the speed of light, and by moving to a new location, they can interact more quickly with ems near that new location.

So far, I've been talking about what ems can do. What do ems choose to do? To understand that, we'll need to understand three key facts. First, ems by definition do what the human they emulate would do in the same situation. So their lives and behavior are very human. They're mainly different because they're living in a different world. Second, ems need real resources to survive. You need food and shelter or you'll die. Also, ems need computer hardware, energy, cooling, or they can't exist. For every subjective minute that an em experiences, someone, usually that em, had to work to pay for it. Third, ems are poor.


The em population can grow quicker than the em economy, so that means wages fall down to em subsistence levels. That means ems have to be working most of the time. So that means this is what ems usually see: beautiful and luxurious, but desks -- they're working most of the time. Now, a subsistence wage scenario, you might think, is exotic and strange, but it's actually the usual case in human history, and it's how pretty much all wild animals have ever lived, so we know what humans do in this situation. Humans basically do what it takes to survive, and this is what lets me say so much about the em world. When creatures are rich, like you, you have to know a lot about what they want to figure out what they do. When creatures are poor, you know that they mostly do what it takes to survive.

So we've been talking about the em world from the point of view of the ems -- now, let's step back and look at their whole world. First, the em world grows much faster than ours, roughly a hundred times faster. So the amount of change we would experience in a century or two, they would experience in a year or two. And I'm not really willing to project this age much beyond that, because plausibly by then something else will happen, I don't know what. Second, the typical emulation runs even faster, roughly a thousand times human speed. So for them, they experience thousands of years in this year or two, and for them, the world around them is actually changing more slowly than your world seems to change for you. Third, ems are crammed together in a small number of very dense cities. This is not only how they see themselves in virtual reality, it's also how they actually are physically crammed together. So at em speeds, physical travel feels really painfully slow, so most em cities are self-sufficient, most war is cyber war, and most of the rest of the earth away from the em cities is left to the humans, because the ems really aren't that interested in it.

Speaking of humans, you were wanting to hear about that. Humans must retire, at once, for good. They just can't compete. Now, humans start out owning all of the capital in this world. The economy grows very fast, their wealth grows very fast. Humans get rich, collectively. As you may know, most humans today don't actually own that much besides their ability to work, so between now and then, they need to acquire sufficient assets, insurance or sharing arrangements, or they may starve. I highly recommend avoiding this outcome.


Now, you might wonder, why would ems let humans exist? Why not kill them, take their stuff? But notice we have many unproductive retirees around us today, and we don't kill them and take their stuff.


In part, that's because it would disrupt the institutions we share with them. Other groups would wonder who's next, so plausibly, ems may well let humans retire in peace during the age of em. You should worry more that the age of em only lasts a year or two and you don't know what happens next.

Ems are very much like humans, but they are not like the typical human. The typical em is a copy of the few hundred most productive humans. So in fact, they are as elite, compared to the typical human, as the typical billionaire, Nobel Prize winner, Olympic gold medalist, head of state. Ems look on humans perhaps with nostalgia and gratitude, but not so much respect, which is, if you think about it, how you think about your ancestors. We know many things about how humans differ in terms of productivity. We can just use those to predict features of ems -- for example, they tend to be smart, conscientious, hard-working, married, religious, middle-aged. These are features of ems.

Em world also contains enormous variety. Not only does it continue on with most of the kinds of variety that humans do, including variety of industry and profession, they also have many new kinds of variety, and one of the most important is mind speed. Ems can plausibly go from human speed up to a million times faster than human speed, and down to a billion times slower than human speed. Faster ems tend to have markers of high status. They embody more wealth. They win arguments. They sit at premium locations. Slower ems are mostly retirees, and they are like the ghosts of our literature. If you recall, ghosts are all around us -- you can interact with them if you pay the price. But they don't know much, they can't influence much, and they're obsessed with the past, so what's the point?


Ems also have more variety in the structure of their lives. This is your life: you start and you end, really simple. This is the life of an em, who every day splits off some short-term copies to do short-term tasks and then end. We'll talk more about those short term versions in a moment, but they are much more efficient because they don't have to rest for the next day. This em is more opportunistic. They make more copies of themselves when there's more demand for that. They don't know which way the future's going.

This is an em designer, who conceives of a large system and then breaks recursively into copies who elaborate that, so ems can implement larger, more coherent designs. This an emulation plumber who remembers that every day, for the last 20 years, they only ever worked two hours a day, a life of leisure. But what really happened is, every day they had a thousand copies, each of whom did a two-hour plumbing job, and only one of them went on to the next day. Objectively, they're working well over 99 percent of the time. Subjectively, they remember a life of leisure.


This, again, is you. You start and you end. This could be you if at the start of party, you took a drug that meant you would not remember that party ever after that day. Some people do this, I'm told. Toward the end of the party, will you say to yourself, "I'm about to die, this is terrible. That person tomorrow isn't me, because they won't remember what I do." Or you could say, "I will go on tomorrow. I just won't remember what I did." This is an em who splits off a short-term copy to do a short-term task and then end. They have the same two attitude possibilities. They can say, "I'm a new short-term creature with a short life. I hate this." Or "I'm a part of a larger creature who won't remember this part." I predict they'll have that second attitude, not because it's philosophically correct, but because it helps them get along.

Today, if the president says we must invade Iraq, and you say, "Why?" and they say, "State secret," you're not sure if you can trust them, but for ems, a copy of the president and a copy of you can go inside a safe, explain all their secret reasons, and then one bit comes out from your copy to yourself, telling you if you were convinced. So now you can know there is a good reason.

I know you guys are all eager to evaluate this world. You're eager to decide if you love it or hate it. But think: your ancestors from thousands of years ago would have loved or hated your world based on the first few things they heard about it, because your world is really just weird. So before judging a strange future world, you should really learn a lot about it, maybe read a whole book about it, and then, if you don't like it, work to change it.

Thank you.


いつかロボット達は人間のような 知性を持つようになるかも知れません 人工知能、AIです どうやって? ひとつには 過去70年やってきたように より優れたソフトウェアを 蓄積したりすることでしょう 今までの進化の速度だと それまでに数世紀かかるでしょう 私たちが新しい強力な 知性の論理を見つけたら もっと早く実現するだろう という人もいます 私は信じていませんが

しかし3つめのシナリオを 今日はお話しします 人間の脳からソフトウェアを 移植するというアイデアですが そのためには3つの技術の成熟が必要ですが そのうちのどれも実現していません まず 多くの安価で高速な 並列計算機(コンピューター)が必要です 2つ目には個人の脳を 空間的、化学的組成の詳細まで スキャンする必要があります どの細胞がどこにあり どんな種類の 何と繋がっているかまでを理解する為です 3つ目はそれぞれの脳細胞が どのように働くのかを コンピューターモデルで表すことです 入力シグナルを受け取って インターバル状態を変えて 出力シグナルを送ります もしあらゆる脳細胞と脳の 十分に良いモデルがあれば それらを統合して 脳全体の十分に良いモデルができ そのモデルが オリジナルの脳と同じ 入出力活動をするでしょう それに話しかけると 答えを返してくれるかもしれません 何かを指示すると それを遂行するかも もしそうなれば すべてが変わります

人々はこのアイデアを 「アップロード」と呼び 何十年も議論して来ました それを「em」と呼びましょう 人々はこう言います 「そんなこと 本当に可能なのか? もし実現したら それに意識はある? それともそれは空っぽのマシン? 自分がemになったら それは別人の人格になる?」 こうした興味をそそる質問は 全部無視して話しますが ―


こう問うのを忘れています 「具体的に何が起こるんだろう?」 私はこの問いに夢中になりました 4年このことを考えて来て 標準的な学術的ツールを用いて 何が起こるかの予測を試み そうして見出した結果をお話しします 言っておきますが ― 私はインスピレーションではなく 分析を共有します 私の仕事は それを避けようとしないと 何が一番起こりそうか 皆さんに伝えることだと思っています もしあなたが私の話に驚かなかったら 注意を払っていないということです


ではまず emは一生のほとんどを 仮想現実(VR)世界で過ごします みなさんが仮想現実を使っている姿は このようなものでしょう そしてこんなものが見えます 太陽光が水面に反射し 空にカモメの鳴き声 風を頬に感じ 潮の香りすらするかもしれません 最新式のハードウエアです ここで多くの時間を過ごすならば ダッシュボードが必要です 電話をかけたり 次の仮想世界に移動したり 銀行口座を確認したりします

みなさんは仮想現実世界ではこんな姿でしょう これは emの仮想現実世界での姿です どこかのサーバーラックにある コンピューターです でもみなさんと 同じものを見て体験できます ただ emにとっては違う点も いくつかあります まず みなさんは仮想現実が完全には 現実とは同じでは無いと分かっているでしょうが みなさんがこの部屋などに感じる現実感を em は感じているでしょう 更にemの活動にはもっと可能性があります

例えば皆さんの思考は いつも同じ速さで走りますが emはコンピューターハードウェアを 増減させて速くあるいは遅くでき それで周囲が自分より速すぎると感じたら スピードアップすれば 周囲の速度も落ちてくるように思うでしょう

加えてemはその時点での 自分を複製できるので このコピーは全てを同じく覚えているでしょう emが同じ処理速度で始動すると その処理速度から区別はつかず 「お前はコピーだ」と 言われないと自覚しないかも知れません emはアーカイブコピーを作ることもでき それが十分な数になると emは不滅になります 理論上です 実際にそうなることはないでしょう emはその脳を ― 脳として機能するコンピューターを 物理的に動かせます emは光の速度で世界を動き回れます そして新たな場所に移動し その地点付近のemとより速く会話できます

これまでemが出来ることについて 話してきました ではemは何をすることを選ぶでしょう? それを理解するために 3つの主な事実を理解する必要があります 同じ状況では emは手本である人間と同じ行動を 選ぶものです ですから彼らの生活や行動は とても人間らしく 彼らが人間と違うのは 人間とは違う世界に生きているためです 2点目 emは生存に 物理的な資源を必要とします 皆さんも生きるのには家屋や食糧が必要ですね emが生きるためにはハードウェアと エネルギー、冷却装置などが必要です emの主観における1分ごとに 通常そのem自身が その分を稼がなければなりません 3点目 emにはお金がありません


emの数はem経済の成長よりも速く増え これはemの最低生活可能レベルまで 賃金が下がることを意味し emはほぼ常に 働かなければならないことを意味します つまりemが通常見る風景は このようなものです 美しく豪華ですが 机しか無く ― 彼らはほとんどの時間 働いています 最低生活賃金シナリオは 珍しく奇妙なものに思えるかも知れませんが これは実は人類史に於いて普通のことで あらゆる野生生物も このシナリオで生きて来ました だから人間がこの状況下で どう行動するか分かります 人間は生き延びる為に生活します それがemの世界についても言えます みなさんのように豊かであれば それらの行動を予測するのに それらの欲求を 熟知する必要があります 生命体が貧しい存在であれば 大抵それらは 生き延びる為だけに行動しています

emの世界について emの視点から語ってきましたが 次は視点を変えて 彼らの世界全体を見てみましょう まず emの世界は 我々の世界よりも速く成長します およそ100倍の速さで 我々が1~2世紀の間に経験する変化を 彼らは1~2年で経験します その後を予測することは止めておきます きっと何かが起こり変化していくでしょうから 私には分かりません 次に典型的なエミュレーションは 人間の速度のおよそ1千倍速く走るため 数千年を1~2年で経験し 彼らにとって世界は 皆さんが感じるよりも もっとゆっくりと過ぎて行きます 3つ目にemは少数の とても混み合った都市に詰め込まれています これは彼らが仮想現実世界でも 実際でも 物理的に押し込められている姿です emの感覚では物理的な移動は 痛々しい程に遅く感じられるので ほとんどのemの都市は自給自足しています ほとんどの戦争はサイバー戦争になり emの都市から離れた場所が 人間達の居住地として残されるでしょう emはそこに大して興味を持ちません

人間といえば みなさんが聞きたがっていますが 人間は即刻永遠に 引退しなければならないでしょう emと競合することはできません 人間は この世界の 資本のすべてを手にしていましたが 経済が非常に速く成長し 彼らの富は非常に速く成長し 人間は 集団として 豊かになります ご存知かも知れませんが 殆どの人は 実際には仕事をする能力のほかに あまり何も持っていません 今からその時までに 彼らは十分な資産を取得し保険や資産共有の 取り決めをしなければならず さもなくば彼らは餓死します そんな結末を避けることを強くお勧めします


不思議に思うかも知れません emはなぜ人間を生かしておくの? 人間を殺して財産を奪うこともできるのに? でも人間も非生産的な退職者達を 殺して財産を奪ったりしないでしょう


ひとつにはそんなことをすれば emと私たちが共有する社会が崩壊するからです 他のグループは次は誰の番だと 訝しがるでしょうし emの時代に 人間は穏やかに退職させられるかも知れません それよりemの時代が1~2年しか 続かない事の方を心配するべきでしょう その次に何が起こるかは分かりません

emは人間によく似ていますが 典型的な人間とは違い 典型的な1つのemは 数百人の最も生産的な人間のようなものです ですからemは普通の人間からすると ― 億万長者やノーベル賞受賞者 ゴールドメダリストや 国家元首並みに優れています emはおそらく人間に対して 郷愁と感謝を感じるでしょうが 尊敬の念はそれほど感じないでしょう 考えてみると 私たちが先祖を思うようなものです 皆知っている通り人間の生産性は様々です これに基づいてemの機能を予測できます 例えば彼らは賢く、良心的で、勤勉で、結婚していて、信仰があり 中年だという傾向があります これらはemの特徴です

emの世界は莫大な多様性を内包しています emは人間達のように多様性と直面します 様々な産業や職業に加え 新たな種類の多様性も持ちます その最も重要なものの一つは マインド・スピードです emは人間の速度から 百万倍速くも 10億分の1に遅くもなれます より速いemはより高い地位に就き 富を持ち 議論に勝ち 絶好の場所に鎮座します より遅いemの多くは退職者達で 文学に登場する幽霊のような存在です 思い出してください 霊はそこら中にいて お金を出せば降霊だってできます でも彼らはあまり物事を知らず 影響力も無く 過去に囚われ ― 取るに足りません


emの生涯には多様な形態があります これはあなたの一生です 初めと終わりがある ― 単純です emの一生は 毎日短命なコピーを作り出し それらは短期的なタスクをして命を終えます この短命なemについて後ほど触れますが 彼らははるかに効率的です 次の日の為に休息する必要が無いので このemは隙あらば増殖し 需要次第で自身のコピーをたくさん作ります 彼らは未来がどうなるか知りもしません

これはemデザイナーで 大きなシステムを構想し 繰り返しコピーに分かれて行き emはより大規模で一貫性のある デザインを実現します これは配管工タイプです 過去20年間毎日2時間しか働かなかった 悠々生活の記憶を持っています 毎日1千のコピーを作り それぞれが2時間配管の仕事をして 1つだけが次の日まで生きます 客観的に見ると 彼らは99%以上の時間働いていますが 主観的には悠々生活を覚えています


またあなたの一生です 初めと終わりがあるります これはパーティーの始まりのあなたで パーティーが終われば すっかりその記憶を失うクスリを 飲みました そんなことをする人々がいるんだそうです パーティーの終わりに あなたは呟きます 「もう死ぬんだ こんなの酷い 明日はもう自分ではなくなる 誰も自分の事を覚えていないから」 それか こう言うでしょう「今日のことは 覚えていなくても明日もちゃんと生きるさ」 このemは短命のコピーを生み出し それは短期タスクを遂行し死にます 彼らには2種類の態度を取る可能性があります 「自分は短命な生命だ 最悪」 あるいは 「自分より大きな生命体の一部で それは記憶されないんだ」 彼らはおそらく後者でしょう それが哲学的に正しいからでは無く 彼らが共存する為に有効だからです

今日もし大統領がイラク侵略を提案すれば あなたは「何故?」と思うでしょう 返ってくる答えは「国家機密」 あなたは彼らを信じて良いか分かりませんが emなら大統領のemと あなたのemとが安全な部屋に入り 理由を全て説明します そしてあなたのコピーが 1ビットの情報を出し 自分が納得したかどうかを知らせます そうすれば正当な理由が あったことが分かります

皆さんはこの世界が気にいるかどうか 結論を出したくてウズウズしていますね わかります でも考えてみてください 何千年も前のあなたの祖先も 2~3を聞いて 今の世界の好き嫌いを即決したでしょう この世界が本当に奇妙に思えて ですから奇妙な未来世界を拒絶する前に それについてまずじっくり学んでください 本を丸一冊読むとか それでも気に入らなければ より良く変える努力をするんです



― もっと見る ―
― 折りたたむ ―


  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等