TED日本語 - ケヴィン・スラヴィン: アルゴリズムが形作る世界

TED日本語

プレゼンテーション動画

TED日本語 - ケヴィン・スラヴィン: アルゴリズムが形作る世界

TED Talks

アルゴリズムが形作る世界
How algorithms shape our world
ケヴィン・スラヴィン
Kevin Slavin

内容

ケヴィン・スラヴィンは、アルゴリズムのためにデザインされ、コンピュータプログラムによるコントロールが広がり続ける世界に我々は生きていると言います。TEDGlobalで行われたこの魅惑的な講演で、彼は複雑なコンピュータプログラムがいかに多くのことを決しているかを示しています。諜報戦略、株価、映画の脚本、建築デザイン。そして私たちがもはや読めもしなければ結果をコントロールすることもできないコードを書いていることに警鐘を鳴らしています。

Script

This is a photograph by the artist Michael Najjar, and it's real, in the sense that he went there to Argentina to take the photo. But it's also a fiction. There's a lot of work that went into it after that. And what he's done is he's actually reshaped, digitally, all of the contours of the mountains to follow the vicissitudes of the Dow Jones index. So what you see, that precipice, that high precipice with the valley, is the 2008 financial crisis. The photo was made when we were deep in the valley over there. I don't know where we are now. This is the Hang Seng index for Hong Kong. And similar topography. I wonder why.

And this is art. This is metaphor. But I think the point is that this is metaphor with teeth, and it's with those teeth that I want to propose today that we rethink a little bit about the role of contemporary math -- not just financial math, but math in general. That its transition from being something that we extract and derive from the world to something that actually starts to shape it -- the world around us and the world inside us. And it's specifically algorithms, which are basically the math that computers use to decide stuff. They acquire the sensibility of truth because they repeat over and over again, and they ossify and calcify, and they become real.

And I was thinking about this, of all places, on a transatlantic flight a couple of years ago, because I happened to be seated next to a Hungarian physicist about my age and we were talking about what life was like during the Cold War for physicists in Hungary. And I said, "So what were you doing?"

And he said, "Well we were mostly breaking stealth."

And I said, "That's a good job. That's interesting. How does that work?" And to understand that, you have to understand a little bit about how stealth works. And so -- this is an over-simplification -- but basically, it's not like you can just pass a radar signal right through 156 tons of steel in the sky. It's not just going to disappear. But if you can take this big, massive thing, and you could turn it into a million little things -- something like a flock of birds -- well then the radar that's looking for that has to be able to see every flock of birds in the sky. And if you're a radar, that's a really bad job.

And he said, "Yeah." He said, "But that's if you're a radar. So we didn't use a radar; we built a black box that was looking for electrical signals, electronic communication. And whenever we saw a flock of birds that had electronic communication, we thought, 'Probably has something to do with the Americans.'"

And I said, "Yeah. That's good. So you've effectively negated 60 years of aeronautic research. What's your act two? What do you do when you grow up?"

And he said, "Well, financial services." And I said, "Oh." Because those had been in the news lately. And I said, "How does that work?" And he said, "Well there's 2,000 physicists on Wall Street now, and I'm one of them." And I said, "What's the black box for Wall Street?" And he said, "It's funny you ask that, because it's actually called black box trading. And it's also sometimes called algo trading, algorithmic trading." And algorithmic trading evolved in part because institutional traders have the same problems that the United States Air Force had, which is that they're moving these positions -- whether it's Proctor & Gamble or Accenture, whatever -- they're moving a million shares of something through the market. And if they do that all at once, it's like playing poker and going all in right away. You just tip your hand. And so they have to find a way -- and they use algorithms to do this -- to break up that big thing into a million little transactions. And the magic and the horror of that is that the same math that you use to break up the big thing into a million little things can be used to find a million little things and sew them back together and figure out what's actually happening in the market.

So if you need to have some image of what's happening in the stock market right now, what you can picture is a bunch of algorithms that are basically programmed to hide, and a bunch of algorithms that are programmed to go find them and act. And all of that's great, and it's fine. And that's 70 percent of the United States stock market,70 percent of the operating system formerly known as your pension, your mortgage.

And what could go wrong? What could go wrong is that a year ago,nine percent of the entire market just disappears in five minutes, and they called it the Flash Crash of 2: 45. All of a sudden,nine percent just goes away, and nobody to this day can even agree on what happened because nobody ordered it, nobody asked for it. Nobody had any control over what was actually happening. All they had was just a monitor in front of them that had the numbers on it and just a red button that said, "Stop."

And that's the thing, is that we're writing things, we're writing these things that we can no longer read. And we've rendered something illegible, and we've lost the sense of what's actually happening in this world that we've made. And we're starting to make our way. There's a company in Boston called Nanex, and they use math and magic and I don't know what, and they reach into all the market data and they find, actually sometimes, some of these algorithms. And when they find them they pull them out and they pin them to the wall like butterflies. And they do what we've always done when confronted with huge amounts of data that we don't understand -- which is that they give them a name and a story. So this is one that they found, they called the Knife, the Carnival, the Boston Shuffler, Twilight.

And the gag is that, of course, these aren't just running through the market. You can find these kinds of things wherever you look, once you learn how to look for them. You can find it here: this book about flies that you may have been looking at on Amazon. You may have noticed it when its price started at 1.7 million dollars. It's out of print -- still ...

(Laughter) If you had bought it at 1.7, it would have been a bargain. A few hours later, it had gone up to 23.6 million dollars, plus shipping and handling. And the question is: Nobody was buying or selling anything; what was happening? And you see this behavior on Amazon as surely as you see it on Wall Street. And when you see this kind of behavior, what you see is the evidence of algorithms in conflict, algorithms locked in loops with each other, without any human oversight, without any adult supervision to say, "Actually,1.7 million is plenty." (Laughter)

And as with Amazon, so it is with Netflix. And so Netflix has gone through several different algorithms over the years. They started with Cinematch, and they've tried a bunch of others -- there's Dinosaur Planet; there's Gravity. They're using Pragmatic Chaos now. Pragmatic Chaos is, like all of Netflix algorithms, trying to do the same thing. It's trying to get a grasp on you, on the firmware inside the human skull, so that it can recommend what movie you might want to watch next -- which is a very, very difficult problem. But the difficulty of the problem and the fact that we don't really quite have it down, it doesn't take away from the effects Pragmatic Chaos has. Pragmatic Chaos, like all Netflix algorithms, determines, in the end,60 percent of what movies end up being rented. So one piece of code with one idea about you is responsible for 60 percent of those movies.

But what if you could rate those movies before they get made? Wouldn't that be handy? Well, a few data scientists from the U.K. are in Hollywood, and they have "story algorithms" -- a company called Epagogix. And you can run your script through there, and they can tell you, quantifiably, that that's a 30 million dollar movie or a 200 million dollar movie. And the thing is, is that this isn't Google. This isn't information. These aren't financial stats; this is culture. And what you see here, or what you don't really see normally, is that these are the physics of culture. And if these algorithms, like the algorithms on Wall Street, just crashed one day and went awry, how would we know? What would it look like?

And they're in your house. They're in your house. These are two algorithms competing for your living room. These are two different cleaning robots that have very different ideas about what clean means. And you can see it if you slow it down and attach lights to them, and they're sort of like secret architects in your bedroom. And the idea that architecture itself is somehow subject to algorithmic optimization is not far-fetched. It's super-real and it's happening around you.

You feel it most when you're in a sealed metal box, a new-style elevator; they're called destination-control elevators. These are the ones where you have to press what floor you're going to go to before you get in the elevator. And it uses what's called a bin-packing algorithm. So none of this mishegas of letting everybody go into whatever car they want. Everybody who wants to go to the 10th floor goes into car two, and everybody who wants to go to the third floor goes into car five. And the problem with that is that people freak out. People panic. And you see why. You see why. It's because the elevator is missing some important instrumentation, like the buttons. (Laughter) Like the things that people use. All it has is just the number that moves up or down and that red button that says, "Stop." And this is what we're designing for. We're designing for this machine dialect. And how far can you take that? How far can you take it? You can take it really, really far.

So let me take it back to Wall Street. Because the algorithms of Wall Street are dependent on one quality above all else, which is speed. And they operate on milliseconds and microseconds. And just to give you a sense of what microseconds are, it takes you 500,000 microseconds just to click a mouse. But if you're a Wall Street algorithm and you're five microseconds behind, you're a loser. So if you were an algorithm, you'd look for an architect like the one that I met in Frankfurt who was hollowing out a skyscraper -- throwing out all the furniture, all the infrastructure for human use, and just running steel on the floors to get ready for the stacks of servers to go in -- all so an algorithm could get close to the Internet.

And you think of the Internet as this kind of distributed system. And of course, it is, but it's distributed from places. In New York, this is where it's distributed from: the Carrier Hotel located on Hudson Street. And this is really where the wires come right up into the city. And the reality is that the further away you are from that, you're a few microseconds behind every time. These guys down on Wall Street, Marco Polo and Cherokee Nation, they're eight microseconds behind all these guys going into the empty buildings being hollowed out up around the Carrier Hotel. And that's going to keep happening. We're going to keep hollowing them out, because you, inch for inch and pound for pound and dollar for dollar, none of you could squeeze revenue out of that space like the Boston Shuffler could.

But if you zoom out, if you zoom out, you would see an 825-mile trench between New York City and Chicago that's been built over the last few years by a company called Spread Networks. This is a fiber optic cable that was laid between those two cities to just be able to traffic one signal 37 times faster than you can click a mouse -- just for these algorithms, just for the Carnival and the Knife. And when you think about this, that we're running through the United States with dynamite and rock saws so that an algorithm can close the deal three microseconds faster, all for a communications framework that no human will ever know, that's a kind of manifest destiny; and we'll always look for a new frontier.

Unfortunately, we have our work cut out for us. This is just theoretical. This is some mathematicians at MIT. And the truth is I don't really understand a lot of what they're talking about. It involves light cones and quantum entanglement, and I don't really understand any of that. But I can read this map, and what this map says is that, if you're trying to make money on the markets where the red dots are, that's where people are, where the cities are, you're going to have to put the servers where the blue dots are to do that most effectively. And the thing that you might have noticed about those blue dots is that a lot of them are in the middle of the ocean. So that's what we'll do: we'll build bubbles or something, or platforms. We'll actually part the water to pull money out of the air, because it's a bright future if you're an algorithm.

(Laughter)

And it's not the money that's so interesting actually. It's what the money motivates, that we're actually terraforming the Earth itself with this kind of algorithmic efficiency. And in that light, you go back and you look at Michael Najjar's photographs, and you realize that they're not metaphor, they're prophecy. They're prophecy for the kind of seismic, terrestrial effects of the math that we're making. And the landscape was always made by this sort of weird, uneasy collaboration between nature and man. But now there's this third co-evolutionary force: algorithms -- the Boston Shuffler, the Carnival. And we will have to understand those as nature, and in a way, they are.

Thank you.

(Applause)

この写真は マイケル・ナジャーによるものです 実際アルゼンチンに行って 撮ってきたという意味で 本物の写真ですが フィクションでもあります 後でいろいろ手が加えられているからです 何をしたかというと デジタル加工をして 山の稜線の形を ダウジョーンズのグラフにしたのです だからご覧いただいている 谷に落ち込んでいる絶壁は 2008年の金融危機です この写真は 私たちが 谷の深みにいたときに作られました 今はどこにいるのか分かりません こちらは香港の ハンセン指数です 似たような地形ですね どうしてなんでしょう?

これはアートであり メタファーです でも重要なのは これが牙のあるメタファーだということです その牙のために 今日はひとつ 現代数学の役割を 再考したいと思います 金融数学でなく もっと一般的な数学です ここにあるのは 世界から何かを ただ引き出していたものが 世界を形作り始めるようになる という変化です 私たちの周りの世界にせよ 私たちの中の世界にせよ 具体的に言うと それはアルゴリズムです アルゴリズムというのは コンピュータが判断をするときに使う ある種数学的なものです 繰り返しの中で アルゴリズムは 真実への感覚を備えるようになり そして骨化し 石灰化して 現実になるのです

このことを考えるようになったのは 2、3年前に大西洋を渡る飛行機の中で 私と同年代のハンガリー出身の 物理学者と隣り合わせ 言葉を交わした時でした 冷戦時代のハンガリーの物理学者たちが どんなものだったのか聞いてみました 「どんなことをしていたんでしょう?」

「もっぱらステルスを見破るということです」

「いい仕事ですね 面白そうです どういう仕組みなんですか?」 これを理解するためには ステルスの仕組みを知る必要があります ものすごく単純化して説明しますが 空中の156トンの鋼鉄の塊が 単にレーダーをくぐり抜けるというのは 基本的にできません 消すことはできないのです しかし巨大なものを 何百万という小さなものに 何か鳥の大群のようなものに 変えることはできます するとそれを見たレーダーは 鳥の群れだと 勘違いします この点でレーダーというのは あまり有能ではないのです

それで彼は言いました 「ええ でもそれはレーダーの話です だからレーダーは当てにしませんでした 電気的な信号 電子通信を見る ブラックボックスを作ったのです そして電子通信をしている鳥の群れを見たら これはアメリカ人がかんでいるなと考えたわけです」

私は言いました 「そりゃいい 60年の航空学研究を 打ち消していたわけですね それで第二幕は何ですか? その後はどんなことをしているんですか?」

彼は「金融業界です」 と答えました 「なるほど」 最近ニュースでよく耳にしていたからです 「どんな具合になっているんですか?」と聞くと 「ウォールストリートには物理学者が2千人います 私はその1人です」ということでした 「ウォールストリートのブラックボックスは何なんでしょう?」 「そう聞かれたのは面白いですね 実際それはブラックボックス・トレーディングと呼ばれているからです アルゴ・トレーディングとか アルゴリズム・トレーディングと言うこともあります」 アルゴリズム・トレーディングが発展したのは ある部分 金融機関のトレーダーたちが 米国空軍と同じ問題を抱えていたからです 動く点がたくさんあって P&Gであれ アクセンチュアであれ マーケットで百万という株を 動かしています それを全部同時にやるのは ポーカーですぐに全財産賭けるようなものです 手の内を明かすことになります だから彼らはその大きなものを ・・・アルゴリズムがここで出てくるのですが 百万という小さなトランザクションに 分割する必要があります そしてその魔術的で怖いところは 大きなものを 百万の小さなものへと 分割するのと同じ数学が 百万の小さなものを見つけてまとめ マーケットで実際何が起きているのか 見極めるためにも使えるということです

だから今株式市場で 何が起きているのかのイメージがほしいなら それは隠そうとするたくさんのプログラムと それを解き明かし 出し抜こうとする たくさんのプログラムのせめぎ合いということです これは大変結構なことです 米国株式市場の 70%がそうなのです 皆さんの年金とか ローンといったものの 70%がそうやって動いているのです

それで何か悪いことがあるのでしょうか? 一年前のことですが 株式市場全体の9%が 5分間で消えてなくなりました 「2時45分のフラッシュ・クラッシュ」と呼ばれています 9%が突如消えてなくなり 今日に至るまで誰も 本当のところ何が起きたのか分からないのです 誰が仕組んだことでもありません 誰かがコントロールしていたわけでもありません 彼らが持っていたのは 数字が表示されている モニタと 「停止」と書かれた 赤いボタンだけです

私たちがやっているのは もはや自分では読めないものを 書くということです 判読できないものを 書いているのです 自分たちの作った世界で 実際何が起きているのか 私たちは感覚を失っており それでも前に進み続けています ボストンにNanexという会社があって 数学や魔法や そのほかよく分からないものを使って あらゆるマーケットデータを見て そこから実際アルゴリズムを見つけ出しており そして彼らが見つけ出したときには 引っ張り出して 蝶のように標本にするのです 彼らがしているのは 私たちが理解していない巨大なデータに直面したときにすることです つまり 名前とストーリーを 与えるのです これは彼らが見つけたものの例です 「ナイフ」に 「カーニバル」に 「ボストンシャフラー」に 「トワイライト」

可笑しいのは もちろん そういったことはマーケットに限った話ではないということです そういった類のことは 一度見方を覚えると 至る所で目にするようになります たとえばこれ あるハエに関する本を Amazonで見ていると 値段が170万ドルだということに 気づくかもしれません 絶版になっています 今でも

(笑) 170万ドルで買っていたらお買い得でした 数時間後には2,360万ドルまで 上がったからです 送料別で 疑問は 誰も買いもしなければ 売りもしていなかったということです このAmazonで起きた現象は ウォールストリートで起きたのと同じ現象です そしてこのような挙動を見て分かるのは それがアルゴリズムの衝突から 生じたということです アルゴリズムが互いにループの中に捕らわれ 常識的な観点でそれを監視する 人間の目がなかったということです 「170万ドルはちと高くないか?」 (笑)

Amazonでのことは Netflixでも同じです Netflixはこれまでに何度となく アルゴリズムを変えてきました 最初は「シネマッチ」で その後たくさんのアルゴリズムを試しています 「ダイナソー・プラネット」に「グラビティ」 現在使っているのは「プラグマティック・ケイオス」です プラグマティック・ケイオスがしようとするのは 他のNetflixのアルゴリズムと同じことです ユーザの頭の中のファームウェアを 把握しようとするのです ユーザが次に見たいであろう映画を おすすめできるように これはとても難しい問題です しかし問題の難しさや 私たちによく分かっていないという事実が プラグマティック・ケイオスの効果を 弱めることはありません プラグマティック・ケイオスは 他のNetflixのアルゴリズム同様 最終的には借りられる映画の 60%を言い当てています ユーザについての1つの考えを表す 一片のコードが 映画レンタルの60%をもたらしているのです

もし映画の評価を 作る前にできたとしたらどうでしょう? 便利ではないでしょうか? イギリスのデータ分析専門家がハリウッドにいて ストーリーを評価するアルゴリズムを作っています Epagogixという会社です 脚本をそのアルゴリズムにかけると 数値として 3千万ドルの映画だとか 2億ドルの映画だと言い当てるのです 問題はこれはGoogleではないということ 情報でも 金融統計でもなく 文化なんです ここで目にしているのは ・・・ まあ普通は目にしないかもしれませんが 文化の物理学だということです もしそれがある日 ウォールストリートのアルゴリズムのように クラッシュしておかしくなったとしたら どうやってそれが分かるのか? どんな風に見えるのか?

そしてこれは家庭の中にもあります これはリビングで競い合っている2つのアルゴリズムです この2つのロボットは 「きれい」ということについて随分違った考えを持っています スローダウンして 電球をつけてやればそれがわかります 寝室の隠れた建築家のようなものです そして建築自体が アルゴリズムによる最適化の対象となるという考えも 突飛というわけではありません 非常に現実的なことで 身の回りで起きていることなのです

一番よく分かるのは 密閉された金属の箱の中にいるときです 行先制御エレベータと呼ばれる 新式のエレベータです どの階に行きたいのか エレベータに乗る前に 指定する必要があります ビンパッキングアルゴリズムが使われています みんなにエレベータを好き勝手に選ばせるような 馬鹿なことはしません 10階に行きたい人は2番エレベータに 3階に行きたい人は5番エレベータにという具合にやります これの問題は みんながパニックを 起こすということです なぜか分かりますか? このエレベータは 大事なものを欠いているからです ボタンみたいな (笑) みんなが使い慣れているものです このエレベータにあるのは 増えたり減ったりする数字と 「停止」と書かれた赤いボタンだけです これが私たちのデザインしようとしているものです 私たちはこの機械の言葉に合わせて デザインしているのです そうやってどこまで行けるのでしょう? すごく遠くまで行けるのです

ウォールストリートの話に戻りましょう ウォールストリートのアルゴリズムは 何よりも1つのこと スピードに依存しています ミリ秒とかマイクロ秒という単位で動いています マイクロ秒というのがどんなものかというと マウスクリックには50万マイクロ秒かかる と言えば 感覚としてわかるでしょう しかしウォールストリートのアルゴリズムでは 5マイクロ秒遅れたら 負けるのです だから皆さんがアルゴリズムなら 私がフランクフルトで出会った建築家のような人間を探すことでしょう 彼は高層ビルを空洞にしています 家具のような人間が使うためのインフラはすべて取り去って 床を鉄骨で補強し サーバの山を積み上げられるようにするのです それもすべて アルゴリズムが インターネットに近づけるようにするためです

インターネットは分散システムだと皆さんお考えでしょう もちろんそうですが それは場所として分散しています ニューヨークでは これが分散の元です コロケーションセンターが ハドソン通りにあります ここはまさにケーブルがこの都市に出てくる場所です この場所から離れるたびに 何マイクロ秒かずつ遅れることになります ウォールストリートのこの辺にいる 「マルコポーロ」とか「チェロキーネーション」といった連中は コロケーションセンターのまわりの 空洞化されたビルに入り込んだ この連中に対して 8マイクロ秒遅れをとることになります そういうことが起き続けているのです ビルが空洞にされています なぜなら どのような見地から見ても その場所から「ボストンシャフラー」みたいに 利益を絞り出せる者は他にいないからです

しかし ズームアウトしてみると ニューヨークとシカゴの間に 825マイルのトンネルがあるのが分かります Spread Networksという会社によって この何年かの間に作られたものです この2つの都市を結ぶ 光ケーブルで マウスクリックの37倍の速さで 信号を伝えることができます それがすべてアルゴリズムのため カーニバルやナイフのためのものなのです 考えてみてください 私たちはアメリカ中を ダイナマイトとロックソーで切り進んでいるのです アルゴリズムが3マイクロ秒 早く売買できるようにするために 人の知ることのない コミュニケーションフレームワークのために それが「明白なる使命」であるかのように 常に新たなフロンティアを求めているのです

あいにくと 私たちには難しい仕事が待ち構えています これは単なる理論ですが MITの数学者によるもので 正直なところ 彼らの言うことの 多くは理解できません 何か光円錐とか量子もつれがどうのという話で どれも私にはよくわかりません しかしこの地図ならわかります この地図が表しているのは 赤い点で示される市場で儲けようと思ったら そこは人のいる所 都市ですが 最大の効率を得るためにサーバを 青い点のところに置く必要があるということです お気づきかもしれませんが 青い点の多くは海の真ん中にあります それが私たちのするであろうことです 泡かプラットフォームでも作るのでしょう 水をどけて 無からお金を引き出すのです 輝かしい未来です アルゴリズムにとっては

(笑)

実際に興味深い部分はお金ではなく お金が動機付けるものです 私たちは アルゴリズム的な効率で 地球を変えつつあります そういう観点で 前に戻って マイケル・ナジャーの写真を見れば あれはメタファーではなく 予言だということに気づくでしょう 私たちが起こしている 地殻変動的な 数学の影響に対する予言です 地形はいつもこのような 奇妙で不安定な人間と自然の コラボレーションによって作られてきました しかし今では第三の共進化の勢力があります アルゴリズムです ボストンシャフラーに カーニバル そういったものを自然の一部として理解する必要があるでしょう ある意味では実際そうなのですから

どうもありがとうございました

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画