TED日本語 - セザー・ヒダルゴ: 政治家をあるものに置き換える大胆な構想



TED日本語 - セザー・ヒダルゴ: 政治家をあるものに置き換える大胆な構想

TED Talks

A bold idea to replace politicians
Cesar Hidalgo


セザー・ヒダルゴが、今の壊れた政治システムを正すためのラディカルな提案をします ― システムを自動化するというのです。この刺激的なトークで彼が紹介する大胆な構想は、政治家を介さずに、個々の市民に合わせて作られたAIの代表者を民主主義的決定に直接参加させるというものです。集団的意思決定の新たな方法について考え、民主主義の理解を深めてください。


Is it just me, or are there other people here that are a little bit disappointed with democracy?


So let's look at a few numbers. If we look across the world, the median turnout in presidential elections over the last 30 years has been just 67 percent. Now, if we go to Europe and we look at people that participated in EU parliamentary elections, the median turnout in those elections is just 42 percent. Now let's go to New York, and let's see how many people voted in the last election for mayor. We will find that only 24 percent of people showed up to vote. What that means is that, if "Friends" was still running, Joey and maybe Phoebe would have shown up to vote.


And you can not blame them because people are tired of politicians. And people are tired of other people using the data that they have generated to communicate with their friends and family, to target political propaganda at them. But the thing about this is that this is not new. Nowadays, people use likes to target propaganda at you before they use your zip code or your gender or your age, because the idea of targeting people with propaganda for political purposes is as old as politics. And the reason why that idea is there is because democracy has a basic vulnerability. This is the idea of a representative.

In principle, democracy is the ability of people to exert power. But in practice, we have to delegate that power to a representative that can exert that power for us. That representative is a bottleneck, or a weak spot. It is the place that you want to target if you want to attack democracy because you can capture democracy by either capturing that representative or capturing the way that people choose it. So the big question is: Is this the end of history? Is this the best that we can do or, actually, are there alternatives?

Some people have been thinking about alternatives, and one of the ideas that is out there is the idea of direct democracy. This is the idea of bypassing politicians completely and having people vote directly on issues, having people vote directly on bills. But this idea is naive because there's too many things that we would need to choose. If you look at the 114th US Congress, you will have seen that the House of Representatives considered more than 6,000 bills, the Senate considered more than 3,000 bills and they approved more than 300 laws. Those would be many decisions that each person would have to make a week on topics that they know little about. So there's a big cognitive bandwidth problem if we're going to try to think about direct democracy as a viable alternative.

So some people think about the idea of liquid democracy, or fluid democracy, which is the idea that you endorse your political power to someone, who can endorse it to someone else, and, eventually, you create a large follower network in which, at the end, there's a few people that are making decisions on behalf of all of their followers and their followers. But this idea also doesn't solve the problem of the cognitive bandwidth and, to be honest, it's also quite similar to the idea of having a representative. So what I'm going to do today is I'm going to be a little bit provocative, and I'm going to ask you, well: What if, instead of trying to bypass politicians, we tried to automate them?

The idea of automation is not new. It was started more than 300 years ago, when French weavers decided to automate the loom. The winner of that industrial war was Joseph-Marie Jacquard. He was a French weaver and merchant that married the loom with the steam engine to create autonomous looms. And in those autonomous looms, he gained control. He could now make fabrics that were more complex and more sophisticated than the ones they were able to do by hand. But also, by winning that industrial war, he laid out what has become the blueprint of automation.

The way that we automate things for the last 300 years has always been the same: we first identify a need, then we create a tool to satisfy that need, like the loom, in this case, and then we study how people use that tool to automate that user. That's how we came from the mechanical loom to the autonomous loom, and that took us a thousand years. Now, it's taken us only a hundred years to use the same script to automate the car. But the thing is that, this time around, automation is kind of for real.

This is a video that a colleague of mine from Toshiba shared with me that shows the factory that manufactures solid state drives. The entire factory is a robot. There are no humans in that factory. And the robots are soon to leave the factories and become part of our world, become part of our workforce. So what I do in my day job is actually create tools that integrate data for entire countries so that we can ultimately have the foundations that we need for a future in which we need to also manage those machines.

But today, I'm not here to talk to you about these tools that integrate data for countries. But I'm here to talk to you about another idea that might help us think about how to use artificial intelligence in democracy. Because the tools that I build are designed for executive decisions. These are decisions that can be cast in some sort of term of objectivity -- public investment decisions. But there are decisions that are legislative, and these decisions that are legislative require communication among people that have different points of view, require participation, require debate, require deliberation. And for a long time, we have thought that, well, what we need to improve democracy is actually more communication. So all of the technologies that we have advanced in the context of democracy, whether they are newspapers or whether it is social media, have tried to provide us with more communication. But we've been down that rabbit hole, and we know that's not what's going to solve the problem. Because it's not a communication problem, it's a cognitive bandwidth problem. So if the problem is one of cognitive bandwidth, well, adding more communication to people is not going to be what's going to solve it. What we are going to need instead is to have other technologies that help us deal with some of the communication that we are overloaded with. Think of, like, a little avatar, a software agent, a digital Jiminy Cricket --


that basically is able to answer things on your behalf. And if we had that technology, we would be able to offload some of the communication and help, maybe, make better decisions or decisions at a larger scale. And the thing is that the idea of software agents is also not new. We already use them all the time. We use software agents to choose the way that we're going to drive to a certain location, the music that we're going to listen to or to get suggestions for the next books that we should read.

So there is an obvious idea in the 21st century that was as obvious as the idea of putting together a steam engine with a loom at the time of Jacquard. And that idea is combining direct democracy with software agents. Imagine, for a second, a world in which, instead of having a representative that represents you and millions of other people, you can have a representative that represents only you, with your nuanced political views -- that weird combination of libertarian and liberal and maybe a little bit conservative on some issues and maybe very progressive on others. Politicians nowadays are packages, and they're full of compromises. But you might have someone that can represent only you, if you are willing to give up the idea that that representative is a human. If that representative is a software agent, we could have a senate that has as many senators as we have citizens. And those senators are going to be able to read every bill and they're going to be able to vote on each one of them.

So there's an obvious idea that maybe we want to consider. But I understand that in this day and age, this idea might be quite scary. In fact, thinking of a robot coming from the future to help us run our governments sounds terrifying. But we've been there before.


And actually he was quite a nice guy.

So what would the Jacquard loom version of this idea look like? It would be a very simple system. Imagine a system that you log in and you create your avatar, and then you're going to start training your avatar. So you can provide your avatar with your reading habits, or connect it to your social media, or you can connect it to other data, for example by taking psychological tests. And the nice thing about this is that there's no deception. You are not providing data to communicate with your friends and family that then gets used in a political system. You are providing data to a system that is designed to be used to make political decisions on your behalf. Then you take that data and you choose a training algorithm, because it's an open marketplace in which different people can submit different algorithms to predict how you're going to vote, based on the data you have provided. And the system is open, so nobody controls the algorithms; there are algorithms that become more popular and others that become less popular. Eventually, you can audit the system. You can see how your avatar is working. If you like it, you can leave it on autopilot. If you want to be a little more controlling, you can actually choose that they ask you every time they're going to make a decision, or you can be anywhere in between. One of the reasons why we use democracy so little may be because democracy has a very bad user interface. And if we improve the user interface of democracy, we might be able to use it more.

Of course, there's a lot of questions that you might have. Well, how do you train these avatars? How do you keep the data secure? How do you keep the systems distributed and auditable? How about my grandmother, who's 80 years old and doesn't know how to use the internet? Trust me, I've heard them all. So when you think about an idea like this, you have to beware of pessimists because they are known to have a problem for every solution.


So I want to invite you to think about the bigger ideas. The questions I just showed you are little ideas because they are questions about how this would not work. The big ideas are ideas of: What else can you do with this if this would happen to work? And one of those ideas is, well, who writes the laws? In the beginning, we could have the avatars that we already have, voting on laws that are written by the senators or politicians that we already have. But if this were to work, you could write an algorithm that could try to write a law that would get a certain percentage of approval, and you could reverse the process. Now, you might think that this idea is ludicrous and we should not do it, but you can not deny that it's an idea that is only possible in a world in which direct democracy and software agents are a viable form of participation.

So how do we start the revolution? We don't start this revolution with picket fences or protests or by demanding our current politicians to be changed into robots. That's not going to work. This is much more simple, much slower and much more humble. We start this revolution by creating simple systems like this in grad schools, in libraries, in nonprofits. And we try to figure out all of those little questions and those little problems that we're going to have to figure out to make this idea something viable, to make this idea something that we can trust. And as we create those systems that have a hundred people, a thousand people, a hundred thousand people voting in ways that are not politically binding, we're going to develop trust in this idea, the world is going to change, and those that are as little as my daughter is right now are going to grow up. And by the time my daughter is my age, maybe this idea, that I know today is very crazy, might not be crazy to her and to her friends. And at that point, we will be at the end of our history, but they will be at the beginning of theirs.

Thank you.


これは私だけなのか それとも皆さんもでしょうかー 民主主義に 少々失望しているのは?


ちょっとデータを見てみましょう 世界各地の 過去30年における 大統領選挙の平均投票率は たったの67%です ヨーロッパでは 欧州議会議員選挙に着目すると その平均投票率は たった42%です ニューヨークで 直近の市長選の投票者数を見ると 投票に行ったのは24%に過ぎません つまり『フレンズ』のメンバーで言うなら 投票に行くのは ジョーイと せいぜいフィービーというところなのです


だからと言って責められません 皆 政治家には うんざりなんです 友だちや家族との やり取りの データが他人に使われて 政治宣伝の標的にされることにも うんざりしています でも 実はこれは 今に始まったことではありません 今でこそ「いいね」した情報を元に その人に合わせた政治宣伝がされていますが 以前は郵便番号や性別 年齢で 同じことがされていました 対象に応じて政治宣伝するという発想は 政治と同じくらい古いものなのです なぜそんな考えが 生まれるのかといえば 民主主義には元々 脆弱性があるからです これは代表制を図示したものです

原則として 民主主義は 人民が権力を行使できるようにするものですが 実際には私たちは 自らの代表者にその権力を移譲し 代表者が私たちのために 権力を行使します その代表者こそが ボトルネックであり 弱点なのです 民主主義を攻撃するなら 攻めどころは そこでしょう 民主主義を掌握するには その代表者を掌握するか 代表者の選任法を掌握するかの いずれかなのです ここで持ち上がる大きな疑問が これは「歴史の終わり」なのか ということです これが最善のことなのか それとも実は これに取って代わるものが あるのでしょうか?

これに代わるものを 考えている人もいます その1つが直接民主主義です この考えでは 政治家を完全に通り越して 様々な問題や法案について 人々が直接投票します でも これは単純すぎます 決めないといけないことが 多すぎるからです 例えば第114回の米国議会では 下院は6千件以上の 法案を審議し 上院は3千件以上の法案を審議 両院が可決した法案は3百件以上です [毎週3件相当] これだけの決定を 各人が毎週するとなると 多すぎるでしょう しかも ほとんど知らない分野のことです ですから実際に 直接民主主義で置き換えるには 人の認知処理能力が大きな課題となります

また 「リキッド・デモクラシー」 流動体民主主義という考えもあります 自らの政治的決定を誰かに委ね その人がまた 誰かに委任するという風に 委任関係を重ねていくことで 最終的には 少数の人が 自分の委任者や 委任者の委任者を代理して 決定を下すというものです でも この考えにおいても 認知処理能力の問題は解決しないし 正直なところ 代表者を立てるという考えと 大差がありません そこで今日は 私はちょっと挑発的に こんな問いを 投げかけたいと思います 政治家を介するのを やめようとする代わりに 政治家を自動化したらどうでしょう?

自動化という考え自体は 新しくありません 3百年以上前に フランスの織工が 織機を自動化したのが始まりです その産業戦争を制したのは ジョゼフ・マリー・ジャカールでした 彼はフランスの機織りで商人であり 織機を蒸気機関と合体させ 自動織機を作り出しました その自動織機で 自在な織り方が可能になり 人手で織れる布よりも より複雑でより洗練されたものを 作れるようになりました また その産業戦争に勝つことで 自動化の設計図となるものも作ったのです

ここ3百年の間 物事を自動化する方法は ずっと同じでした まずはニーズを特定し そのニーズを満たすツールを作ります 先ほどのケースでは織機です そして 人がそのツールを どうやって使うか観察し その人の仕事を自動化するのです こうして機械織機を経て 自動織機にまでなりました ここまで千年かかりましたが 同じやり方を使い 今は たった百年で 車の運転を自動化するに至りました ここで肝心なのは 今回の自動化が 徹底しているということです

こちらは 東芝から来た同僚が 提供してくれたビデオで 半導体ディスクドライブを 生産する工場の様子です 工場全体が1つのロボットになっており 工場内には人がいません ほどなく ロボットは工場を離れ 私たちの世界の一部になり 労働力の一部になるでしょう 私が本業でやっているのは 国全体の種々のデータを統合するツールを 作り出すことで 将来 そういうマシンを 管理することが求められたときに 必要となる基盤を準備しています

でも ここで 国全体のデータを統合するツールについて お話しするつもりはありません 今日お話ししたいのは 別の構想についてです 民主主義における人工知能の活用法を 考えるのに役立つかもしれないことです 私が作っている あのツールは 最終決定をするためのものです 公共投資の決定など ある種の客観性を持つ決定です でも 決定には 立法にかかわるものもあります 立法のための決定は 様々な視点を持った人たちの間で コミュニケーションを図り 皆が参加し討論し 検討することが必要です 長い間 私たちは 民主主義を良くするには コミュニケーションがもっと必要だと 考えてきました だから民主主義の流れで 進歩した技術というのは 新聞であれ ソーシャルメディアであれ 私たちのコミュニケーションを 増やそうとするものでした でも すでに経験したとおり それでは問題は解決しないと 分かっています これはコミュニケーションの問題ではなく 認知処理能力の問題だからです 問題が認知処理能力にあるなら コミュニケーションを増やしても 解決にはなりません 代わりに必要なのは 私たちに さばききれない コミュニケーションの処理を 手助けしてくれる技術です 小さなアバターか ソフトウェア・エージェントか デジタル版ジミニー・クリケット みたいなもので ―


自分の代わりに答えてくれるものを 考えるのです そんな技術があれば 今あるコミュニケーションの 重荷から少し解放され より良い決定や 大局的な決定が できるようになるかもしれません ソフトウェアエージェントの考えも 新しいものではありません 今でも しょっちゅう使っています ソフトウェアエージェントを使い 目的地への運転経路を選んだり どんな音楽を聴くか選んだり 次に読む本の候補を絞ったりしています

そんな21世紀に 至極もっともな構想があります ジャカールの時代に 蒸気機関と織機を組み合わせたのと 同じくらいに もっともなものです 直接民主主義を ソフトウェアエージェントと 組み合わせるのです こんな世界を想像してみてください 自分や ほかの何百万もの人の 代表者を立てる代わりに 自分に固有の政治的見解を備えた 自分だけの代表者を 立てることができるのです それはリバタリアンとリベラルの 奇妙な組み合わせで ある問題にはちょっと保守的で 別の問題では大いに進歩主義的かも しれません 現在の政治家はいわばパッケージで 多くの妥協をしなければなりません でも 代表は人間でなければ という考えを捨てさえすれば 自分だけの代表を 立てられるかもしれません もしソフトウェアエージェントが 代表であれば 市民と同じ数の議員で 議会を構成することができます それらの議員は すべての法案に目を通し すべてに投票をすることができます

これは検討に値する 至極もっともな構想でしょう でも この時代にあって こんな考えは怖く感じるかもしれません 実際 未来からロボットがやってきて 私たちの政府運営を 手助けするとしたら 恐ろしいことに聞こえます でも これはもう経験しています


事実 彼はすごく良い人でしたよね

さて この構想は どんな形で実現できるでしょうか? とてもシンプルなシステムです システムにログインして 自分のアバターを作り アバターの訓練を始めます アバターに自分の読書傾向を教え ソーシャルメディアの情報を与え 心理テストを受けるなどして その他のデータも与えます これが良いのは だまし討ちがないことです 友だちや家族との やり取りのデータが 政治システムに 使われたりはしません 皆さんがデータを提供するのは 自分の代理として政治的決定をするよう 設計されたシステムなのです 皆さんは そのデータを用意し 訓練アルゴリズムを選びます この部分は 開かれた市場になっており 提供データから その人の 投票行動を推定するアルゴリズムは 誰でも作ることができます システム自体オープンで 特定の人が アルゴリズムをコントロールすることもありません 人気のあるアルゴリズムもあれば 人気がないものも出てきます 最終的に システムを監査して 自分のアバターがどう動くか確認でき それで良ければ 任せきりにするもよし もう少し自分で制御したいと思えば 何か判断するときは必ず 自分に問い合わせるよう 指定でき どこかその中間にしても 構いません 民主主義があまり活用されていないのは ユーザインターフェイスが まずいせいも あるかもしれません 民主主義のユーザインターフェイスを 改善すれば もっと使われるように なるかもしれません

もちろん たくさんの疑問がおありでしょう どうやってアバターを訓練するのか? データの安全性は? どうやってシステムを普及させ 検証可能にするのか? インターネットすら使えない 80歳の祖母は どうなるのか? そういう疑問はすべて 聞いてきました こんな構想を考えるときには 悲観主義者に注意しないといけません どんな解決策にも 文句のある人たちですから


皆さんには もっと高い視座で 考えていただきたいのです 先ほど示した疑問というのは 細かいことです 全部 これが機能しない理由についてですから 高い視座というのは もしこれが機能したら ほかに何ができるか 考えるということです 例えば 誰が法律を書くかです 最初は 今あるアバターで 今いる議員や政治家が書いた法律について 投票をします でも これがうまく行ったら ある程度の賛同が得られそうな 法律を書く アルゴリズムを作って このプロセスを逆にもできます こんな考えは馬鹿げていて 適切ではないと思われるかもしれませんが 直接民主主義とソフトウェアエージェントが 政治参加の可能な形態である世界で はじめて可能になる案だということは 否定できないでしょう

では この革命を どうやって始めましょう? ピケを張ったり 抗議行動をしたり 今の政治家をロボットに置き換えるよう 要求したりするのではありません それでは うまく行きません もっとシンプルに もっとゆっくり もっと控えめにやります この仕組みを持つ 簡単なシステムを 大学院や図書館 非営利組織に 導入するところから革命を始めます 先ほどの小さな疑問や 小さな問題のすべてについて 解決していきます この構想を実行可能にし 信頼できるものにするために いずれ解決しなければ ならないことですから 百人、千人、1万人が 政治に関わらないような問題で 投票するシステムを作ることで この構想への信頼が高まり 世界が変わっていくでしょう そして 今はこれくらいの小さな私の娘世代が 大人になって 私の年になるころには 今はクレイジーなこの構想も もしかしたら 娘たちにはクレイジーでは なくなっているかもしれません そのときには 私たちの歴史は終わりを迎えますが 彼らの歴史が幕を開けているでしょう



― もっと見る ―
― 折りたたむ ―


  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等