TED日本語 - ガルリ・カスパロフ: 知性を持つ機械を恐れるな、協働せよ

TED日本語

プレゼンテーション動画

TED日本語 - ガルリ・カスパロフ: 知性を持つ機械を恐れるな、協働せよ

TED Talks

知性を持つ機械を恐れるな、協働せよ
Don't fear intelligent machines. Work with them
ガルリ・カスパロフ
Garry Kasparov

内容

テクノロジーを最大限に活かしたいなら、私たちは自己の恐怖心と向き合わなければならないし、人間性の最善の部分を引き出したいなら、私たちは向き合った恐怖心を克服しなければならない、とガルリ・カスパロフは言います。史上最高のチェス・プレーヤーの1人であるカスカロフは、1997年、IBMのスーパーコンピュータであるディープ・ブルーとの記念すべき対局に破れました。今回、カスパロフは、知的なマシンが私たちの大いなる夢を実現していく助けとなる未来を展望します。

Script

This story begins in 1985, when at age 22, I became the World Chess Champion after beating Anatoly Karpov. Earlier that year, I played what is called simultaneous exhibition against 32 of the world's best chess-playing machines in Hamburg, Germany. I won all the games, and then it was not considered much of a surprise that I could beat 32 computers at the same time. To me, that was the golden age.

(Laughter)

Machines were weak, and my hair was strong.

(Laughter)

Just 12 years later, I was fighting for my life against just one computer in a match called by the cover of "Newsweek" "The Brain's Last Stand." No pressure.

(Laughter)

From mythology to science fiction, human versus machine has been often portrayed as a matter of life and death. John Henry, called the steel-driving man in the 19th century African American folk legend, was pitted in a race against a steam-powered hammer bashing a tunnel through mountain rock. John Henry's legend is a part of a long historical narrative pitting humanity versus technology. And this competitive rhetoric is standard now. We are in a race against the machines, in a fight or even in a war. Jobs are being killed off. People are being replaced as if they had vanished from the Earth. It's enough to think that the movies like "The Terminator" or "The Matrix" are nonfiction.

There are very few instances of an arena where the human body and mind can compete on equal terms with a computer or a robot. Actually, I wish there were a few more. Instead, it was my blessing and my curse to literally become the proverbial man in the man versus machine competition that everybody is still talking about. In the most famous human-machine competition since John Henry, I played two matches against the IBM supercomputer, Deep Blue. Nobody remembers that I won the first match --

(Laughter)

(Applause)

In Philadelphia, before losing the rematch the following year in New York. But I guess that's fair. There is no day in history, special calendar entry for all the people who failed to climb Mt. Everest before Sir Edmund Hillary and Tenzing Norgay made it to the top. And in 1997, I was still the world champion when chess computers finally came of age. I was Mt. Everest, and Deep Blue reached the summit. I should say of course, not that Deep Blue did it, but its human creators -- Anantharaman, Campbell, Hoane, Hsu. Hats off to them. As always, machine's triumph was a human triumph, something we tend to forget when humans are surpassed by our own creations.

Deep Blue was victorious, but was it intelligent? No, no it wasn't, at least not in the way Alan Turing and other founders of computer science had hoped. It turned out that chess could be crunched by brute force, once hardware got fast enough and algorithms got smart enough. Although by the definition of the output, grandmaster-level chess, Deep Blue was intelligent. But even at the incredible speed,200 million positions per second, Deep Blue's method provided little of the dreamed-of insight into the mysteries of human intelligence.

Soon, machines will be taxi drivers and doctors and professors, but will they be "intelligent?" I would rather leave these definitions to the philosophers and to the dictionary. What really matters is how we humans feel about living and working with these machines.

When I first met Deep Blue in 1996 in February, I had been the world champion for more than 10 years, and I had played 182 world championship games and hundreds of games against other top players in other competitions. I knew what to expect from my opponents and what to expect from myself. I was used to measure their moves and to gauge their emotional state by watching their body language and looking into their eyes.

And then I sat across the chessboard from Deep Blue. I immediately sensed something new, something unsettling. You might experience a similar feeling the first time you ride in a driverless car or the first time your new computer manager issues an order at work. But when I sat at that first game, I couldn't be sure what is this thing capable of. Technology can advance in leaps, and IBM had invested heavily. I lost that game. And I couldn't help wondering, might it be invincible? Was my beloved game of chess over? These were human doubts, human fears, and the only thing I knew for sure was that my opponent Deep Blue had no such worries at all.

(Laughter)

I fought back after this devastating blow to win the first match, but the writing was on the wall. I eventually lost to the machine but I didn't suffer the fate of John Henry who won but died with his hammer in his hand. It turned out that the world of chess still wanted to have a human chess champion. And even today, when a free chess app on the latest mobile phone is stronger than Deep Blue, people are still playing chess, even more than ever before. Doomsayers predicted that nobody would touch the game that could be conquered by the machine, and they were wrong, proven wrong, but doomsaying has always been a popular pastime when it comes to technology.

What I learned from my own experience is that we must face our fears if we want to get the most out of our technology, and we must conquer those fears if we want to get the best out of our humanity. While licking my wounds, I got a lot of inspiration from my battles against Deep Blue. As the old Russian saying goes, if you can't beat them, join them. Then I thought, what if I could play with a computer -- together with a computer at my side, combining our strengths, human intuition plus machine's calculation, human strategy, machine tactics, human experience, machine's memory. Could it be the perfect game ever played?

My idea came to life in 1998 under the name of Advanced Chess when I played this human-plus-machine competition against another elite player. But in this first experiment, we both failed to combine human and machine skills effectively. Advanced Chess found its home on the internet, and in 2005, a so-called freestyle chess tournament produced a revelation. A team of grandmasters and top machines participated, but the winners were not grandmasters, not a supercomputer. The winners were a pair of amateur American chess players operating three ordinary PCs at the same time. Their skill of coaching their machines effectively counteracted the superior chess knowledge of their grandmaster opponents and much greater computational power of others. And I reached this formulation. A weak human player plus a machine plus a better process is superior to a very powerful machine alone, but more remarkably, is superior to a strong human player plus machine and an inferior process. This convinced me that we would need better interfaces to help us coach our machines towards more useful intelligence.

Human plus machine isn't the future, it's the present. Everybody that's used online translation to get the gist of a news article from a foreign newspaper, knowing its far from perfect. Then we use our human experience to make sense out of that, and then the machine learns from our corrections. This model is spreading and investing in medical diagnosis, security analysis. The machine crunches data, calculates probabilities, gets 80 percent of the way,90 percent, making it easier for analysis and decision-making of the human party. But you are not going to send your kids to school in a self-driving car with 90 percent accuracy, even with 99 percent. So we need a leap forward to add a few more crucial decimal places.

Twenty years after my match with Deep Blue, second match, this sensational "The Brain's Last Stand" headline has become commonplace as intelligent machines move in every sector, seemingly every day. But unlike in the past, when machines replaced farm animals, manual labor, now they are coming after people with college degrees and political influence. And as someone who fought machines and lost, I am here to tell you this is excellent, excellent news. Eventually, every profession will have to feel these pressures or else it will mean humanity has ceased to make progress. We don't get to choose when and where technological progress stops. We can not slow down. In fact, we have to speed up. Our technology excels at removing difficulties and uncertainties from our lives, and so we must seek out ever more difficult, ever more uncertain challenges. Machines have calculations. We have understanding. Machines have instructions. We have purpose. Machines have objectivity. We have passion. We should not worry about what our machines can do today. Instead, we should worry about what they still can not do today, because we will need the help of the new, intelligent machines to turn our grandest dreams into reality. And if we fail, if we fail, it's not because our machines are too intelligent, or not intelligent enough. If we fail, it's because we grew complacent and limited our ambitions. Our humanity is not defined by any skill, like swinging a hammer or even playing chess.

There's one thing only a human can do. That's dream. So let us dream big.

Thank you.

(Applause)

この物語が始まるのは1985年です 私は22歳にして チェスの世界チャンピオンになりました 破った相手は アナトリー・カルポフです その年 それに先だって 私は 公開同時対局というのをやって 世界最強のチェスコンピュータ 32台と戦いました ドイツのハンブルグでのことです 私は全対局に勝利しましたが 当時は 32台のコンピュータを相手に 同時対局して勝っても それほど驚くに当たらないとされました 私にとって黄金時代でした

(笑)

コンピュータは弱く 私の髪にも勢いがありました

(笑)

そのほんの12年後 私はたった1台のコンピュータ相手に 自分のすべてを賭けて 対戦していました 『Newsweek』の表紙タイトルは 「人間の頭脳の最後の抵抗」です プレッシャーかける気はないそうですが

(笑)

神話からSFまで 人間対マシンの戦いは 生死を分ける問題として しばしば描かれてきました ジョン・ヘンリーは 「ハンマー使い」と呼ばれる 19世紀アフリカ系アメリカ人の 庶民的英雄ですが 蒸気ハンマーを相手に 岩山にトンネルを通す 競争に挑みました ジョン・ヘンリーの伝説は 人類とテクノロジーの対決という 長い歴史的な物語の一部です この競争のレトリックは 今やありふれています 戦いであれ 戦争であれ 人類は機械と競争しています 人間の仕事は奪われ 人類は 地上から消えたかのように 機械に取って代わられています 『ターミネーター』や『マトリックス』 みたいな映画が ノンフィクションに思えるほどです

人間が肉体的・精神的に コンピュータやロボットと 対等に競える領域というのは ごくわずかです もう少しあれば いいのにと思います しかし私にとって 祝福でもあり 災いでもあったのは 今でも皆が語り草にする 人間対機械の競争における 文字通り伝説的な人間になったことです ジョン・ヘンリー以降 最も有名な人間対機械の競争で 私は 2度 IBMのスーパーコンピュータ 「ディープ・ブルー」と対戦しました 誰も覚えていませんが 私は初戦に勝ったんです

(笑)

(拍手)

フィラディルフィアで負けたのは 翌年のニューヨークでの2戦目です でも不平を言うつもりはありません エドモンド・ヒラリー卿と テンジン・ノルゲイが エベレストを初制覇する以前に 登頂に挑んだ人たちだって 歴史のカレンダーに刻まれては いないのですから そして1997年には 私はまだ世界チャンピオンでした その年にコンピュータのチェスが ついに成熟期に達し 私というエベレストの山頂に ディープ・ブルーがたどり着いたのです もちろん成し遂げたのは ディープ・ブルーではなく その生みの親たちです アナンサラマン、キャンベル、ホーン、スー 彼らに脱帽です いつものことながら 機械の勝利は人類の勝利なのです 人間が作ったものが人間を超えると どうもそのことを忘れがちです

ディープ・ブルーは勝者ですが 知的だったのでしょうか? いいえ そうではありません 少なくとも アラン・チューリングら コンピュータ科学の開拓者たちが望んだような 知的さではありませんでした チェスは力技で組み伏せることが できると分かったんです ハードウェアが十分に速く アルゴリズムが十分 洗練されていれば 出力で見る限り グランドマスターレベルの チェスをする点で ディープ・ブルーは知的でしょう でも その信じられないくらいのスピード 毎秒2億手計算できても ディープ・ブルーの方式では 人間の知性の謎を洞察するなんて 夢のまた夢だったのです

すぐに 機械がタクシーを運転し 医者や教授に取って代わるでしょう でも それは「知的」と言えるのか? この言葉の定義は 哲学者や辞書に 委ねたいと思います 本当に大切なことは 私たち人類が そういう機械と共存し協働することについて どう感じるかです

1996年2月に 初めて ディープ・ブルーと出会った時 私は10年以上 世界チャンピオンを防衛していました 世界チャンピオンを賭けた対戦に 182勝し それ以外のトッププレイヤー相手の 様々な対戦で何百勝もしました 私には 相手のことや 自分のことが 予想できました 相手の身振りを観察し 目を覗き込むことで 対戦相手の動きを推し量り 心理状態を見極めたものです

それから ディープ・ブルーと チェス盤を挟むことになりました すぐに これまでとは 違うものを感じました 落ち着かない何かでした 自動運転車に初めて乗るときや コンピュータの上司から 初めて仕事の指示を受けるときに 似た感覚を経験するかもしれません でも初対局に挑んだ時 私には ディープ・ブルーに何ができるのか はっきりしませんでした 技術は飛躍的に進化しうるし IBMは相当投資していました 私はその対局に敗れました ディープ・ブルーは無敵かも知れないと 思わずにいられませんでした 私の大好きなゲームは 終わってしまったのか? こういった思いは 人間の持つ 猜疑心であり恐怖心ですが ただ一つ確実に分かっていたのは 対戦者のディープ・ブルーの方は そんな心配と無縁ということでした

(笑)

初対局での 大打撃のあと 私は反撃に出ましたが 不吉な予感がしていました 結局 私は機械に負けましたが ジョン・ヘンリーのように 勝負に勝ちながら ハンマーを手にしたまま命を落とす 羽目にはなりませんでした 明らかになったのは チェス界が なおも生身の人間のチャンピオンを 求めていたことでした そして今日でさえも ― 最新スマホ用の 無料チェスアプリが ディープ・ブルーを凌ぐ今でさえも 人々は以前にもまして チェスをし続けているのです 悲観論者は 機械に征服されたゲームなど 誰も手に取らないだろうと 予言しましたが それは間違いだと示されました もっともテクノロジーに関する限り 悲観的予言はいつも 人気の娯楽なんです

私が自分の経験から学んだことは テクノロジーから最高の恩恵を享受したいなら 恐怖心と向き合わなければ ならないということ そして 人間性から 最高の恩恵を享受したいなら こういった恐怖心を克服しなければ ならないということです 自分の傷を舐めて癒す一方で ディープ・ブルーとの対戦から 多くのインスピレーションを得ました ロシアの古い諺に「勝てなければ仲間になれ(長いものには巻かれろ)」とあります そこで考えました コンピュータと一緒に戦うなら ― コンピュータを味方にして 力を合わせることができたとしたら? 人間の直感力と コンピュータの計算能力 人間の戦略とコンピュータの戦術 人間の経験とコンピュータの記憶力 そうすれば かつてない最高のゲームができるのでは?

私のアイデアが実現し 1998年 「アドバンスト・チェス」の名の下 私は 他のチェスの名手を相手に 人間とマシンのタグマッチをしました この最初の試みでは 両者とも 人間とマシンのスキルを 効果的に結びつけるのに失敗しましたが アドバンスト・チェスは ネットで盛んに行われるようになり 2005年の チェスのいわゆる フリースタイル・トーナメントで 明らかになったことがあります グランドマスターや 最速のマシンが チームとして出場しましたが 勝者は グランドマスターではなく スーパーコンピューターでも ありませんでした 勝ったのは アメリカ人の アマチュアプレイヤー2人が 普通のPC3台を同時に操作した チームでした 効果的にコンピュータをコーチする 彼らのスキルが 対戦相手のグランドマスターの より深いチェスの知識や 圧倒的に格上のコンピュータの 計算能力に勝ったのです そこで到達した公式はこうです 弱い人間プレイヤー + コンピュータ + 優れたプロセスは 単体の非常に強力なマシンに 勝りますが さらに すごいのは それが 人間の名人 + コンピュータ + 劣ったプロセスにも 勝るということです そこで私が確信したのは コンピュータに 有用な知性を与えるためには コンピュータをコーチするための 良いインターフェースが必要だということです

人間+コンピュータというのは 未来ではなく 現在です 外国語の新聞記事の骨子を知るために オンライン翻訳を使う人は誰でも 機械翻訳が 完璧からほど遠いと分かっています そして 人としての経験を駆使して 機械翻訳から意味を取ろうとします そして 機械は 人間による修正から学習します このモデルは 投資や 医学診断 セキュリティ分析の分野で広まっています コンピュータがデータを処理し 確率を計算し 精度が80%とか90%になれば 人間による分析や意思決定が 容易になります でも自動運転車の場合は 精度が90%や 99%であっても 自分の子供の通学に使う 親はいないでしょう そこで私たちに必要なのは 小数点以下の桁数を もっと追加することです

ディープ・ブルーとの 2度目の対局から 20年たった今 『人間の頭脳の最後の抵抗』という センセーショナルな見出しは 知的なマシンが 毎日のように 様々な領域に 進出する中で ありふれたものになっています でも昔のような 機械が家畜や手作業の労働に 取って代わっていった時代とは異なり 今では 機械が 学位や政治的影響力のある人間の 後釜を狙う時代になっています マシンと戦って負けた人間として これは素晴らしいニュースなんだと お知らせしたい いつかは どんな職業も 同じようなプレッシャーを 経験する運命にあり そうでなければ 人類が進歩をやめたことを意味します 技術的な進歩を いつ・どこでやめるか という選択は 私たちにはありません 進歩の速度を 遅らせることはできません 実際 私たちは速度を上げなければなりません 私たちのテクノロジーが得意なのは 生活の中から困難や不安定さを 取り去ることです だからこそ私たちは より困難で不確かな課題を 追求せねばならないのです マシンには 計算能力があります 私たちには理解力があります マシンにはインストラクションがあります 私たちには目的があります マシンには 客観性があります 私たちには情熱があります 現在マシンが何をできるかについて 私たちは懸念すべきではありません 懸念すべきは 現在マシンに何ができないかです なぜなら 私たちには 大いなる夢を実現していくために 新しい知的なマシンの力を 借りねばならない日が来るからです そしてその夢に破れたら 破れるとしたら それは マシンの知能が高すぎたからでも 低すぎたからでもありません 夢の実現に破れる理由があるとしたら 私たちが現状に甘んじて 野心に制限をかけてしまったからです 人間性は ハンマーを振るうとか チェスを指すというような 特定のスキルで 定義できるものではありません

人間にしかできないことが1つあります それは夢を見ることです だから 大きな夢を見ましょう

ありがとう

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画