TED日本語 - シャム・サンカー: 人間とコンピューターの協力関係のはじまり

TED日本語

TED Talks(英語 日本語字幕付き動画)

TED日本語 - シャム・サンカー: 人間とコンピューターの協力関係のはじまり

TED Talks

人間とコンピューターの協力関係のはじまり
The rise of human-computer cooperation
シャム・サンカー
Shyam Sankar

内容

コンピューターによる力任せの計算だけでは世界を悩ます問題を解決する事はできません。例えばテロリストを捕まえたり、目には見えない兆候を見つけたりといった難しい問題の解決は、正しいアルゴリズムの発見によってではなく、コンピューターの計算能力と人間の創造力を正しい共益関係にすることによってもたらされるとシャム・サンカーは語ります。

Script

I'd like to tell you about two games of chess. The first happened in 1997, in which Garry Kasparov, a human, lost to Deep Blue, a machine. To many, this was the dawn of a new era,one where man would be dominated by machine. But here we are,20 years on, and the greatest change in how we relate to computers is the iPad, not HAL.

The second game was a freestyle chess tournament in 2005, in which man and machine could enter together as partners, rather than adversaries, if they so chose. At first, the results were predictable. Even a supercomputer was beaten by a grandmaster with a relatively weak laptop. The surprise came at the end. Who won? Not a grandmaster with a supercomputer, but actually two American amateurs using three relatively weak laptops. Their ability to coach and manipulate their computers to deeply explore specific positions effectively counteracted the superior chess knowledge of the grandmasters and the superior computational power of other adversaries. This is an astonishing result: average men, average machines beating the best man, the best machine. And anyways, isn't it supposed to be man versus machine? Instead, it's about cooperation, and the right type of cooperation.

We've been paying a lot of attention to Marvin Minsky's vision for artificial intelligence over the last 50 years. It's a sexy vision, for sure. Many have embraced it. It's become the dominant school of thought in computer science. But as we enter the era of big data, of network systems, of open platforms, and embedded technology, I'd like to suggest it's time to reevaluate an alternative vision that was actually developed around the same time. I'm talking about J.C.R. Licklider's human-computer symbiosis, perhaps better termed "intelligence augmentation," I.A.

Licklider was a computer science titan who had a profound effect on the development of technology and the Internet. His vision was to enable man and machine to cooperate in making decisions, controlling complex situations without the inflexible dependence on predetermined programs. Note that word "cooperate." Licklider encourages us not to take a toaster and make it Data from "Star Trek," but to take a human and make her more capable. Humans are so amazing -- how we think, our non-linear approaches, our creativity, iterative hypotheses, all very difficult if possible at all for computers to do. Licklider intuitively realized this, contemplating humans setting the goals, formulating the hypotheses, determining the criteria, and performing the evaluation. Of course, in other ways, humans are so limited. We're terrible at scale, computation and volume. We require high-end talent management to keep the rock band together and playing. Licklider foresaw computers doing all the routinizable work that was required to prepare the way for insights and decision making.

Silently, without much fanfare, this approach has been compiling victories beyond chess. Protein folding, a topic that shares the incredible expansiveness of chess - there are more ways of folding a protein than there are atoms in the universe. This is a world-changing problem with huge implications for our ability to understand and treat disease. And for this task, supercomputer field brute force simply isn't enough. Foldit, a game created by computer scientists, illustrates the value of the approach. Non-technical, non-biologist amateurs play a video game in which they visually rearrange the structure of the protein, allowing the computer to manage the atomic forces and interactions and identify structural issues. This approach beat supercomputers 50 percent of the time and tied 30 percent of the time. Foldit recently made a notable and major scientific discovery by deciphering the structure of the Mason-Pfizer monkey virus. A protease that had eluded determination for over 10 years was solved was by three players in a matter of days, perhaps the first major scientific advance to come from playing a video game.

Last year, on the site of the Twin Towers, the 9/11 memorial opened. It displays the names of the thousands of victims using a beautiful concept called "meaningful adjacency." It places the names next to each other based on their relationships to one another: friends, families, coworkers. When you put it all together, it's quite a computational challenge: 3,500 victims,1,800 adjacency requests, the importance of the overall physical specifications and the final aesthetics. When first reported by the media, full credit for such a feat was given to an algorithm from the New York City design firm Local Projects. The truth is a bit more nuanced. While an algorithm was used to develop the underlying framework, humans used that framework to design the final result. So in this case, a computer had evaluated millions of possible layouts, managed a complex relational system, and kept track of a very large set of measurements and variables, allowing the humans to focus on design and compositional choices. So the more you look around you, the more you see Licklider's vision everywhere. Whether it's augmented reality in your iPhone or GPS in your car, human-computer symbiosis is making us more capable.

So if you want to improve human-computer symbiosis, what can you do? You can start by designing the human into the process. Instead of thinking about what a computer will do to solve the problem, design the solution around what the human will do as well. When you do this, you'll quickly realize that you spent all of your time on the interface between man and machine, specifically on designing away the friction in the interaction. In fact, this friction is more important than the power of the man or the power of the machine in determining overall capability. That's why two amateurs with a few laptops handily beat a supercomputer and a grandmaster. What Kasparov calls process is a byproduct of friction. The better the process, the less the friction. And minimizing friction turns out to be the decisive variable.

Or take another example: big data. Every interaction we have in the world is recorded by an ever growing array of sensors: your phone, your credit card, your computer. The result is big data, and it actually presents us with an opportunity to more deeply understand the human condition. The major emphasis of most approaches to big data focus on, "How do I store this data? How do I search this data? How do I process this data?" These are necessary but insufficient questions. The imperative is not to figure out how to compute, but what to compute. How do you impose human intuition on data at this scale?

Again, we start by designing the human into the process. When PayPal was first starting as a business, their biggest challenge was not, "How do I send money back and forth online?" It was, "How do I do that without being defrauded by organized crime?" Why so challenging? Because while computers can learn to detect and identify fraud based on patterns, they can't learn to do that based on patterns they've never seen before, and organized crime has a lot in common with this audience: brilliant people, relentlessly resourceful, entrepreneurial spirit - (Laughter) - and one huge and important difference: purpose. And so while computers alone can catch all but the cleverest fraudsters, catching the cleverest is the difference between success and failure.

There's a whole class of problems like this, ones with adaptive adversaries. They rarely if ever present with a repeatable pattern that's discernable to computers. Instead, there's some inherent component of innovation or disruption, and increasingly these problems are buried in big data.

For example, terrorism. Terrorists are always adapting in minor and major ways to new circumstances, and despite what you might see on TV, these adaptations, and the detection of them, are fundamentally human. Computers don't detect novel patterns and new behaviors, but humans do. Humans, using technology, testing hypotheses, searching for insight by asking machines to do things for them. Osama bin Laden was not caught by artificial intelligence. He was caught by dedicated, resourceful, brilliant people in partnerships with various technologies.

As appealing as it might sound, you can not algorithmically data mine your way to the answer. There is no "Find Terrorist" button, and the more data we integrate from a vast variety of sources across a wide variety of data formats from very disparate systems, the less effective data mining can be. Instead, people will have to look at data and search for insight, and as Licklider foresaw long ago, the key to great results here is the right type of cooperation, and as Kasparov realized, that means minimizing friction at the interface.

Now this approach makes possible things like combing through all available data from very different sources, identifying key relationships and putting them in one place, something that's been nearly impossible to do before. To some, this has terrifying privacy and civil liberties implications. To others it foretells of an era of greater privacy and civil liberties protections, but privacy and civil liberties are of fundamental importance. That must be acknowledged, and they can't be swept aside, even with the best of intents.

So let's explore, through a couple of examples, the impact that technologies built to drive human-computer symbiosis have had in recent time.

In October,2007, U.S. and coalition forces raided an al Qaeda safe house in the city of Sinjar on the Syrian border of Iraq. They found a treasure trove of documents: 700 biographical sketches of foreign fighters. These foreign fighters had left their families in the Gulf, the Levant and North Africa to join al Qaeda in Iraq. These records were human resource forms. The foreign fighters filled them out as they joined the organization. It turns out that al Qaeda, too, is not without its bureaucracy. (Laughter) They answered questions like, "Who recruited you?" "What's your hometown?" "What occupation do you seek?"

In that last question, a surprising insight was revealed. The vast majority of foreign fighters were seeking to become suicide bombers for martyrdom -- hugely important, since between 2003 and 2007, Iraq had 1,382 suicide bombings, a major source of instability. Analyzing this data was hard. The originals were sheets of paper in Arabic that had to be scanned and translated. The friction in the process did not allow for meaningful results in an operational time frame using humans, PDFs and tenacity alone. The researchers had to lever up their human minds with technology to dive deeper, to explore non-obvious hypotheses, and in fact, insights emerged. Twenty percent of the foreign fighters were from Libya,50 percent of those from a single town in Libya, hugely important since prior statistics put that figure at three percent. It also helped to hone in on a figure of rising importance in al Qaeda, Abu Yahya al-Libi, a senior cleric in the Libyan Islamic fighting group. In March of 2007, he gave a speech, after which there was a surge in participation amongst Libyan foreign fighters.

Perhaps most clever of all, though, and least obvious, by flipping the data on its head, the researchers were able to deeply explore the coordination networks in Syria that were ultimately responsible for receiving and transporting the foreign fighters to the border. These were networks of mercenaries, not ideologues, who were in the coordination business for profit. For example, they charged Saudi foreign fighters substantially more than Libyans, money that would have otherwise gone to al Qaeda. Perhaps the adversary would disrupt their own network if they knew they cheating would-be jihadists.

In January,2010, a devastating 7.0 earthquake struck Haiti, third deadliest earthquake of all time, left one million people,10 percent of the population, homeless. One seemingly small aspect of the overall relief effort became increasingly important as the delivery of food and water started rolling. January and February are the dry months in Haiti, yet many of the camps had developed standing water. The only institution with detailed knowledge of Haiti's floodplains had been leveled in the earthquake, leadership inside. So the question is, which camps are at risk, how many people are in these camps, what's the timeline for flooding, and given very limited resources and infrastructure, how do we prioritize the relocation? The data was incredibly disparate. The U.S. Army had detailed knowledge for only a small section of the country. There was data online from a 2006 environmental risk conference, other geospatial data, none of it integrated. The human goal here was to identify camps for relocation based on priority need. The computer had to integrate a vast amount of geospacial information, social media data and relief organization information to answer this question. By implementing a superior process, what was otherwise a task for 40 people over three months became a simple job for three people in 40 hours,

all victories for human-computer symbiosis.

We're more than 50 years into Licklider's vision for the future, and the data suggests that we should be quite excited about tackling this century's hardest problems, man and machine in cooperation together. Thank you. (Applause) (Applause)

2つのチェスの試合をご紹介します 1つ目は1997年ガルリ・カスパロフ(世界王者)が ディープブルーというコンピューターに敗れました 多くの人にとってこれは新たな時代の幕開けでした 機械が人間を支配するような時代です それから20年が経った現在コンピューターとの付き合い方は かなり改善されiPad に象徴される時代になりました HALではありませんでした

2つ目の試合は2005年の「フリースタイル」のトーナメント 人間とコンピューターが対戦するだけでなく 人間とコンピューターが組んで参加しても良いものです 出だしの結果は予想通りで スーパーコンピューターでさえ人間のチャンピオンと 性能の劣るラップトップが組んだペアに敗れました 大番狂わせは最終戦でした 優勝者はチャンピオンとスーパーコンピューターのペアではなく 実は2人のアメリカの― アマチュアと3台の平凡なラップトップのチームでした 2人はコンピュータを駆使して臨機応変に様々な手を 探し出すように手法を採ることができたので 人間のチャンピオンの知識や 対戦相手のコンピュータの優れた計算能力をも― 凌駕したのです 平凡な人間と平凡なマシンが組んだチームが 最強の人も最高のマシンも打ち負かしたことは実に驚くべき結果です さて 人間にとって機械は競争相手なんでしょうか? いいえ 競争相手ではなく協力者―正しい形での協力が大切です

これまでの50年間 人工知能については マーヴィン・ミンスキーが描いた見方が重視されてきました これは多くの人が受け容れてきた魅力的な説で コンピューター・サイエンスにおいては主流の見方です しかしビッグ・データやオープン・プラットフォームや ネットや組込み技術が使われるような時代においては 別の見方をもう一度評価すべきと主張したいのです それはミンスキーの見方と同じ頃に生まれていた― J.C.R.リックライダーが提唱し今では― 「知能増幅」(IA)と呼ばれる人間とコンピューターの共益関係です

リックライダーはコンピューター・サイエンスの巨人で 計算技術とインターネットの発展に大いに貢献しました 彼の見方は意思決定や複雑な事象に対応する制御を 融通のきかない事前に定義されたプログラムだけに頼るのではなく 人間と機械が協力して 行うというものです キーワードは「協力」です リックライダーはトースターから 頭脳明晰なアンドロイドを作るのではなく 人間の能力をより広げることを唱えました 人間が持つ思考方式や非線形アプローチや 創造力や反復仮説は非常に驚くべき能力です コンピューターで仮に万一実現できるとしても 非常に難しい分野です 人間は 目標を設定し 仮説を作り 評価方法を設定し評価できるという違いを リックライダーは直感的に認識していました もちろん 一方で人間は多くの 限界があり拡張性 計算能力 処理量では弱いものです ロック・バンドが協力し演奏活動を 続けるには 高度なタレントマネジメントが必要です リックライダーは 洞察と意思決定に必要な― 定型化できる準備は コンピュータが全て行うようになると見通していました

静かに目立たないところで このアプローチがチェスに留まらず勝利を積み上げていきました タンパク質の折り畳み構造はチェスと同様非常に奥深いものです 宇宙の原子の数より多くの折り畳み組み合わせがあります 立体構造は病気を理解し治療する上で 世界が変わる程の大きな意味を持つ研究分野です この問題を解くにはスーパーコンピューターの力任せの計算だけでは足りません コンピュータ科学者が作ったFolditというゲームが この協力アプローチの価値を表す好例でしょう このゲームでは技術者でも生物学者でもない素人が 立体表示されたタンパク質の構造を組み替える作業をすることで コンピューターに原子間力や 相互作用や構造上の問題解明を任せました このアプローチはスーパーコンピューターの能力を 50%のケースで上回り30%で同等だとわかりました Folditは最近注目すべき大発見をしました メイソン・ファイザー・サルウイルスの分解酵素を解読したのです 10年間も わからなかった構造を 3人のゲーマーがほんの数日で解決してしまったのです ゲームをすることから生まれてくる 大きな科学技術を発展させるおそらく最初の例です

ツインタワーのあった場所に昨年 9.11の記念碑ができました この記念碑は「意味ある隣接関係」という 美しいコンセプトに基づいて何千もの犠牲者の名前を表示しています そこでは犠牲者の名が友人 家族 同僚など 人間関係に基づいて配置されています 3,500もの名前と1,800もの関係の要請を考慮して 関係を表現するのは計算処理として大きな挑戦です 全員の物理的な位置の制約と最終的な見た目の美しさを 両立する必要があります メディアに報道された当初 その功績はニューヨークのデザイン会社 Local Projectsによるアルゴリズムのものとされましたが アルゴリズムを使ってデザインを可能にする枠組みを提供し 人間がこの枠組みの上で最終的なデザインを描いたのです この場合コンピューターは何百万もの 可能なレイアウトを評価し複雑な関係性をやりくりし 膨大な形状や多様性のデータを管理して 逐一提示し人間が構成を選択しながら 人間はデザインや構成にだけ集中できるようにしたのです 周りを見れば見るほど リックライダーの予見した世界になっています それがiPhoneの拡張現実であれカーナビであれ 人間とコンピューターの共益関係は我々の能力を拡張しています

その協力関係を更に発展させるために 何ができるでしょうか? 人間の関与をプロセスに組み込んでデザインしましょう コンピュータを前提とした解決方法ではなく 人間の役割を考慮に入れて解決策をデザインするのです 実際に やってみると作業時間のほとんどが 人間と機械間のインターフェイスの開発に費やされたとわかります 特に両者間の摩擦が減るようにデザインするのに時間がかかります 人間や機械のそれぞれの能力がどの程度優れているがではなく この摩擦の大小こそが最終的な能力を より大きく左右します 数台のPCと素人がスーパーコンピューターとチャンピオンを たやすく打ち負かした理由もここにあります カスパロフが呼ぶようにプロセスには摩擦がつきものです プロセスがよければ摩擦は減ります そして摩擦をいかに軽減できるかが結果を握ります

他の例で言えば 例えばビッグデータ 世界中の我々の行動は電話端末や クレジットカードやコンピュータなどの増え続けるセンサー網で 集め記録されますその結果がビッグデータです それは人間の実態を より深く理解できるような機会を我々に与えてくれます ビッグデータへのほとんどのアプローチは 「どうデータを保管し 検索し 処理するか?」に 焦点がおかれています この観点は必要ですがこれでは不十分です 必要なのは「どう」処理するかではなく 「何を」処理しこの大規模なデータに対して 「人間の直観をどう生かすか」です

ここでも 人間をプロセスに組み込みます PayPalがビジネスを始めた当時彼らの最大の課題は 「ネット上で どうお金をやり取りするか?」ではなく 「組織的な詐欺行為をどう回避するか?」でした なぜそれほど難しいか?コンピューターは 過去のパターンに基づいて詐欺を検知できるようになりますが 未知のパターンから 詐欺を検知できるようにはなりません 犯罪組織と皆さんは似ています 優秀で 機知に富んでいてやってやろうという気概に満ちている(笑) ただ 1つ大きな違いがあってそれは「目的」です コンピューターだけでも詐欺のほとんどが見抜けられますが 最もずる賢い詐欺師を捕まえられるかどうかが 成功と失敗を分けるのです

このような問題はたくさんあります 常に新たな手を使う敵はコンピューターが認識できるような 手口の知られたパターンで現れることはめったになく 敵は常に革新・刷新を行っておりビッグデータに埋もれてしまって そうした問題がどんどん増えていっています

例えばテロですテロリストは大小様々な方法で 環境に適応し身を隠します テレビで見るのと違ってテロリストが潜伏するのも それを発見するのも根本的に人間です コンピューターは新手のパターンや未知の行動を探知できません 人間ならできます人間が技術を使い仮説を用いて 機械の助けを借りながら真相を洞察するのです ビン・ラディンを捕えたのは 人工知能ではなく 様々な技術に助けられた優秀で 機略に富む 懸命な人々でした

実現できればいいのですがデータから自動的に答えを 導きだすことはできません 「テロリストを見つける」なんてボタンはありませんし 多種多様な情報源から幅広い形式のデータを 集めれば集めるほどに そこから意味のある知識や情報を引き出すことは難しくなります そうならないように人間がまずデータを見て 洞察を行うのですリックライダーがずいぶん前に予見していたように 大きな結果は正しい協力から生まれます またカスパロフの認識どおり 協力するにはインターフェイスの摩擦を最小化する必要があります

これが実行できれば 様々な出所からのデータをあますところなく集めて解析して 重要な関連性を特定しそのデータだけを抽出できます 以前なら不可能だったことです これがプライバシーや自由への脅威となるか 反対に それらがより強固に保護される時代をもたらすか などと捉え方はそれぞれですが プライバシーや自由は基本的で重要なものです それは強く意識されなければなりませんし どんな理由があっても切り捨てることはできません

それでは人間とコンピューターの共益関係を 最大限に活かすように作られた技術の影響を示す 最近のいくつかの事例を見てみましょう

2007年10月米軍と同盟国の連合軍がシリアとの国境に位置し イラクの町 シンジャールにある アル・カーイダのアジトを急襲しました そこで貴重な書類の山を掘り当てました それは700人分もの外国人兵士の略歴でした 湾岸や地中海東側沿岸 そして アフリカの国々に家族を残しアル・カーイダ兵に志願した人々です 略歴書類はまるで職歴質問集で 兵達は入隊時に質問事項に回答していました アル・カーイダでさえも お役所みたいな形があるわけですね(笑) 質問は「誰に誘われたのか?」 「出身はどこか?」「希望の職種は何か?」といったものでした

そして最後の質問から驚くべき真相が現れました それら外国人兵のほとんどが 自爆テロによる殉死を望んでいたのです 2003年から2007年にかけてイラクでは1,382件の自爆テロ行為があり 情勢を不安定にしている大きな要因でした殉死願望は 非常に重要な真相です データの分析は困難でしたまず 原本はアラビア語で用紙のスキャンと翻訳が必要でした このプロセスでは摩擦が大きかったので 人間が根気づよくPDFを読み続ける程度では作戦に間に合う時間内に 有意義な結果を出せそうにありませんでした 調査員達は明らかになっていない― 仮説を探るべく技術でテコ入れして 深く思考する必要がありましたそして ある真相を明らかにしました 外国人兵の20%はリビア出身でした その内半分はとあるひとつの町出身でした重大な発見です これはそれまでの統計では3%という数字でした またこのデータはリビアの武装グループの アル・カーイダ内で地位が高まる指導者アブ・ヤハ・アルリビに 狙いを絞ることにひと役買いました 2007年に彼が演説を行ったのち リビア出身の兵士が急増していたのです

さらに 最もずる賢く全く目立たないものでしたが 調査員達は分析方法をがらりと変えることで シリアの紹介グループを深く探ることができました そのグループこそが外国人兵士の 受け入れと国境への移動を担っていました グループは宗教的イデオロギーの元に集まったのでなく お金のための傭兵紹介サービスでした 例えば リビア兵に比べてお金の取れる サウジ兵から高額な紹介料を巻き上げていました 取られなければ アル・カーイダが手にしたであろうお金でした 聖戦の兵士が詐取されていることを アル・カーイダが知ったら自軍側のグループを解消したことでしょう

2010年1月マグニチュード7.0の壊滅的な地震がハイチを襲いました 死者の数は観測史上 3番目で人口の10%にあたる 100万人が家を失いました 支援活動全体から見れば小さなことに見える1要素が 食料や水の配給が始まると 次第に重要な要素となりました 1月と2月はハイチの乾期ですが 多くの避難所では水が溜まっていきました ハイチの氾濫原を詳細に把握している 唯一の機関は 指揮系統もろとも地震で倒壊していました ここで知りたいのはどの避難所の危険度が高く それぞれ何人が避難生活をしており 洪水はいつ起こるのかということです 非常に限られた資源とインフラの下で避難所移転の順序をどう決めるのか? データは信じられないほどバラバラでした 米軍が詳細な情報を持っていたのは限られた地域のみでした 2006年環境リスク会議のデータも他の地理データも ネット上でバラバラに存在していました ここでの目標は危険度に基づいて移転する 避難所の優先順位をつけることでした そのためにコンピューターは膨大な 地理情報やソーシャル・メディアの情報支援機関からの情報を まとめなければなりませんでした この解決により優れたプロセスを創造したことで 40人がかりで3ヶ月はかかったであろう作業を たった3人が40時間で終えてしまいました

人間とコンピューターとの共益関係の成果です

リックライダーの予見から50年以上経った今 これまでのデータからすれば 人間とコンピュータが協力して今世紀の最も難しい問題の数々に 取り組めば 大きな成果を期待できるのです ありがとうございました (拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画