TED日本語 - レイラ・タカヤマ: ロボットの気持ちを考える ― 人間とロボットの共存社会を目指して

TED日本語

プレゼンテーション動画

TED日本語 - レイラ・タカヤマ: ロボットの気持ちを考える ― 人間とロボットの共存社会を目指して

TED Talks

ロボットの気持ちを考える ― 人間とロボットの共存社会を目指して
What's it like to be a robot?
レイラ・タカヤマ
Leila Takayama

内容

私たち人間は既にロボットに囲まれて生活しています。食洗機や自動温度調節器などの機械は私たちの生活に完全に調和していて、もはやそれらをロボットと呼ぶ必要さえ感じません。この先、ロボットがさらに普及する未来はどうなるでしょう?社会科学者のレイラ・タカヤマは人間とロボットのユニークな共存社会を設計しつつ、ロボットの将来を研究することは実は私たち人間をより深く理解することに繋がると提言します。

Script

You only get one chance to make a first impression, and that's true if you're a robot as well as if you're a person. The first time that I met one of these robots was at a place called Willow Garage in 2008. When I went to visit there, my host walked me into the building and we met this little guy. He was rolling into the hallway, came up to me, sat there, stared blankly past me, did nothing for a while, rapidly spun his head around 180 degrees and then ran away.

And that was not a great first impression. The thing that I learned about robots that day is that they kind of do their own thing, and they're not totally aware of us. And I think as we're experimenting with these possible robot futures, we actually end up learning a lot more about ourselves as opposed to just these machines. And what I learned that day was that I had pretty high expectations for this little dude. He was not only supposed to be able to navigate the physical world, but also be able to navigate my social world -- he's in my space; it's a personal robot. wWhy didn't it understand me? My host explained to me, "Well, the robot is trying to get from point A to point B, and you were an obstacle in his way, so he had to replan his path, figure out where to go, and then get there some other way," which was actually not a very efficient thing to do. If that robot had figured out that I was a person, not a chair, and that I was willing to get out of its way if it was trying to get somewhere, then it actually would have been more efficient at getting its job done if it had bothered to notice that I was a human and that I have different affordances than things like chairs and walls do.

You know, we tend to think of these robots as being from outer space and from the future and from science fiction, and while that could be true, I'd actually like to argue that robots are here today, and they live and work amongst us right now. These are two robots that live in my home. They vacuum the floors and they cut the grass every single day, which is more than I would do if I actually had time to do these tasks, and they probably do it better than I would, too. This one actually takes care of my kitty. Every single time he uses the box, it cleans it, which is not something I'm willing to do, and it actually makes his life better as well as mine. And while we call these robot products -- it's a "robot vacuum cleaner, it's a robot lawnmower, it's a robot littler box," I think there's actually a bunch of other robots hiding in plain sight that have just become so darn useful and so darn mundane that we call them things like, "dishwasher," right? They get new names. They don't get called robot anymore because they actually serve a purpose in our lives. Similarly, a thermostat, right? I know my robotics friends out there are probably cringing at me calling this a robot, but it has a goal. Its goal is to make my house 66 degrees Fahrenheit, and it senses the world. It knows it's a little bit cold, it makes a plan and then it acts on the physical world. It's robotics. Even if it might not look like Rosie the Robot, it's doing something that's really useful in my life so I don't have to take care of turning the temperature up and down myself.

And I think these systems live and work amongst us now, and not only are these systems living amongst us but you are probably a robot operator, too. When you drive your car, it feels like you are operating machinery. You are also going from point A to point B, but your car probably has power steering, it probably has automatic braking systems, it might have an automatic transmission and maybe even adaptive cruise control. And while it might not be a fully autonomous car, it has bits of autonomy, and they're so useful and they make us drive safer, and we just sort of feel like they're invisible-in-use, right? So when you're driving your car, you should just feel like you're going from one place to another. It doesn't feel like it's this big thing that you have to deal with and operate and use these controls because we spent so long learning how to drive that they've become extensions of ourselves. When you park that car in that tight little garage space, you know where your corners are. And when you drive a rental car that maybe you haven't driven before, it takes some time to get used to your new robot body. And this is also true for people who operate other types of robots, so I'd like to share with you a few stories about that.

Dealing with the problem of remote collaboration. So, at Willow Garage I had a coworker named Dallas, and Dallas looked like this. He worked from his home in Indiana in our company in California. He was a voice in a box on the table in most of our meetings, which was kind of OK except that, you know, if we had a really heated debate and we didn't like what he was saying, we might just hang up on him.

(Laughter)

Then we might have a meeting after that meeting and actually make the decisions in the hallway afterwards when he wasn't there anymore. So that wasn't so great for him. And as a robotics company at Willow, we had some extra robot body parts laying around, so Dallas and his buddy Curt put together this thing, which looks kind of like Skype on a stick on wheels, which seems like a techy, silly toy, but really it's probably one of the most powerful tools that I've seen ever made for remote collaboration. So now, if I didn't answer Dallas' email question, he could literally roll into my office, block my doorway and ask me the question again --

(Laughter)

until I answered it. And I'm not going to turn him off, right? That's kind of rude. Not only was it good for these one-on-one communications, but also for just showing up at the company all-hands meeting. Getting your butt in that chair and showing people that you're present and committed to your project is a big deal and can help remote collaboration a ton.

We saw this over the period of months and then years, not only at our company but at others, too. The best thing that can happen with these systems is that it starts to feel like you're just there. It's just you, it's just your body, and so people actually start to give these things personal space. So when you're having a stand-up meeting, people will stand around the space just as they would if you were there in person. That's great until there's breakdowns and it's not. People, when they first see these robots, are like, "Wow, where's the components? There must be a camera over there," and they start poking your face. "You're talking too softly, I'm going to turn up your volume," which is like having a coworker walk up to you and say, "You're speaking too softly, I'm going to turn up your face." That's awkward and not OK, and so we end up having to build these new social norms around using these systems.

Similarly, as you start feeling like it's your body, you start noticing things like, "Oh, my robot is kind of short." Dallas would say things to me -- he was six-foot tall -- and we would take him via robot to cocktail parties and things like that, as you do, and the robot was about five-foot-tall, which is close to my height. And he would tell me, "You know, people are not really looking at me. I feel like I'm just looking at this sea of shoulders, and it's just -- we need a taller robot." And I told him, "Um, no. You get to walk in my shoes for today. You get to see what it's like to be on the shorter end of the spectrum." And he actually ended up building a lot of empathy for that experience, which was kind of great. So when he'd come visit in person, he no longer stood over me as he was talking to me, he would sit down and talk to me eye to eye, which was kind of a beautiful thing.

So we actually decided to look at this in the laboratory and see what others kinds of differences things like robot height would make. And so half of the people in our study used a shorter robot, half of the people in our study used a taller robot and we actually found that the exact same person who has the exact same body and says the exact same things as someone, is more persuasive and perceived as being more credible if they're in a taller robot form. It makes no rational sense, but that's why we study psychology. And really, you know, the way that Cliff Nass would put this is that we're having to deal with these new technologies despite the fact that we have very old brains. Human psychology is not changing at the same speed that tech is and so we're always playing catch-up, trying to make sense of this world where these autonomous things are running around. Usually, things that talk are people, not machines, right? And so we breathe a lot of meaning into things like just height of a machine, not a person, and attribute that to the person using the system.

You know, this, I think, is really important when you're thinking about robotics. It's not so much about reinventing humans, it's more about figuring out how we extend ourselves, right? And we end up using things in ways that are sort of surprising. So these guys can't play pool because the robots don't have arms, but they can heckle the guys who are playing pool and that can be an important thing for team bonding, which is kind of neat. People who get really good at operating these systems will even do things like make up new games, like robot soccer in the middle of the night, pushing the trash cans around.

But not everyone's good. A lot of people have trouble operating these systems. This is actually a guy who logged into the robot and his eyeball was turned 90 degrees to the left. He didn't know that, so he ended up just bashing around the office, running into people's desks, getting super embarrassed, laughing about it -- his volume was way too high. And this guy here in the image is telling me, "We need a robot mute button." And by that what he really meant was we don't want it to be so disruptive. So as a robotics company, we added some obstacle avoidance to the system. It got a little laser range finder that could see the obstacles, and if I as a robot operator try to say, run into a chair, it wouldn't let me, it would just plan a path around, which seems like a good idea.

People did hit fewer obstacles using that system, obviously, but actually, for some of the people, it took them a lot longer to get through our obstacle course, and we wanted to know why. It turns out that there's this important human dimension -- a personality dimension called locus of control, and people who have a strong internal locus of control, they need to be the masters of their own destiny -- really don't like giving up control to an autonomous system -- so much so that they will fight the autonomy; "If I want to hit that chair, I'm going to hit that chair." And so they would actually suffer from having that autonomous assistance, which is an important thing for us to know as we're building increasingly autonomous, say, cars, right? How are different people going to grapple with that loss of control? It's going to be different depending on human dimensions. We can't treat humans as if we're just one monolithic thing. We vary by personality, by culture, we even vary by emotional state moment to moment, and being able to design these systems, these human-robot interaction systems, we need to take into account the human dimensions, not just the technological ones.

Along with a sense of control also comes a sense of responsibility. And if you were a robot operator using one of these systems, this is what the interface would look like. It looks a little bit like a video game, which can be good because that's very familiar to people, but it can also be bad because it makes people feel like it's a video game. We had a bunch of kids over at Stanford play with the system and drive the robot around our office in Menlo Park, and the kids started saying things like, "10 points if you hit that guy over there. 20 points for that one." And they would chase them down the hallway.

(Laughter)

I told them, "Um, those are real people. They're actually going to bleed and feel pain if you hit them." And they'd be like, "OK, got it." But five minutes later, they would be like, "20 points for that guy over there, he just looks like he needs to get hit." It's a little bit like "Ender's Game," right? There is a real world on that other side and I think it's our responsibility as people designing these interfaces to help people remember that there's real consequences to their actions and to feel a sense of responsibility when they're operating these increasingly autonomous things.

These are kind of a great example of experimenting with one possible robotic future, and I think it's pretty cool that we can extend ourselves and learn about the ways that we extend ourselves into these machines while at the same time being able to express our humanity and our personality. We also build empathy for others in terms of being shorter, taller, faster, slower, and maybe even armless, which is kind of neat.

We also build empathy for the robots themselves. This is one of my favorite robots. It's called the Tweenbot. And this guy has a little flag that says, "I'm trying to get to this intersection in Manhattan," and it's cute and rolls forward, that's it. It doesn't know how to build a map, it doesn't know how to see the world, it just asks for help. The nice thing about people is that it can actually depend upon the kindness of strangers. It did make it across the park to the other side of Manhattan -- which is pretty great -- just because people would pick it up and point it in the right direction.

(Laughter)

And that's great, right?

We're trying to build this human-robot world in which we can coexist and collaborate with one another, and we don't need to be fully autonomous and just do things on our own. We actually do things together. And to make that happen, we actually need help from people like the artists and the designers, the policy makers, the legal scholars, psychologists, sociologists, anthropologists -- we need more perspectives in the room if we're going to do the thing that Stu Card says we should do, which is invent the future that we actually want to live in.

And I think we can continue to experiment with these different robotic futures together, and in doing so, we will end up learning a lot more about ourselves.

Thank you.

(Applause)

ロボットにも 人間にも言えることですが 第一印象は 相手に一度限りしか 与えることができません 私がこんなロボットと 初めて出会ったのは2008年 ― ウィロー・ガレージという所でした 受け入れ担当者に導かれて建物に入ると この小さな物体に出くわしたのです 彼は廊下を移動していましたが 私に近づくと そこで立ち止まって ぼんやりと私の方を見ていました しばらくじっとしていましたが 急にくるりと向きを変えると 走り去って行きました

あまり良い第一印象ではありませんでした あの日 私がロボットについて学んだのは 彼らはある程度の自律行動が できるけれども 人間をまったく認識できない ということでした 私たちが将来のロボットを見据えて 実験する中で学ぶことも 結局のところ ロボット本体よりも 人間についての方が多いと思います あの日私はこの小さな機械に かなり高い期待を抱いていたのでした 彼は物理世界の自律移動だけでなく 私の社会性にも対応できると 思っていました 私のスペースに入ってくる パーソナルロボットなのです どうして私を理解できないのでしょう? 担当者がこう説明しました ― 「つまり あのロボットは A地点からB地点へ行く途中で あなたが障害物になったのだ だから経路を考え直し どちらに進むべきか判断し 別の経路を選んだのだ」 そういうやり方は あまり効率的とは言えません 私が椅子ではなく人間で どこかに向かっているロボットには 喜んで道を譲るものだと ロボット自身が気づいたなら その任務を果たす効率的な方法は あえて 私が人間だと認識し 椅子や壁とは違う扱い方をすることなのです

私たちはロボットのことを 宇宙や未来やSF小説からやって来ると とかく考えがちです そういう面もありますが ロボットはもうすでに実在していて 今まさに我々と共に活動しているという お話をします この2台のロボットは私の家にいて 掃除機をかけたり庭の芝刈りを 毎日行います 時間があっても 私はそんなに多くはやりませんし 仕上がりも私より上手です このロボットは子猫の世話をします 子猫がトイレを使うたびに 毎回 掃除します それは 私が喜んですることではないので 子猫だけでなく私の生活も向上しています こういう「ロボット」を冠した製品 ― “ロボット掃除機” “ロボット芝刈機” “猫用ロボットトイレ”だけでなく 他にも色々なロボットが 目立たずに活躍しています 非常に役立つけれど ありきたりのやつは 食洗機なんて呼ばれています 新しい名前も与えられ ロボットと呼ばれないのは 暮らしに役立つ存在になっているからです 自動温度調節器もそうです 私がこれをロボットと呼ぶと その筋の人は恐らく いやな顔をするでしょうが 目的が与えられた機器です 私の家の中を19℃に保つという目的のため 周囲の世界を計測しています 少し気温が下がると 計画を立て 物理世界に働きかけます まさにロボット工学です 「ロボットのロージー」のキャラとは 似ていなくても 私の生活に非常に役立っています わざわざ自分で室内温度を 上げ下げする必要がありませんから

このようなシステムは 今や私たちの生活の一部です こんなシステムが暮らしに 入り込んでいるだけでなく みなさんはおそらく ロボットの操縦もしています 車を運転しているときに 機械を操縦しているような感じですね A地点からB地点に行こうとするだけですが 車にはパワーステアリングや 自動ブレーキ オートマや適応走行制御システムが 装備されています 完全自律走行車ではないかも知れませんが ある程度の自律性を有して とても役立っています 運転を安全にする機能ですが 使っていても 空気のような存在ですよね 車を運転するときには 別の場所への移動だけを考えればよいのです 自分で判断して操作しなければいけない 厄介な仕事だと 感じることがないのは 運転の仕方を長い時間をかけて身につけ 拡張された自分自身と感じられるほどに なっているからです 車庫の狭く限られたスペースに 駐車するときでも 車体の端がどこにあるかわかりますよね レンタカーを借りた時 初めて運転する車種ならば 新しいロボットの機体に慣れるまで 少し時間がかかりますね 別の種類のロボットを操作する人にも 同じことがいえるのです それについて 少しお話をしたいと思います

まずは遠隔共同作業という課題を どう扱うかです ウィロー・ガレージには ダラスという同僚がいて こんな感じです 会社はカリフォルニアにありますが 彼はインディアナにある自宅から働いています 彼が卓上にある音声機材で 会議に参加するのは 概ね問題はありませんが ただ 議論が白熱して ダラスの意見が気に入らないときには 途中で回線を 切ってしまうこともあります

(笑)

あるいは 会議を繰り返すようなときには 意思決定は 実は後で廊下で行われたりするのですが ダラスはそこにいないのです 彼にとっては面白くありません 私たちの会社には いくつかロボットの部品の余りがあり ダラスと友人のカートは部品を組み合わせ 棒にスカイプ画面と車輪を取り付けました 技術オタクの ふざけたおもちゃみたいですが 恐らく今までに見た遠隔共同作業用の ツールの中で 最も強力なものです それからというもの ダラスからのメールに返信しないと 彼は私のオフィスに 文字通り転がり込んで 入口に立ちふさがり 返答を求め続けます

(笑)

こちらが回答するまでです 電源を切ることはできないですよね 失礼だから こういう1対1の コミュニケーションだけでなく 全社会議に参加するのにも使えます 自宅オフィスの席に陣取りながらも 見える形で全社会議に参加して プロジェクトへの貢献を示すのは とても大切なことで 遠隔共同作業の効率も上がります

遠隔参加は何カ月もそして何年も継続し 他の会社でも目にするようになりました このようなシステムの最大の長所は 同じ空間を共有していると 感じ始めることです それはその人 ― その人の体であり その人のためのスペースも 用意されるようになります スタンドアップ・ミーティングでは あたかも その人がその場にいるように 参加者はそのロボットの周りに集まります いいことだけでなく うまく行かない面もあります 初めてこのロボットに出会った人は 「わぁ!どうなっているの? ここにカメラがあるに違いない」と 顔のあたりをつつき始めます 「声が小さすぎるよ ボリュームを上げよう」 これは同僚が近づいてきて こう言うようなもの 「声が小さすぎるわ 顔を上向きにするわよ」 これはマズイですね そこでこういったシステムに関して 新しい社会規範を作り上げないと いけなくなりました

また 本人がロボットを 自分の本体と感じ始めると同時に こんなことに気づくのです 「あれ ロボット版の自分は背が低いな」と ダラスも私にそう言いました 彼は180センチだったからです ですからロボットを介して カクテル・パーティーに連れて行くと こんな感じです ロボットは150センチほどで私と同じ位です ダラスはこう言いました 「どうやら みんな僕の顔を見ていないな 肩また肩の並びしか見えないんだ 長身ロボットが欲しいな」 でも私の答えはこうでした 「いいえ 要らないわ 今日 私の立場がわかったでしょ 背が低い人たちの視界で見ているだけよ」 そして彼自身その経験を通して 気遣いもできるようになりました ありがたいことです ダラス本人が会社を訪れた時も 彼はもはや私を見下ろすことはなく 椅子に腰掛けて 同じ目線で話してくれるようになりました 素敵ですよね

そこで私たちは ロボットの 背の高さみたいなことで どのような違いが生まれるのか 実験することにしました 私たちの研究では 半数の人は背の低いロボットを使用し 半数の人は背の高いロボットを 使用しました そして同一人物が 同じ身体を画面に映して 同じ事を誰かに言ったときに 背の高いロボットを使った方が 説得力があり 信頼感を与えることが判明しました 合理的な意味づけはできませんが だからこそ心理学があるわけです クリフ・ナス教授だったら こんな言い方をしたことでしょう 私たちはこういう新しい技術に対して 昔からの古い頭脳で対応しなければなりません 人間の心理は技術のような 速さでは変わりませんが 自律型機器が動き回る世界を きちんと理解するためには 追いつかないといけないことだらけです 大概 人は話しますが機械は話しません 人ではなく ただの機械の背丈に 多くの意味を与えてしまい その意味付けを システムの利用者にも あてはめてしまうのです

ロボット工学を考えるときに 重要なのは 人間を再発明するようなことを 考えるのではなく 私たち人間がどれだけ可能性を広げられるか 見極めていくことでないでしょうか? 結局 こういうものを使っているうちに 驚くような事態も生じました このロボットには腕がないので ビリヤードができませんでしたが ビリヤードをする人をヤジることはでき それはチームが団結するために重要なことで 素晴らしいことでした ロボットのシステム操作が得意な人は 新しい遊びを考えたりしました 深夜にゴミ箱を押して廻って ロボット・サッカーをするのです

しかし 誰もが 操作が得意な訳ではなく システム操作に苦労する人も多いのです ある人はロボットにログインした時 視野が90度左にずれていましたが それに気づかず 移動する度にあちこちぶつかり 人の机に突っ込んだりと 非常に恥ずかしい目にあい それを笑っていました その声も大きすぎでした それでこの画面の人はこう言いました 「ロボットに消音ボタンを取り付けよう」 つまり 周りの人を邪魔しない為の機能です 私たちはロボットの会社として システムに障害物回避機能を取り付けました レーザー測距システムを導入し 障害物が分かるようにしたのです 例えば私がロボットを操縦していて 椅子にぶつりそうになっても ロボットは衝突を避け 回避経路を探すのです 良い考えに思えます

このシステムを使えば 明らかに 障害に衝突しなくなります しかし その一方で何人かは 障害コースを通過するのに ずっと長い時間がかかる人もいました その理由を調べたところ それは人間の重要な側面である 「統制の所在」と言われる 人格側面が関与していて 内的統制の強い人は 自分の力で目的地まで行こうとします 主導権を自律システムに譲ろうとせず 自律システムと戦わんとする勢いでした 「僕が椅子にぶつかりたいときは ぶつからないと」という具合です そういう人は自律型システムの支援のせいで かえって苦戦するのです こういうことを知るのは大事です 自律性をさらに高めて 自動車などを 作ろうとしている時代なのですから 制御を委ねるという課題に 多様な人々がどう対処していくのでしょうか? それぞれの人間的側面によって異なります 私たちは人間を一枚岩のように 扱うことはできません その人の人格や文化や 刻々と変わる情動状態も異なるため こういうシステム ― HRIシステムをデザインするには 技術の側面だけでなく 人間の側面を考慮する必要があります

コントロール感と共に 責任感も問題となります この制御システムを使って ロボットを操作するときの インターフェースはこうなっています まるでビデオゲームのようで 誰にとっても馴染み深いという利点とともに ビデオゲームだと 錯覚してしまうという欠点があります スタンフォード大学には システムを操作する大勢の学生がいて メンロパークの事務所の周辺で ロボットを操縦しながら こんなことを言うのです 「向こうの男にぶつけたら10点 あいつに当てたら20点」 そして人々を廊下で追いかけたりします

(笑)

私が「えっと あの人たちは 生身の人間だから もしぶつけたら 出血して痛いと思うわ」と言うと 納得したような返事をしますが 5分後には こんな話をしています 「向こうにいるあの男に当てたら20点 あの人 ぶつけてほしいんじゃないかな」 『エンダーのゲーム』みたいですね 向こう側も現実世界であり こういうインターフェースを 設計する側としては 利用者に 行動には現実の結果が伴うということと ますます自律的になる 機械を操縦するときは 責任感を持つよう促す 必要があると思います

ここまでの内容は ロボットと共に迎える未来を 想定した実験の好例と言えるでしょう 我々が自己を拡張できることや こういう機械を用いて 自己を拡張する方法を学び その時同時に 自分たちの 人間性や個性を表現できるのは 素晴らしいことです また「背が低い」「高い」 「足が速い」「遅い」とか それに「腕がない」など 相手の状況に 共感することを学べたのも 素敵なことです

私たち人間はロボット本体にも共感します これは私のお気に入りのロボットで トゥイーンボットといいます このロボットには小さな旗がついていて 「僕はマンハッタンの交差点に 行きたいんだ」 そう書いてあり 前にだけ進む 可愛いロボットです このロボットはマップ構築の仕方も 世界を認識する方法も知らないので 人々の助けが必要です 実はロボットも 見知らぬ人の善意に頼ることができるのです 公園を横切り マンハッタンの向こう側まで行けたのは ― すごいことでしょ ― みんなが正しい向きに 直してくれるお陰です

(笑)

すごいと思いませんか?

私たちは人間とロボットが共存し お互いが協力できる社会を 実現しようとしています 完全に自律にする必要も 物事を人間だけで行う必要もありません 人間とロボットとで一緒にやるのです 実現には 芸術家やデザイナー 政策立案者や法学者 心理学者 社会学者 ― そして人類学者の力が必要です スチュアート・カードの言う 私たちがすべきこと ― すなわち私たちが望む世界を 築き上げていくためには もっと多様な見方を結集することが必要です

さまざまなロボットの未来に向けた研究を 今後も共に重ねていくことで 私たち自身を 深く理解することができるでしょう

ありがとうございました

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画