TED日本語 - セバスチャン・デターディング: デザインが私たちについて教えてくれること


TED Talks(英語 日本語字幕付き動画)

TED日本語 - セバスチャン・デターディング: デザインが私たちについて教えてくれること

TED Talks

What your designs say about you
Sebastian Deterding




We are today talking about moral persuasion. What is moral and immoral in trying to change people's behaviors by using technology and using design?

And I don't know what you expect, but when I was thinking about that issue, I early on realized what I'm not able to give you are answers. I'm not able to tell you what is moral or immoral because we're living in a pluralist society. My values can be radically different from your values. Which means that what I consider moral or immoral based on that might not necessarily be what you consider moral or immoral.

But I also realized that there is one thing that I could give you. And that is what this guy behind me gave the world -- Socrates. It is questions. What I can do and what I would like to do with you is give you, like that initial question, a set of questions to figure out for yourself, layer by layer, like peeling an onion, getting at the core of what you believe is moral or immoral persuasion. And I'd like to do that with a couple of examples of technologies where people have used game elements to get people to do things.

So it's a first very simple, a very obvious question I would like to give you: What are your intentions if you are designing something? And obviously intentions are not the only thing, so here is another example for one of these applications. There are a couple of these kinds of eco-dashboards right now -- so dashboards built into cars which try to motivate you to drive more fuel efficiently. This here is Nissan's MyLeaf, where your driving behavior is compared with the driving behavior of other people, so you can compete for who drives around the most fuel efficiently. And these things are very effective, it turns out, so effective that they motivate people to engage in unsafe driving behaviors -- like not stopping on a red headlight. Because that way you have to stop and restart the engine, and that would use quite some fuel, wouldn't it? So despite this being a very well-intended application, obviously there was a side effect of that.

And here's another example for one of these side effects. Commendable: a site that allows parents to give their kids little badges for doing the things that parents want their kids to do -- like tying their shoes. And at first that sounds very nice, very benign, well intended. But it turns out, if you look into research on people's mindset, that caring about outcomes, caring about public recognition, caring about these kinds of public tokens of recognition is not necessarily very helpful for your long-term psychological well-being. It's better if you care about learning something. It's better when you care about yourself than how you appear in front of other people. So that kind of motivational tool that is used actually in and of itself has a long-term side effect in that every time we use a technology that uses something like public recognition or status, we're actually positively endorsing this as a good and a normal thing to care about -- that way, possibly having a detrimental effect on the long-term psychological well-being of ourselves as a culture.

So that's a second, very obvious question: What are the effects of what you're doing? The effects that you're having with the device, like less fuel, as well as the effects of the actual tools you're using to get people to do things -- public recognition.

Now is that all -- intention, effect? Well there are some technologies which obviously combine both. Both good long-term and short-term effects and a positive intention like Fred Stutzman's Freedom, where the whole point of that application is, well, we're usually so bombarded with calls and requests by other people, with this device you can shut off the Internet connectivity of your PC of choice for a preset amount of time to actually get some work done. And I think most of us will agree, well that's something well intended and also has good consequences. In the words of Michel Foucault, "It is a technology of the self." It is a technology that empowers the individual to determine its own life course, to shape itself.

But the problem is, as Foucault points out, that every technology of the self has a technology of domination as its flip side. As you see in today's modern liberal democracies, the society, the state, not only allows us to determine our self, to shape our self, it also demands it of us. It demands that we optimize ourselves, that we control ourselves, that we self-manage continuously because that's the only way in which such a liberal society works. These technologies want us to stay in the game that society has devised for us. They want us to fit in even better. They want us to optimize ourselves to fit in.

Now I don't say that is necessarily a bad thing. I just think that this example points us to a general realization, and that is no matter what technology or design you look at, even something we consider as well intended and as good in its effects -- like Stutzman's Freedom -- comes with certain values embedded in it. And we can question these values. We can question: Is it a good thing that all of us continuously self-optimize ourselves to fit better into that society?

Or to give you another example, what about a piece of persuasive technology that convinces Muslim women to wear their headscarves? Is that a good or a bad technology in its intentions or in its effects? Well that basically depends on the kind of values that you bring to bear to make these kinds of judgments.

So that's a third question: What values do you use to judge? And speaking of values, I've noticed that in the discussion about moral persuasion online, and when I'm talking with people, more often than not there is a weird bias. And that bias is that we're asking, is this or that "still" ethical? Is it "still" permissible? We're asking things like, Is this Oxfam donation form -- where the regular monthly donation is the preset default and people, maybe without intending it, are that way encouraged or nudged into giving a regular donation instead of a one-time donation -- is that still permissible? Is it still ethical? We're fishing at the low end.

But in fact, that question "Is it still ethical?" is just one way of looking at ethics. Because if you look at the beginning of ethics in Western culture, you see a very different idea of what ethics also could be. For Aristotle, ethics was not about the question, is that still good, or is it bad? Ethics was about the question of how to live life well. And he put that in the word "arete," which we, from the [ Ancient Greek ], translate as "virtue." But really it means excellence. It means living up to your own full potential as a human being.

And that is an idea that, I think, that Paul Richard Buchanan nicely put in a recent essay where he said, "Products are vivid arguments about how we should live our lives." Our designs are not ethical or unethical in that they're using ethical or unethical means of persuading us. They have a moral component just in the kind of vision and the aspiration of the good life that they present to us.

And if you look into the designed environment around us with that kind of lens, asking, "What is the vision of the good life that our products, our design, present to us?", then you often get the shivers, because of how little we expect of each other, of how little we actually seem to expect of our life and what the good life looks like.

So that's the fourth question I'd like to leave you with: What vision of the good life do your designs convey? And speaking of design, you notice that I already broadened the discussion. Because it's not just persuasive technology that we're talking about here, it's any piece of design that we put out here in the world.

I don't know whether you know the great communication researcher Paul Watzlawick who, back in the '60s, made the argument we can not not communicate. Even if we choose to be silent, we chose to be silent. We're communicating something by choosing to be silent. And in the same way that we can not not communicate, we can not not persuade. Whatever we do or refrain from doing, whatever we put out there as a piece of design into the world has a persuasive component. It tries to affect people. It puts a certain vision of the good life out there in front of us.

Which is what Peter-Paul Verbeek, the Dutch philosopher of technology, says. No matter whether we as designers intend it or not, we materialize morality. We make certain things harder and easier to do. We organize the existence of people. We put a certain vision of what good or bad or normal or usual is in front of people by everything we put out there in the world.

Even something as innocuous as a set of school chairs is a persuasive technology. Because it presents and materializes a certain vision of the good life -- the good life in which teaching and learning and listening is about one person teaching, the others listening, in which it is about, learning is done while sitting, in which you learn for yourself, in which you're not supposed to change these rules because the chairs are fixed to the ground.

And even something as innocuous as a single design chair -- like this one by Arne Jacobsen -- is a persuasive technology. Because, again, it communicates an idea of the good life. A good life -- a life that you say you as a designer consent to by saying, "In the good life, goods are produced as sustainably or unsustainably as this chair. Workers are treated as well or as badly as the workers were treated who built that chair." The good life is a life where design is important because somebody obviously took the time and spent the money for that kind of well-designed chair, where tradition is important because this is a traditional classic and someone cared about this, and where there is something as conspicuous consumption, where it is okay and normal to spend a humungous amount of money on such a chair to signal to other people what your social status is.

So these are the kinds of layers, the kinds of questions I wanted to lead you through today -- the question of, What are the intentions that you bring to bear when you're designing something? What are the effects, intended and unintended, that you're having? What are the values you're using to judge those? What are the virtues, the aspirations that you're actually expressing in that? And how does that apply, not just to persuasive technology, but to everything you design?

Do we stop there? I don't think so. I think that all of these things are eventually informed by the core of all of this -- and this is nothing but life itself. Why, when the question of what the good life is informs everything that we design, should we stop at design and not ask ourselves, how does it apply to our own life? "Why should the lamp or the house be an art object, but not our life?" as Michel Foucault puts it.

Just to give you a practical example of Buster Benson. This is Buster setting up a pull-up machine at the office of his new startup Habit Labs, where they're trying to build up other applications like Health Month for people. And why is he building a thing like this? Well here is the set of axioms that Habit Labs, Buster's startup, put up for themselves on how they wanted to work together as a team when they're building these applications -- a set of moral principles they set themselves for working together -- and one of them being, "We take care of our own health and manage our own burnout."

Because ultimately how can you ask yourselves and how can you find an answer on what vision of the good life you want to convey and create with your designs without asking the question, what vision of the good life do you yourself want to live?

And with that, I thank you.


今日は道徳的説得について お話しします 技法やデザインを用いて 人の行動を変えようとする場合 道徳的・非道徳的なこととは 何でしょうか?

皆さんの意見は分かりませんが 私が この問題について考えた時 早い段階で気付いたのは 私は答えられないということでした 何が道徳的・非道徳的かを 答えられないのは 私たちの社会が多元的だからです 私の価値観は 皆さんの価値観と 全く違うかもしれません つまり私の価値観で下した 道徳・非道徳の判断は 皆さんのそれと 必ずしも一致しないかもしれません

でも お伝えできることが 1つあります それは 私の後ろの人が 世界に示したもの ― ソクラテスによる 「問うこと」です 私にできる事 皆さんと一緒にしたい事は 冒頭で質問したような 一連の問いについて 皆さんが自分で考え 玉ねぎの皮のように 1枚ずつむいて 皆さんが自分の信じる 道徳的・非道徳的説得が何であるか ということの核心に至ることです そのために いくつか例を挙げてみます 人を操るための ゲーム要素を用いた 技法の例です

皆さんに対する 1つ目の質問は とても単純で 明白な質問です 皆さんが何かをデザインする時 その目的は何でしょう? でも目的だけを考えれば 良いわけではありません そこで別の例を挙げてみましょう これは環境影響ダッシュボードです 表示盤は車内に搭載され より燃費の良い運転を 促してくれます 日産のマイリーフ は 自分の運転と 他の人の運転を比べることで 一番燃費の良い運転をするのは誰かを 競い合うことができます これらは非常に効果的です しかし - あまりに効果的すぎて 赤信号で止まらないような 危険な運転を助長しました なせなら一度エンジンを止めて かけ直すと 多くのガソリンを使ってしまうからです つまり とても良い目的のもとに 作られたものでも 明らかに副作用があったわけです

副作用の例を もう1つ挙げてみましょう 褒められることです あるウェブサイトで  子供が親の望むことをすると 小さなバッジがもらえるという サービスがあります 自分で 靴ひもを結ぶとか 一見 とても良いことで 無害で善意的に思えます しかし 人々の思考についての 調査を詳しく調べると 成果を気にすることや 公的評価を気にしたり このような公的な景品を 気にすることは 長い目で見た精神的な健康には 必ずしも 有用ではないのです 学ぶことを目的とし 他人にどう見られるかではなく 自分自身に目を向ける方が ずっと良いのです こういった動機付けのツールは その中 あるいはそれ自体に 長期的な副作用を伴い 公的評価や社会的地位などが絡んだ 技法を使うたびに 評価を重視することが 良く 当たり前のことだと 認めるようなものです 文化としての 私たちの長期的な 精神的健康に 弊害を及ぼすかもしれないのです

ですから これが2つ目の 明白な質問になります 皆さんがやっていることは どんな結果を生みますか? 燃料を節約できる 道具を使うことの効果 そして 人に何かをさせるために使う 公的な評価のような ツールの効果です

目的、効果 これで全部でしょうか? 当然 その両方を 兼ね備えた技法もあります どちらも長期的・短期的に 良い効果があり フレッド・スタッツマンが設計した Freedomのような 好意的な意図があります このプログラムでは 煩わしい他人からの呼び出しや リクエスト攻撃に対して 予め設定した時間 PCのインターネット接続を遮断し 効率的に仕事を終わらせることができます ほとんどの方が 同意して下さるでしょうが このプログラムは善意的で 良い成果が期待できます 哲学者のミシェル・フーコーの言う 「自己のテクノロジー」です 個人を奮起させて 人生の歩むべき道を決定し 自己を形成するという 技術です

しかし 問題は フーコーが指摘したとおり すべての自己のテクノロジーは 統治する力を伴います 今日の現代自由民主主義に 見られるように 国や社会は 私たちの自己決定や自己形成を 認めるだけでなく それを要求します 私たちが効率的になることを追求し 自己制御し 常に自己管理を行うよう 要求しているのです それがリベラルな社会が機能する 唯一の方法だからです これらの技法は 私たちが 社会の一員であり続けるよう 社会が考案したものです より適合して欲しいのです そのために 効率を高めることを求めます

これは必ずしも悪いことではありません 私が思うに この例は 普遍的理解に目を向けさせます 技法やデザインが何であれ 善良で良い効果が期待されると思っても スタッツマンのFreedomのように 特定の価値を伴うということです そして私たちは それらの価値を問うことができます その問いとは 私たち全員が 社会に より適合するために 絶え間なく自己の効率を 高めるのは良いことか?です

別の例を挙げてみましょう イスラム教徒の女性に スカーフを着用させる 説得方法について考えてみましょう その目的や効果において それは良い方法ですか 悪い方法ですか? 基本的には こういった判断を下すには 皆さんの価値観を動員しますよね

そこで3つ目の質問です 皆さんが判断を下す際 何の価値観を利用するか? 価値観といえば オンライン上で道徳的説得について 他の人と議論していた時に 大抵の場合 奇妙な偏見が あることに気付きました その偏見とは 私たちが 問いかけているもので 「どこまで」が倫理的か? 「どこまで」が許容範囲内か? というものです 例えば オックスファムに寄付する時のフォームは 毎月の寄付という形が 予め設定されていて おそらく無意識の内に 一度限りの募金ではなく 月々の寄付を行うことを 奨励されたり 促されています これは許容範囲内でしょうか? これは倫理的でしょうか? 低次元の議論に見えますよね

でも実際には 「どこまでが倫理的か?」 という質問が 道徳性を図る 方法の1つです 西洋文化における 倫理観の入り口を 見てみると 倫理観の全く違ったアイデアを ご覧いただけると思います アリストテレスにとって倫理観とは 「これは許される範囲にあるか?」 という質問ではありませんでした 倫理性とは どのように良い生活を 営めるかという問題でした 彼は これを「アレテー」という 言葉で表現しました 古代ギリシャ語で 翻訳すると「美徳」ですが 本当のところ「卓越性」を意味します それは人間としての 可能性を最大限に利用して 生活するということです

そして この考えを ポール・リチャード・ブキャナンは 最近の論文で上手く表現しています 「製品とは私たちの生き方について 鮮明な議論をもたらす」と 物のデザインは 私たちを説得する方法において 倫理的でも 非倫理的でもありません デザインとは 単に私たちに 豊かな生活という ビジョンや 憧れを与えてくれる 道徳的要素が含まれているのです

皆さんの周りの デザインを見てください そして問いかけてみてください 「私たちの製品やデザインが示している 豊かな生活というビジョンは何か?」 すると私たちが いかにお互いに期待していないか 自分たちの生活や 豊かな生活だと思えるものに どれだけ期待していないかに 気付いてしまって 身震いするかもしれませんね

そこで 私からの4つ目の質問です 皆さんの デザインで伝えたい 豊かな生活のイメージとは何ですか? デザインといえば ― 先ほど既に議論を広げましたよね なぜなら 説得するという 技法だけではなく 世の中の全てのデザインが 関係するからです

皆さん ご存じか分かりませんが 偉大なコミュニケーション学者の ポール・ワツラウィックは 60年代に「私たちはコミュニケーションを 避けることはできない」という議論をしました たとえ声には出さなくとも 黙っていることを選択していますし 黙ることで 何かを伝達します そしてコミュニケーションを 避けられないように 説得することも 避けられません 私たちが何かする時 あるいはしない時 それをデザインの一部として 世間に提示するたびに 人を説得する要素を持ち合わせるのです これが私たちに影響を与え 豊かな暮らしという 特定のイメージを そこに提示するのです

オランダ人でテクノロジーの哲学を展開する ピーター・ポール・ヴァービークは デザイナーとしての私たちが 意図しているか否かに関わらず 道徳規範を具現化すると話します あるものを ややこしくしたり 簡単にしたりという具合に 人の存在を 体系化するのです 私たちは世の中にあるものを通して 決められた尺度で 良いか悪いか 標準か普通かという 判断を下しているのです

一見 無害に見える 学校の椅子でさえ 説得する技法なのです 豊かな生活を想起させるような 特定のイメージである 教えること・学ぶこと・聴くことを 提示し具現化しているからです 1人が教えて 片方は聞いている 学習する間は座っていること 自分のために勉強すること このルールを変えてはいけないこと なぜなら椅子は地面に 固定されているからなどです

とても無害に見える 一脚の椅子さえ こんなアルネ・ヤコブセンが デザインしたような椅子も 説得する技法なんです ここでも豊かな生活という アイデアを伝達しているからです 豊かな生活とは ― デザイナーとしての皆さんが 「豊かな生活の中では 商品が この椅子のように 持続的・非持続的に生産され これを使う人達は あの椅子を製作した人のように 良く・悪く扱われるだろう」と 認めることです 豊かな生活とは デザインに 重きを置くことでもあります なぜなら人々が時間と お金をかけて こんな良いデザインの椅子を 製作したんですから 伝統を重んじる場所では それを気に掛ける人が作った 伝統・古典的な椅子が その象徴になるでしょう このような椅子に 巨額のお金を掛けるような 明らかな浪費が 当たり前である所では 皆さんの社会的地位を 他人に誇示することができます

こういった質問が 玉ねぎの皮なんです 私が 今日皆さんに考えてもらいたかったことは 皆さんが 何かをデザインする時に どんな目的を加えるか?ということです 皆さんが意図する・意図しない 影響力とは何でしょうか? それを判断するために どんな価値観を用いますか? 皆さんが そこで表現したい 美徳や憧れとは何でしょうか? それを説得する技法だけでなく デザインする 全てのものに どうやって施しますか?

ここで止めておきましょうか? それはできません 私は これら全てのキーワードは ある中核から 派生しているのだと思います 人生そのものです 豊かな生活とは何かという 問いかけは 私たちがデザインする 全てのものに向けられますが 「これが私たちの人生に どう影響を与えるか?」という 質問が重要です 「ランプや家が芸術品ならば 私たちの人生も そうであろう」 ミシェル・フーコーの言葉です

バスター・ベンソンの 実例を挙げてみましょう これはバスターが 新しく立ち上げた ハビット研究所のオフィスで 体操器具を組み立てているところです 彼らは ヘルスマンスのような 健康に関するプログラムを 立ち上げる試みをしています なぜ 実際に体操器具を 組み立てているのでしょうか? ここには ある原則があります ハビット研究所で バスターが始めたことは チームが どんな風に働きたいかに 関係しています 彼らが このプログラムを作成した時 自分たちで道徳的規則を掲げました 一緒に働くためです その内の1つは 「自分の健康と運動量に気を配る」でした

つまり豊かな生活とは何か 自問自答する必要があるということです 自分のデザインで 伝えたい・作りたいと思う 豊かな生活のイメージは何か 皆さん自身が住んでみたい 豊かな生活のイメージ それはどんなものでしょうか?

以上 ありがとうございました


― もっと見る ―
― 折りたたむ ―


  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等