TED日本語 - フィン・リュツォー=ホルム・ミスタッド: テクノロジー企業があなたを欺いてデータとプライバシーを放棄させる手口

TED日本語

TED Talks(英語 日本語字幕付き動画)

TED日本語 - フィン・リュツォー=ホルム・ミスタッド: テクノロジー企業があなたを欺いてデータとプライバシーを放棄させる手口

TED Talks

テクノロジー企業があなたを欺いてデータとプライバシーを放棄させる手口
How tech companies deceive you into giving up your data and privacy
フィン・リュツォー=ホルム・ミスタッド
Finn Lutzow-Holm Myrstad

内容

アプリの利用規約を実際に読んだことがありますか?ノルウェー消費者委員会のフィン・ミスタッドと彼のチームが実際に読破したところ、一般的なスマホに入っている全アプリの利用規約を読むのに約1日半かかりました。ミスタッドが、テクノロジー企業がユーザーを欺くために用いる驚くべき方法について話し、ユーザーの同意の下に企業が収集した個人情報に関する洞察や、企業が想像を超える規模で行っているデータ利用の手口を紹介します。

Script

Do you remember when you were a child, you probably had a favorite toy that was a constant companion, like Christopher Robin had Winnie the Pooh, and your imagination fueled endless adventures? What could be more innocent than that? Well, let me introduce you to my friend Cayla.

Cayla was voted toy of the year in countries around the world. She connects to the internet and uses speech recognition technology to answer your child's questions, respond just like a friend. But the power doesn't lie with your child's imagination. It actually lies with the company harvesting masses of personal information while your family is innocently chatting away in the safety of their home, a dangerously false sense of security. This case sounded alarm bells for me, as it is my job to protect consumers' rights in my country. And with billions of devices such as cars, energy meters and even vacuum cleaners expected to come online by 2020, we thought this was a case worth investigating further. Because what was Cayla doing with all the interesting things she was learning? Did she have another friend she was loyal to and shared her information with? Yes, you guessed right. She did. In order to play with Cayla, you need to download an app to access all her features. Parents must consent to the terms being changed without notice. The recordings of the child, her friends and family, can be used for targeted advertising. And all this information can be shared with unnamed third parties.

Enough? Not quite. Anyone with a smartphone can connect to Cayla within a certain distance. When we confronted the company that made and programmed Cayla, they issued a series of statements that one had to be an IT expert in order to breach the security. Shall we fact-check that statement and live hack Cayla together? Here she is. Cayla is equipped with a Bluetooth device which can transmit up to 60 feet, a bit less if there's a wall between. That means I, or any stranger, can connect to the doll while being outside the room where Cayla and her friends are. And to illustrate this, I'm going to turn Cayla on now. Let's see,one,two,three. There. She's on. And I asked a colleague to stand outside with his smartphone, and he's connected, and to make this a bit creepier ...

(Laughter)

let's see what kids could hear Cayla say in the safety of their room.

Man: Hi. My name is Cayla. What is yours?

Finn Myrstad: Uh, Finn.

Man: Is your mom close by?

FM: Uh, no, she's in the store.

Man: Ah. Do you want to come out and play with me?

FM: That's a great idea.

Man: Ah, great.

FM: I'm going to turn Cayla off now.

(Laughter)

We needed no password or to circumvent any other type of security to do this. We published a report in 20 countries around the world, exposing this significant security flaw and many other problematic issues. So what happened? Cayla was banned in Germany, taken off the shelves by Amazon and Wal-Mart, and she's now peacefully resting at the German Spy Museum in Berlin.

(Laughter)

However, Cayla was also for sale in stores around the world for more than a year after we published our report. What we uncovered is that there are few rules to protect us and the ones we have are not being properly enforced. We need to get the security and privacy of these devices right before they enter the market, because what is the point of locking a house with a key if anyone can enter it through a connected device?

You may well think, "This will not happen to me. I will just stay away from these flawed devices." But that won't keep you safe, because simply by connecting to the internet, you are put in an impossible take-it-or-leave-it position.

Let me show you. Like most of you, I have dozens of apps on my phone, and used properly, they can make our lives easier, more convenient and maybe even healthier. But have we been lulled into a false sense of security? It starts simply by ticking a box. Yes, we say, I've read the terms. But have you really read the terms? Are you sure they didn't look too long and your phone was running out of battery, and the last time you tried they were impossible to understand, and you needed to use the service now? And now, the power imbalance is established, because we have agreed to our personal information being gathered and used on a scale we could never imagine.

This is why my colleagues and I decided to take a deeper look at this. We set out to read the terms of popular apps on an average phone. And to show the world how unrealistic it is to expect consumers to actually read the terms, we printed them, more than 900 pages, and sat down in our office and read them out loud ourselves, streaming the experiment live on our websites. As you can see, it took quite a long time. It took us 31 hours,49 minutes and 11 seconds to read the terms on an average phone. That is longer than a movie marathon of the "Harry Potter" movies and the "Godfather" movies combined.

(Laughter)

And reading is one thing. Understanding is another story. That would have taken us much, much longer. And this is a real problem, because companies have argued for 20 to 30 years against regulating the internet better, because users have consented to the terms and conditions.

As we've shown with this experiment, achieving informed consent is close to impossible. Do you think it's fair to put the burden of responsibility on the consumer? I don't. I think we should demand less take-it-or-leave-it and more understandable terms before we agree to them.

(Applause)

Thank you.

Now, I would like to tell you a story about love. Some of the world's most popular apps are dating apps, an industry now worth more than, or close to,three billion dollars a year. And of course, we're OK sharing our intimate details with our other half. But who else is snooping, saving and sharing our information while we are baring our souls? My team and I decided to investigate this. And in order to understand the issue from all angles and to truly do a thorough job, I realized I had to download one of the world's most popular dating apps myself.

So I went home to my wife ...

(Laughter)

who I had just married. "Is it OK if I establish a profile on a very popular dating app for purely scientific purposes?"

(Laughter)

This is what we found. Hidden behind the main menu was a preticked box that gave the dating company access to all my personal pictures on Facebook, in my case more than 2,000 of them, and some were quite personal. And to make matters worse, when we read the terms and conditions, we discovered the following, and I'm going to need to take out my reading glasses for this one. And I'm going to read it for you, because this is complicated. All right.

"By posting content" -- and content refers to your pictures, chat and other interactions in the dating service -- "as a part of the service, you automatically grant to the company, its affiliates, licensees and successors an irrevocable" -- which means you can't change your mind -- "perpetual" -- which means forever -- "nonexclusive, transferrable, sublicensable, fully paid-up, worldwide right and license to use, copy, store, perform, display, reproduce, record, play, adapt, modify and distribute the content, prepare derivative works of the content, or incorporate the content into other works and grant and authorize sublicenses of the foregoing in any media now known or hereafter created."

That basically means that all your dating history and everything related to it can be used for any purpose for all time. Just imagine your children seeing your sassy dating photos in a birth control ad 20 years from now.

But seriously, though --

(Laughter)

what might these commercial practices mean to you? For example, financial loss: based on your web browsing history, algorithms might decide whether you will get a mortgage or not. Subconscious manipulation: companies can analyze your emotions based on your photos and chats, targeting you with ads when you are at your most vulnerable. Discrimination: a fitness app can sell your data to a health insurance company, preventing you from getting coverage in the future. All of this is happening in the world today.

But of course, not all uses of data are malign. Some are just flawed or need more work, and some are truly great. And there is some good news as well. The dating companies changed their policies globally after we filed a legal complaint. But organizations such as mine that fight for consumers' rights can't be everywhere. Nor can consumers fix this on their own, because if we know that something innocent we said will come back to haunt us, we will stop speaking. If we know that we are being watched and monitored, we will change our behavior. And if we can't control who has our data and how it is being used, we have lost the control of our lives.

The stories I have told you today are not random examples. They are everywhere, and they are a sign that things need to change. And how can we achieve that change? Well, companies need to realize that by prioritizing privacy and security, they can build trust and loyalty to their users. Governments must create a safer internet by ensuring enforcement and up-to-date rules. And us, the citizens? We can use our voice to remind the world that technology can only truly benefit society if it respects basic rights.

Thank you so much.

(Applause)

みなさんは 子どもの頃 ずっと一緒だった 大好きなオモチャを覚えてますか? クリストファー・ロビンの 「くまのプーさん」みたいに 想像力がどんどん 湧き出るようなものです これ以上無邪気なことが ありますか? ここで 「マイ・フレンド・ケイラ」を 紹介しましょう

ケイラは各国で その年のオモチャ賞に選ばれました ケイラはインターネットを介し 音声認識技術により 子どもの質問に答えます まるで友達のように応答します しかし その力は 子どもの想像力ではなく 安全な家の中で 家族が何気なく話している間に 企業が収集している 大量の個人情報にあるのです 「安全な家」というのは 恐ろしい錯覚です 私の仕事は 国内で 消費者の権利を守ることなので このケースに危機感を覚えました 2020年までには 車や電力メーター さらには掃除機といった 膨大な種類の機器に 通信機能が搭載されると予想されているので さらに調べる価値があるケースだと 我々は思いました ケイラはどんどん情報を吸収しながら それで何をしていたのでしょう? 他に親友がいて 情報を共有していたのでしょうか? そうです みなさんの予想どおりです ケイラと遊ぶためには 機能を使うためのアプリを ダウンロードする必要があります 両親は通知なしに変更される規約に 同意しなければなりません 子どもや 友達や 家族の会話を録音したものは ターゲティング広告に 使われるかもしれません こういった情報がすべて どこかの第三者に渡るかもしれないのです

それだけ? いいえ まだあります スマートフォンを持って 特定の距離内にいれば 誰でもケイラに接続できるのです 我々がケイラの製造元であり プログラムもした企業を追及すると 先方は一連の声明を出してきました ケイラのセキュリティを破れるのは IT専門家だけだと その声明の事実確認として ケイラを今ここでハックしましょうか? これがケイラです ケイラにはBluetoothの デバイスが入ってます 約18メートルまで通信可能ですが 壁を挟むと その距離は少し短くなります つまり 私や どんな見知らぬ人であっても 子どもと人形がいる部屋の 外から接続できるのです どういうことかお見せするために 今から ケイラの電源を入れます ご覧ください 123 電源が入りました 私の同僚が スマホを持って 外に立ってます 今 接続しました この状況がもう少し 不気味になるように ―

(笑)

「安全な」室内でケイラが子どもたちに 何と言うか聞いてみましょう

こんにちは 私はケイラ あなたは?

フィンだよ

ママは近くにいる?

ううん ママはお店にいる

じゃあ 外に出て 私と遊ばない?

いいね

そうだね

もうこれくらいにして 電源を落としましょう

(笑)

パスワードも必要なければ なんのセキュリティも かいくぐらずにハックできました 我々は世界20か国に向け 報告書を出しました この重要なセキュリティの欠陥も 他の問題となる論点も 暴露したのです すると 何が起こったか? ケイラはドイツで禁止され AmazonとWal-Martから 商品が消え 今では安らかに眠っています ベルリンのドイツスパイ博物館で

(笑)

しかし報告書を出して 1年以上経っても ケイラは世界中の店舗で 売られていました 我々が明らかにしたのは 自分たちを守るための規制は少なく 既存の規制は 適切に施行されていないということです デバイスのセキュリティと プライバシーの適正化が必要です 商品が市場に出る前に です 通信機能のついたデバイスを通して 誰もが家に侵入できるとしたら 家に鍵をかける意味がありますか?

「そんなこと起きないよ 欠陥デバイスから距離を取ればいい」 と考えるかもしれません でも それでは安全は保てません インターネットに接続しただけで 完全に不利な立場に 立たされてしまうからです

お見せしましょう みなさん同様 私もスマホに 多数のアプリを入れて 適切に使用しています 生活が快適になり 便利になり さらに健康にもなります しかし 誤った安心感を持つように 誘導されていませんか それは 単に 四角にチェックを入れるだけ そして宣言します 「利用規約を読みました」と でも 本当に読んだのですか? そこまで長い文面じゃない? スマホの電源が切れそうになってるし 前回 読もうとしたときは理解不能だったし すぐ サービスを使う必要があるって? ここで 不平等な力関係が 成立してしまいました 想像を超えたスケールでの 個人情報の収集と 使用に同意したからです

そこで 同僚と この問題を 更に突き詰めてみることにしました 一般的なスマホに入っている 人気アプリの利用規約を 読みつくすことにしたのです 消費者に実際に利用規約を 読むように要求することが どんなに非現実的なのかを 世間に知らしめるため 利用規約を印刷して ― 900ページ以上ありました ― オフィスに腰を据えて 自分たちで音読しました その実験を ウェブ上でライブ中継しました ご覧のとおり 非常に長い時間がかかりました 一般的なスマホ1台分の 利用規約を読むのに 31時間49分11秒かかりました 映画『ハリーポッター』と 『ゴッドファーザー』の全シリーズを ぶっ通しで観るよりも長いのです

(笑)

また 読むことと 理解することは違います 理解しようとしたら もっとずっと長い時間がかかったでしょう これは厄介な問題です なぜなら 企業が インターネット規制の改善に 20年も30年も 反論してこれたのは ユーザーが利用規約に 同意していたからです

この実験が示したように 規約を十分に理解した上での同意など ほぼ不可能です 消費者に その責任を負わせるのは フェアだと思いますか? 私は思いません 我々は 同意する前に この一方的なやり方を見直し 理解しやすい利用規約を 要求するべきです

(拍手)

ありがとう

ここからは 愛の物語について話しましょう デートアプリは世界で 最も人気なアプリです その産業は年間で およそ30億ドルになります もちろん とても個人的な情報でも 愛する相手になら 伝えられます しかし それを打ち明けているときに 他人が その情報を盗み見て 保存したり 外部に漏らしたりしていたら? 我々は それを調査することに決めました この問題を さまざまな角度から理解し 完璧な仕事をするには 世界で一番人気のデートアプリを 自分でもダウンロードせざるを 得ませんでした

なので 家に帰り 恐る恐る妻に...

(笑)

新婚でしたが 聞きました 「純粋に科学的な目的なら 大人気のデートアプリに プロフィールを乗せてもいい?」と

(笑)

そこで 気づきました メインメニューの隠れた場所に すでにチェック入りの項目があったのです Facebookに載せている個人的な写真に その会社がアクセスできるというものです 私の場合は 2000枚以上ありました そのうちのいくつかは とても個人的なものです もっとひどいことに その利用規約を読んだとき 発見したことがあります 紹介するには眼鏡が必要です 読んでみますが とても複雑なのです では

「投稿したコンテンツは」 コンテンツとは デートアプリ内サービスの 写真や チャットや その他 やりとりのことです 「サービスの一部として 自動的に当社 及び 当社関係者、被許諾者、継承者に 供与するものとし 取り消すことはできません」 つまり 気が変わってもダメってことです 「恒久的な」 つまり 永遠の 「非独占的な、譲渡可能な、サブライセンス可能な、無償の、 世界的な権利とライセンスにより ユーザーはコンテンツの使用、 コピー 、保存、実行、 表示、複製、記録、再生、翻案、変更、配布、 コンテンツ派生物の作成、 または 他の作品への統合と 既存の、または将来登場する いかなるメディアでのサブライセンスを 承諾し与えるものとします」

要点を言うと あなたの利用履歴と関連事項すべてが いつでも いかなる目的にも 使用できるということです 想像してみてください プロフィールの「キメ顔」写真を 20年後 自分の子どもが 避妊の広告で見かけるところを

でも 真面目な話 ―

(笑)

そんな商習慣が あなたに どう影響するのでしょう? 一つは 経済的な損失です ウェブ閲覧履歴に基づき ローン審査の結果をアルゴリズムにより 決められてしまうかもしれません 他に 無意識の行動操作 ― あなたの写真やチャットから 企業に感情を分析され 心が弱っているときに 広告で付け込まれるかもしれません 差別も起こり得ます フィットネスアプリのデータが 健康保険会社に売られて 保険金が下りないといったことが 将来 あるかもしれません この全てが 今 世界で 起きていることです

しかし もちろん データ利用の すべてが有害なわけではありません 単に欠点の改善が 必要なだけのものもあれば 本当に素晴らしいものもあります そして いいニュースもあります 我々が告訴したことで デートアプリ企業が 全世界的にポリシーを変更したのです しかし 我々のように 消費者の権利のために戦う組織は そうそうありません 消費者たちも みずから正せません 私たちが何気なく言ったことが 後で仇となって 帰ってくると知っていれば 話すことを止めるでしょうし 誰かに見られ 監視されていると知ったら 行動を変えるでしょうから 自分のデータを誰が手に入れ どう使うのかを制御できないのなら 人生を制御する力を 失ってしまったことになります

本日 私が話したことは 稀な事例ではありません どこにでもあります この事態を変える必要がある というサインなのです どうやったら変えられるでしょうか? 企業はプライバシー保護と セキュリティを優先することで ユーザーからの信用と忠誠が得られると 認識する必要があります 政府は 取り締まりや 最新の規制整備を確実に行い 安全なインターネットを 作らないといけません じゃあ 私たち市民は? 声を上げて 技術とは 基本的人権の尊重なしでは 真に社会に貢献しているとは言えないのだと 世界に思い出させるのです

ありがとうございました

(拍手)

― もっと見る ―
― 折りたたむ ―

品詞分類

  • 主語
  • 動詞
  • 助動詞
  • 準動詞
  • 関係詞等

関連動画