What is moral and immoral in trying to change people's behaviors

今日は道徳的説得について お話しします

by using technology and using design?

技法やデザインを用いて

And I don't know what you expect,

人の行動を変えようとする場合

but when I was thinking about that issue,

道徳的・非道徳的なこととは 何でしょうか？

I early on realized what I'm not able to give you are answers.

皆さんの意見は分かりませんが

I'm not able to tell you what is moral or immoral,

私が この問題について考えた時

because we're living in a pluralist society.

早い段階で気付いたのは

My values can be radically different from your values,

私は答えられないということでした

which means that what I consider moral or immoral based on that

何が道徳的・非道徳的かを 答えられないのは

might not necessarily be what you consider moral or immoral.

私たちの社会が多元的だからです

But I also realized there is one thing that I could give you,

私の価値観は 皆さんの価値観と

and that is what this guy behind me gave the world --

全く違うかもしれません

Socrates.

つまり私の価値観で下した 道徳・非道徳の判断は

It is questions.

皆さんのそれと 必ずしも一致しないかもしれません

What I can do and what I would like to do with you

でも お伝えできることが １つあります

is give you, like that initial question,

それは 私の後ろの人が 世界に示したもの ―

a set of questions to figure out for yourselves,

ソクラテスによる

layer by layer, like peeling an onion,

「問うこと」です

getting at the core of what you believe is moral or immoral persuasion.

私にできる事 皆さんと一緒にしたい事は

And I'd like to do that with a couple of examples of technologies

冒頭で質問したような

where people have used game elements to get people to do things.

一連の問いについて

So it's at first a very simple, very obvious question

皆さんが自分で考え

I would like to give you:

玉ねぎの皮のように

What are your intentions if you are designing something?

１枚ずつむいて

And obviously, intentions are not the only thing,

皆さんが自分の信じる

so here is another example for one of these applications.

道徳的・非道徳的説得が何であるか ということの核心に至ることです

There are a couple of these kinds of Eco dashboards right now --

そのために いくつか例を挙げてみます

dashboards built into cars --

人を操るための ゲーム要素を用いた

which try to motivate you to drive more fuel-efficiently.

技法の例です

This here is Nissan's MyLeaf,

皆さんに対する １つ目の質問は とても単純で

where your driving behavior is compared with the driving behavior

明白な質問です

of other people,

皆さんが何かをデザインする時 その目的は何でしょう？

so you can compete for who drives a route the most fuel-efficiently.

でも目的だけを考えれば 良いわけではありません

And these things are very effective, it turns out --

そこで別の例を挙げてみましょう

so effective that they motivate people to engage in unsafe driving behaviors,

これは環境影響ダッシュボードです

like not stopping at a red light,

表示盤は車内に搭載され

because that way you have to stop and restart the engine,

より燃費の良い運転を 促してくれます

and that would use quite some fuel, wouldn't it?

日産のマイリーフ は

So despite this being a very well-intended application,

自分の運転と

obviously there was a side effect of that.

他の人の運転を比べることで

Here's another example for one of these side effects.

一番燃費の良い運転をするのは誰かを

Commendable: a site that allows parents to give their kids little badges

競い合うことができます

for doing the things that parents want their kids to do,

これらは非常に効果的です しかし —

like tying their shoes.

あまりに効果的すぎて

And at first that sounds very nice,

赤信号で止まらないような

very benign, well-intended.

危険な運転を助長しました

But it turns out, if you look into research on people's mindset,

なせなら一度エンジンを止めて かけ直すと

caring about outcomes,

多くのガソリンを使ってしまうからです

caring about public recognition,

つまり とても良い目的のもとに 作られたものでも

caring about these kinds of public tokens of recognition

明らかに副作用があったわけです

is not necessarily very helpful

副作用の例を もう１つ挙げてみましょう

for your long-term psychological well-being.

褒められることです

It's better if you care about learning something.

あるウェブサイトで　 子供が親の望むことをすると

It's better when you care about yourself

小さなバッジがもらえるという サービスがあります

than how you appear in front of other people.

自分で 靴ひもを結ぶとか

So that kind of motivational tool that is used actually, in and of itself,

一見 とても良いことで

has a long-term side effect,

無害で善意的に思えます

in that every time we use a technology

しかし 人々の思考についての 調査を詳しく調べると

that uses something like public recognition or status,

成果を気にすることや

we're actually positively endorsing this

公的評価を気にしたり

as a good and normal thing to care about --

このような公的な景品を 気にすることは

that way, possibly having a detrimental effect

長い目で見た精神的な健康には

on the long-term psychological well-being of ourselves as a culture.

必ずしも 有用ではないのです

So that's a second, very obvious question:

学ぶことを目的とし

What are the effects of what you're doing --

他人にどう見られるかではなく

the effects you're having with the device, like less fuel,

自分自身に目を向ける方が ずっと良いのです

as well as the effects of the actual tools you're using

こういった動機付けのツールは

to get people to do things --

その中 あるいはそれ自体に

public recognition?

長期的な副作用を伴い

Now is that all -- intention, effect?

公的評価や社会的地位などが絡んだ

Well, there are some technologies which obviously combine both.

技法を使うたびに

Both good long-term and short-term effects

評価を重視することが

and a positive intention like Fred Stutzman's "Freedom,"

良く 当たり前のことだと 認めるようなものです

where the whole point of that application is --

文化としての 私たちの長期的な

well, we're usually so bombarded with constant requests by other people,

精神的健康に 弊害を及ぼすかもしれないのです

with this device,

ですから これが２つ目の 明白な質問になります

you can shut off the Internet connectivity of your PC of choice

皆さんがやっていることは どんな結果を生みますか？

for a pre-set amount of time,

燃料を節約できる 道具を使うことの効果

to actually get some work done.

そして

And I think most of us will agree that's something well-intended,

人に何かをさせるために使う

and also has good consequences.

公的な評価のような

In the words of Michel Foucault,

ツールの効果です

it is a "technology of the self."

目的､効果 これで全部でしょうか？

It is a technology that empowers the individual

当然 その両方を

to determine its own life course,

兼ね備えた技法もあります

to shape itself.

どちらも長期的・短期的に 良い効果があり

But the problem is, as Foucault points out,

フレッド・スタッツマンが設計した Freedomのような

that every technology of the self

好意的な意図があります

has a technology of domination as its flip side.

このプログラムでは 煩わしい他人からの呼び出しや

As you see in today's modern liberal democracies,

リクエスト攻撃に対して

the society, the state, not only allows us to determine our self,

予め設定した時間

to shape our self,

PCのインターネット接続を遮断し

it also demands it of us.

効率的に仕事を終わらせることができます

It demands that we optimize ourselves,

ほとんどの方が 同意して下さるでしょうが

that we control ourselves,

このプログラムは善意的で

that we self-manage continuously,

良い成果が期待できます

because that's the only way in which such a liberal society works.

哲学者のミシェル・フーコーの言う

These technologies want us to stay in the game

「自己のテクノロジー」です

that society has devised for us.

個人を奮起させて 人生の歩むべき道を決定し

They want us to fit in even better.

自己を形成するという

They want us to optimize ourselves to fit in.

技術です

Now, I don't say that is necessarily a bad thing;

しかし 問題は

I just think that this example points us to a general realization,

フーコーが指摘したとおり

and that is: no matter what technology or design you look at,

すべての自己のテクノロジーは

even something we consider as well-intended

統治する力を伴います

and as good in its effects as Stutzman's Freedom,

今日の現代自由民主主義に 見られるように

comes with certain values embedded in it.

国や社会は

And we can question these values.

私たちの自己決定や自己形成を 認めるだけでなく

We can question: Is it a good thing

それを要求します

that all of us continuously self-optimize ourselves

私たちが効率的になることを追求し

to fit better into that society?

自己制御し

Or to give you another example:

常に自己管理を行うよう 要求しているのです

What about a piece of persuasive technology

それがリベラルな社会が機能する

that convinces Muslim women to wear their headscarves?

唯一の方法だからです

Is that a good or a bad technology

これらの技法は 私たちが 社会の一員であり続けるよう

in its intentions or in its effects?

社会が考案したものです

Well, that basically depends on the kind of values you bring to bear

より適合して欲しいのです

to make these kinds of judgments.

そのために 効率を高めることを求めます

So that's a third question:

これは必ずしも悪いことではありません

What values do you use to judge?

私が思うに この例は

And speaking of values:

普遍的理解に目を向けさせます

I've noticed that in the discussion about moral persuasion online

技法やデザインが何であれ

and when I'm talking with people,

善良で良い効果が期待されると思っても

more often than not, there is a weird bias.

スタッツマンのFreedomのように

And that bias is that we're asking:

特定の価値を伴うということです

Is this or that "still" ethical?

そして私たちは それらの価値を問うことができます

Is it "still" permissible?

その問いとは 私たち全員が

We're asking things like:

社会に より適合するために 絶え間なく自己の効率を

Is this Oxfam donation form,

高めるのは良いことか？です

where the regular monthly donation is the preset default,

別の例を挙げてみましょう

and people, maybe without intending it,

イスラム教徒の女性に スカーフを着用させる

are encouraged or nudged into giving a regular donation

説得方法について考えてみましょう

instead of a one-time donation,

その目的や効果において

is that "still' permissible?

それは良い方法ですか 悪い方法ですか？

Is it "still" ethical?

基本的には

We're fishing at the low end.

こういった判断を下すには

But in fact, that question, "Is it 'still' ethical?"

皆さんの価値観を動員しますよね

is just one way of looking at ethics.

そこで３つ目の質問です

Because if you look at the beginning of ethics in Western culture,

皆さんが判断を下す際 何の価値観を利用するか？

you see a very different idea of what ethics also could be.

価値観といえば

For Aristotle, ethics was not about the question,

オンライン上で道徳的説得について

"Is that still good, or is it bad?"

他の人と議論していた時に

Ethics was about the question of how to live life well.

大抵の場合 奇妙な偏見が あることに気付きました

And he put that in the word "arête,"

その偏見とは 私たちが 問いかけているもので

which we, from [Ancient Greek], translate as "virtue."

「どこまで」が倫理的か？

But really, it means "excellence."

「どこまで」が許容範囲内か？ というものです

It means living up to your own full potential as a human being.

例えば

And that is an idea that, I think,

オックスファムに寄付する時のフォームは

Paul Richard Buchanan put nicely in a recent essay,

毎月の寄付という形が 予め設定されていて

where he said, "Products are vivid arguments

おそらく無意識の内に

about how we should live our lives."

一度限りの募金ではなく 月々の寄付を行うことを

Our designs are not ethical or unethical

奨励されたり 促されています

in that they're using ethical or unethical means of persuading us.

これは許容範囲内でしょうか？

They have a moral component

これは倫理的でしょうか？

just in the kind of vision and the aspiration of the good life

低次元の議論に見えますよね

that they present to us.

でも実際には

And if you look into the designed environment around us

「どこまでが倫理的か？」 という質問が

with that kind of lens,

道徳性を図る 方法の１つです

asking, "What is the vision of the good life

西洋文化における 倫理観の入り口を

that our products, our design, present to us?",

見てみると

then you often get the shivers,

倫理観の全く違ったアイデアを

because of how little we expect of each other,

ご覧いただけると思います

of how little we actually seem to expect of our life,

アリストテレスにとって倫理観とは 「これは許される範囲にあるか？」

and what the good life looks like.

という質問ではありませんでした

So that's a fourth question I'd like to leave you with:

倫理性とは どのように良い生活を 営めるかという問題でした

What vision of the good life do your designs convey?

彼は これを「アレテー」という 言葉で表現しました

And speaking of design,

古代ギリシャ語で 翻訳すると「美徳」ですが

you'll notice that I already broadened the discussion,

本当のところ「卓越性」を意味します

because it's not just persuasive technology that we're talking about here,

それは人間としての 可能性を最大限に利用して

it's any piece of design that we put out here in the world.

生活するということです

I don't know whether you know

そして この考えを

the great communication researcher Paul Watzlawick who, back in the '60s,

ポール・リチャード・ブキャナンは 最近の論文で上手く表現しています

made the argument that we cannot not communicate.

「製品とは私たちの生き方について

Even if we choose to be silent, we chose to be silent,

鮮明な議論をもたらす」と

and we're communicating something by choosing to be silent.

物のデザインは 私たちを説得する方法において

And in the same way that we cannot not communicate,

倫理的でも 非倫理的でもありません

we cannot not persuade:

デザインとは 単に私たちに

whatever we do or refrain from doing,

豊かな生活という ビジョンや 憧れを与えてくれる

whatever we put out there as a piece of design, into the world,

道徳的要素が含まれているのです

has a persuasive component.

皆さんの周りの デザインを見てください

It tries to affect people.

そして問いかけてみてください

It puts a certain vision of the good life out there in front of us,

「私たちの製品やデザインが示している

which is what Peter-Paul Verbeek,

豊かな生活というビジョンは何か？」

the Dutch philosopher of technology, says.

すると私たちが いかにお互いに期待していないか

No matter whether we as designers intend it or not,

自分たちの生活や 豊かな生活だと思えるものに

we materialize morality.

どれだけ期待していないかに

We make certain things harder and easier to do.

気付いてしまって 身震いするかもしれませんね

We organize the existence of people.

そこで 私からの４つ目の質問です

We put a certain vision

皆さんの デザインで伝えたい

of what good or bad or normal or usual is

豊かな生活のイメージとは何ですか？

in front of people,

デザインといえば ―

by everything we put out there in the world.

先ほど既に議論を広げましたよね

Even something as innocuous as a set of school chairs

なぜなら 説得するという 技法だけではなく

is a persuasive technology,

世の中の全てのデザインが 関係するからです

because it presents and materializes a certain vision of the good life --

皆さん ご存じか分かりませんが

a good life in which teaching and learning and listening

偉大なコミュニケーション学者の ポール・ワツラウィックは

is about one person teaching, the others listening;

60年代に「私たちはコミュニケーションを 避けることはできない」という議論をしました

in which it is about learning-is-done-while-sitting;

60年代に「私たちはコミュニケーションを 避けることはできない」という議論をしました

in which you learn for yourself;

たとえ声には出さなくとも

in which you're not supposed to change these rules,

黙っていることを選択していますし 黙ることで 何かを伝達します

because the chairs are fixed to the ground.

そしてコミュニケーションを 避けられないように

And even something as innocuous as a single-design chair,

説得することも 避けられません

like this one by Arne Jacobsen,

私たちが何かする時 あるいはしない時

is a persuasive technology,

それをデザインの一部として

because, again, it communicates an idea of the good life:

世間に提示するたびに

a good life -- a life that you, as a designer, consent to by saying,

人を説得する要素を持ち合わせるのです

"In a good life, goods are produced as sustainably or unsustainably

これが私たちに影響を与え

as this chair.

豊かな暮らしという 特定のイメージを

Workers are treated as well or as badly

そこに提示するのです

as the workers were treated that built that chair."

オランダ人でテクノロジーの哲学を展開する

The good life is a life where design is important

ピーター・ポール・ヴァービークは

because somebody obviously took the time and spent the money

デザイナーとしての私たちが 意図しているか否かに関わらず

for that kind of well-designed chair;

道徳規範を具現化すると話します

where tradition is important,

あるものを ややこしくしたり 簡単にしたりという具合に

because this is a traditional classic and someone cared about this;

人の存在を 体系化するのです

and where there is something as conspicuous consumption,

私たちは世の中にあるものを通して 決められた尺度で

where it is OK and normal to spend a humongous amount of money

良いか悪いか 標準か普通かという

on such a chair,

判断を下しているのです

to signal to other people what your social status is.

一見 無害に見える 学校の椅子でさえ

So these are the kinds of layers, the kinds of questions

説得する技法なのです

I wanted to lead you through today;

豊かな生活を想起させるような 特定のイメージである

the question of: What are the intentions that you bring to bear

教えること・学ぶこと・聴くことを

when you're designing something?

提示し具現化しているからです

What are the effects, intended and unintended, that you're having?

１人が教えて 片方は聞いている

What are the values you're using to judge those?

学習する間は座っていること

What are the virtues, the aspirations

自分のために勉強すること

that you're actually expressing in that?

このルールを変えてはいけないこと

And how does that apply,

なぜなら椅子は地面に 固定されているからなどです

not just to persuasive technology,

とても無害に見える 一脚の椅子さえ

but to everything you design?