You happen to be standing next to a switch that will divert the trolley onto a second track.

その時、あなたは偶然にも、トロッコを2本目の線路に迂回させるスイッチのそばに立っていたのです。

Here's the problem.

ここで問題です。

That track has a worker on it, too, but just one.

そのトラックにも作業員が入っていますが、一人だけです。

What do you do?

あなたならどうしますか？

Do you sacrifice one person to save five?

5人を救うために1人を犠牲にしますか？

This is the "trolley problem", a version of an ethical dilemma that philosopher Philippa Foot devised in 1967.

これは、哲学者のフィリッパ・フットが1967年に考案した倫理的ジレンマ「トロッコ問題」の一種です。

It's popular because it forces us to think about how to choose when there are no good choices.

正しい選択肢がないときにどうやって選ぶかを考えさせられるので人気があります。

Do we pick the action with the best outcome or stick to a moral code that prohibits causing someone's death?

最善の結果をもたらす行動を選ぶのか、それとも誰かを死なせてはいけないという道徳的規範に従うのか。

In one survey, about 90% of respondents said that it's okay to flip the switch, letting one worker die to save five.

ある調査では、約9割の人が「5人を救うために1人を死なせてもいい」と回答しています。

And other studies, including a virtual reality simulation of the dilemma, have found similar results.

また、ジレンマを仮想現実で再現したシミュレーションなど、他の研究でも同様の結果が得られています。

These judgments are consistent with the philosophical principle of utilitarianism, which argues that the morally correct decision is the one that maximizes [the] well-being for the greatest number of people.

これらの判断で、道徳的に正しい判断は、最大多数の人々の幸福を最大化するものであると主張する功利主義の哲学的原則と一致している。

The five lives outweigh one, even if achieving that outcome requires condemning someone to death.

たとえ誰かを死刑にしなければならないとしても、5つの命は1つの命に勝るのです。

But people don't always take the utilitarian view, which we can see by changing the trolley problem a bit.

しかし、人は必ずしも功利主義的な考え方をするわけではありません。それは、トロッコの問題を少し変えてみればわかることです。

This time, you're standing on a bridge over the track as the runaway trolley approaches.

今回は、線路に架かる橋の上に立って、暴走するトロッコが近づいてくるという内容です。

Now, there's no second track, but there is a very large man on the bridge next to you.

さて、2番線はないのですが、隣の橋の上にとても大きな男性がいますね。

If you push him over, his body will stop the trolley, saving the five workers, but he'll die.

突き落とせば、彼の体はトロッコを止め、5人の作業員は助かるが、彼は死んでしまう。

To utilitarians, the decision is exactly the same: lose one life to save five.

功利主義者にとっては、5人の命を救うために1人の命を失うという判断は全く同じです。

But in this case, only about 10% of people say that it's okay to throw the man onto the tracks.

しかし、この場合、「線路に突き落としてもいい」と答える人は1割程度しかいないのです。

Our instincts tell us that deliberately causing someone's death is different than allowing them to die as collateral damage.

私たちの本能は、意図的に人を死なせることと、巻き添えで死なせることとは違うと言っているのです。

It just feels wrong for reasons that are hard to explain.

ただ、説明しがたい理由で、間違っていると感じています。

This intersection between ethics and psychology is what's so interesting about the trolley problem.

この倫理と心理の交錯が、トロッコ問題の面白さなのです。

The dilemma in its many variations reveal that what we think is right or wrong depends on factors other than a logical weighing of the pros and cons.

ジレンマは様々なバリエーションがあり、私たちが正しいと思うこと、間違っていると思うことは、論理的に長所と短所を比較する以外の要因に左右されることを明らかにします。

For example, men are more likely than women to say it's okay to push the man over the bridge.

例えば、男性は女性よりも「橋の上から突き落としてもいい」と言う傾向があります。

So are people who watch a comedy clip before doing the thought experiment.

思考実験をする前に、お笑いのクリップを見る人もそうですね。

And in one virtual reality study, people were more willing to sacrifice men than women.

また、あるバーチャルリアリティの研究では、人々は女性よりも男性を犠牲にすることを望んだそうです。

Researchers have studied the brain activity of people thinking through the classic and bridge versions.

研究者たちは、クラシック版とブリッジ版を通して考える人々の脳活動を研究しました。

Both scenarios activate areas of the brain involved in conscious decision-making and emotional responses.

どちらのシナリオも、意識的な意思決定や感情的な反応に関わる脳の領域を活性化させます。

But in the bridge version, the emotional response is much stronger.

しかし、橋のパターンでは、その感情的な反応がより強く伝わってきます。

So is activity in an area of the brain associated with processing internal conflict.

内的葛藤の処理に関連する脳の領域の活動も同様です。

Why the difference?

なぜ、このような違いがあるのでしょうか？

One explanation is that pushing someone to their death feels more personal, activating an emotional aversion to killing another person.

その理由のひとつは、人を死に追いやることはより個人的なことだと感じ、他人を殺すことへの感情的な嫌悪感を活性化させるからです。

But we feel conflicted because we know it's still the logical choice.

でも、それが論理的な選択であることは分かっているからこそ、葛藤するのです。

Trolleyology has been criticized by some philosophers and psychologists.

トロッコ学は、哲学者や心理学者から批判を受けることもある。

They argue that it doesn't reveal anything because its premise is so unrealistic that study participants don't take it seriously.

彼らは、その前提があまりにも非現実的であり、研究参加者がそれを真剣に受け止めていないため、何も明らかにしないと主張している。

But new technology is making this kind of ethical analysis more important than ever.

しかし、新しい技術によって、このような倫理的な分析がこれまで以上に重要となってきています。

For example, driverless cars may have to handle choices like causing a small accident to prevent a larger one.

例えば、より大きな事故を防ぐために小さな事故を起こすといった選択を、自動運転車がしなければならないかもしれません。

Meanwhile, governments are researching autonomous military drones that could wind up making decisions of whether they'll risk civilian casualties to attack a high-value target.

一方、各国政府は自律型軍事ドローンの研究を進めており、民間人が犠牲になる危険を冒してでも価値の高い標的を攻撃するかどうかを判断するようになるかもしれません。

If we want these actions to be ethical, we have to decide, in advance, how to value human life and judge the greater good.

これらの行動を倫理的にしたいのであれば、人間の生命をどのように評価し、より大きな善を判断するかを事前に決定する必要があります。

So, researchers who study autonomous systems are collaborating with philosophers to address the complex problem of programming ethics into machines,

そこで、自律システムを研究する研究者は、哲学者と協力して、機械に倫理をプログラミングするという複雑な問題に取り組んでいます。

which goes to show that even hypothetical dilemmas can wind up on a collision course with the real world.

というのは、仮定のジレンマであっても、現実の世界と衝突してしまうことがあるからです。