トロッコ問題

トロッコ問題（トロッコもんだい、英: trolley problem）あるいはトロリー問題とは、「ある人を助けるために他の人を犠牲にするのは許されるか？」という形で功利主義と義務論の対立を扱った倫理学上の問題・課題。

フィリッパ・フットが1967年に提起し、ジュディス・ジャーヴィス・トムソン（英語版）、フランセス・キャム（英語版）、ピーター・アンガー（英語版）などが考察を行った。人間は一体どのように倫理・道徳的なジレンマを解決するかについて知りたい場合は、この問題は有用な手がかりとなると考えられており、道徳心理学、神経倫理学では重要な論題として扱われている。

人工知能が制御する自動運転車においても、衝突が避けられない状況でAIの判断基準をどのように設計するかという問題とも関連している^[1]^[2]。

フジニュースネットワーク(FNN)では前輪が分岐器を通過した直後に切り替えれば車両が止まり全員が助かる解答があると報道している^[3]。

なお、以下で登場する「トロッコ」は路面電車を指しており、人力によって走らせる手押し車ではない。

概要

前提として、以下のトラブル (a) が発生したものとする。

(a) 線路を走っていたトロッコが制御不能になった。このままでは、前方の作業員5人が轢き殺されてしまう。

そしてAが以下の状況に置かれているものとする。

(1) この時、たまたまAは線路の分岐器のすぐ側にいた。Aがトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもBが1人で作業しており、5人の代わりにBがトロッコに轢かれて確実に死ぬ。Aはトロッコを別路線に引き込むべきか？

なお、Aは上述の手段でしか助けられないとする（置き石その他の障害物で脱線や停止はできない）。また、Aおよびトロッコの運転手の法的責任を棚に上げ、道徳的な見解だけを問題とする。あなたは道徳的に見て「許される」あるいは「許されない」で答えよ、という問題である。

つまり、単純化すれば「5人を助けるために他の1人を殺してよいか」という問題であり、功利主義に基づくなら1人を犠牲にして5人を助けるべきである。しかし、義務論に従えば、誰かを他の目的のためだけに利用すべきではなく、何もするべきではない。

歩道橋問題

トロッコ問題に似た「歩道橋」問題がある。この問題では、(1) のトロッコ問題と回答傾向が異なる。この問題は、分岐器を切り替えて1人を犠牲にするかどうかではなく、1人を上から線路上に落とすかどうかを問う^[4]。

(2) Aは線路上に橋に立っており、Aの横にCがいる。Cは太っており、もし彼を線路上につき落として障害物にすれば、トロッコは確実に止まり5人は助かる。だがそうするとCがトロッコに轢かれて死ぬのも確実である。Cは状況に気づいておらず、自らは何も行動しないが、Aに対し警戒もしていないので突き落とすのに失敗するおそれは無い。Cを突き落とすべきか？

トロッコ問題では、1人を犠牲にすることが許されるという回答（すなわち功利主義的判断）をする人が多いのに対し、歩道橋問題では許されないという回答（すなわち義務論的判断）をする人が多い^[4]。これは二重結果の原理の一例として説明される^[4]。

ループした路線

(1)、(2)以外にも以下の問題を考えることができる。

(3) (1)の場合と同様、Aはトロッコを別路線に引き込むことができるが、(1)とは違いこの別路線は5人の手前で再び本線に合流している。今度の問題ではこの別路線には前述のCがおり、トロッコを別路線に引き込めば、トロッコはCにぶつかって止まるので、5人は確実に助かる。ただしその結果としてCは確実に死ぬ。トロッコを別路線に引き込むべきか？

(4)Aはトロッコを別路線に引き込むことができるが、この別路線は5人の手前で再び本線に合流している（ここまでは(3)と同じ）。別路線には大きな鉄の塊があるため、トロッコを別路線に引き込めば、トロッコはその鉄の塊にぶつかって止まるので、5人は確実に助かる。しかし、鉄の塊の手前には前述のBがいて、Bは確実に死ぬ。トロッコを別路線に引き込むべきか？

3番目の問題は、最初の質問と同じようにAの行動は分岐の切り替えのみで、他者を直接自分の手で死に追いやるわけではない。しかし、2番目の質問と同じようにトロッコが止まるのはCに激突するからこそであり、その死は副産物（巻き添え）ではなく行為者の意図の結果である。4番目の問題は3番目とあまり変化がないようでいて、実は鉄の塊が線路を塞いでいる以上、その先で路線が再び合流していようと意味はなく、本質的には(1)と完全に同じ状況を表現を変えて再度出題にしているに過ぎない（トロッコが止まるのはBに激突するからではなく、あくまでその後の鉄の塊との激突によってである）。

どの質問にも一貫して合理的な判断を下すのなら、同じ回答が導きだせる。つまり、1人を犠牲にして5人を助けるか、5人を犠牲にして1人を助けるかのどちらかである。または義務論に従って判断するなら（誰かの命を他の目的のために利用すべきではないと考えるなら）すくなくとも(2)と(3)には反対しているはずである。もし判断が一貫しないのであれば、それは何故だろうか。何故ある場合は誰かを犠牲にすることが許されて、他の場合には許されないと感じるのかを、合理的に説明できるだろうか。少なくともこれらのようなジレンマを一貫して合理的に解決できる倫理学の指針はない^[5]。

倫理学以外の分析

生物学者の分析

倫理学者ではないが、生物学者マーク・ハウザーはネット上でこれに類する30以上の質問を行い、何故そのような判断を行ったかの理由を聞いた。回答した500人の内3割ほどしか自分の判断を正当化できなかった（質問と他の質問との違いを正しく認識し、それが自分の判断の基礎となっていることを示せた場合に「正当化に成功した」と判断された）^[6]。また5,000人以上が回答したテストでは、最初の質問に対して89 %の人が「許される」と答えたのに対して、2番目の質問に「許される」と回答したのは11 %であった。3番目の質問には56 %が「許される」と答え、4番目の質問は72 %が「許される」と答えた。この傾向には教育の程度、宗教的背景、民族などの影響がほとんどなかった^[7]。

意図的な行動の結果の害には責任を問われ、ただ単にその結果が予見されたに過ぎないときには責任を問われないことをダブルエフェクトと呼ぶ。1と4を許されると回答している人の割合が大きいのは、直観的に人がダブルエフェクトを考慮していることで説明できるかも知れない。ハウザーの主張は、人の道徳的判断は理性と理論よりも、直観と感情の影響を受けていると言うことである。そしてどのような要因が非道徳的と判断されるのかを次の3つにまとめた^[8]。

行動の原理：行動による害（例えば誰かが死ぬような出来事）は行動しなかったことによる危害よりも、非道徳的だと判断される
意図の原理：意図を持ってとった行動は、意図を持たずにとった行動よりも非道徳的だと判断される
接触の原理：肉体的な接触を伴う危害は、肉体的な接触のない危害よりも非道徳的だと判断される

神経学者の分析

神経哲学者ジョシュア・グリーンによれば、特に2番目の質問では他の質問と異なる脳の部位が反応する。人を直接死に追いやるとき、強く否定的な反応を示すようである^[5]。

タイム誌の分析

米Time誌の記事によれば調査対象の約90パーセントが5人を救うために1人を突き落とすとした、とのことである^[9]。

類似したジレンマ

トロッコ問題と類似した以下のようなジレンマを考える事ができる。こうしたジレンマは、功利主義か義務論かと言う議論ではトロッコ問題と大きな違いがない。しかし人の道徳判断にどのようなパラメーターが関与しているのかを明らかにしようとしている道徳心理学と神経倫理学では重要な違いである。

あなたはボートで5人の溺れた人を助けに向かっている。しかし、途中で溺れている1人の人を発見した。その人を助けていれば5人はその間に溺れ死んでしまう。その人を助けて5人を諦めるべきか？
病院に5人の患者がいて、それぞれが異なる臓器の移植を必要としている。そこに臓器はいずれも健康な患者が現れた。彼を殺して臓器を移植すれば5人を助けることができる。彼を殺して内臓を取り出すべきか？（臓器くじ）

脚注

^ Lim, Hazel Si Min; Taeihagh, Araz (2019). “Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities” (英語). Sustainability 11 (20): 5791. doi:10.3390/su11205791. https://www.mdpi.com/2071-1050/11/20/5791.
^ “いま改めて考える「自動運転車のトロッコ問題」”. AIG総研. 2019年10月13日閲覧。
^ [1]
^ ^a ^b ^c 相馬正史都築誉史考察方略が道徳ジレンマ状況における判断に及ぼす影響
^ ^a ^b Greene J.D. et al. An fMRI Investigation of Emotional Engagement in Moral Judgment (PDF) Science (2001) Vol. 293. no. 5537, pp. 2105 - 2108
^ Cushman, F., Young, L., & Hauser, M.D. The role of conscious reasoning and intuition in moral judgments: Testing three principles of harm. (PDF) Psychological Science. 17(12):1082-1089.(2006).
^ Hauser, M.D et. al. A dissociation between moral judgments and justifications. (PDF) Mind & Language. 22(1):1-21. (2007).
^ Fiery Cushman et al. The role of reasoning and intuition in moral judgment (PDF)
^ “'Trolley Problem': Virtual-Reality Test for Moral Dilemma – TIME.com”. TIME.com. http://healthland.time.com/2011/12/05/would-you-kill-one-person-to-save-five-new-research-on-a-classic-debate/ 2021年3月17日閲覧。.

参考文献

Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices (Oxford: Basil Blackwell, 1978).
- This is the essay that introduced the original trolley problem.
Shelly Kagan, The Limits of Morality (Oxford: Oxford University Press, 1989).
Francis Myrna Kamm, Harming Some to Save Others, 57 Philosophical Studies 227-60 (1989).
Judith Jarvis Thomson, Killing, Letting Die, and the Trolley Problem, 59 The Monist 204-17 (1976).
Judith Jarvis Thomson, The Trolley Problem, 94 Yale Law Journal 1395-1415 (1985).
Peter Unger, Living High and Letting Die (Oxford: Oxford University Press, 1996).
Homepage of Joshua Greene
Joshua D. Greene, "The secret joke of Kant’s soul", in Moral Psychology, Vol. 3: The Neuroscience of Morality, W. Sinnott-Armstrong, Ed., (Cambridge, MA: MIT Press)