2021年12月18日

トロッコ問題について

211218_trocco_icon.pngトロッコ問題

トロッコ問題というと、ハーバード大学のマイケル・サンデル教授の例の番組(『白熱教室』)によって一気に知られるようになった感がありますが、元は英国の哲学者フィリッパ・フットによって1967年に提起された思考実験のようですね。倫理とは何か?を深く考えさせられる秀逸な問題です。なぜ秀逸なのかといえば、答えの無い問題だからでしょう。いや、答えが無いというよりも、安易に答えさせてくれない絶妙な「答えずらさ」がこの問題の優秀な所ですね。

答えの無い問題であっても何らかの答えを出さなくては先に進めない、ということは人生には何度も突き当たるもので、トロッコ問題はそうした人生に立ち現れる様々な問題をデフォルメしたものであるともいえるかもしれません。2択を迫られる状況で、どちらを選んでも失敗であるようなことって意外と多く、単純な例では、親友二人に「どっちが一番の友達だと思う?」と聞かれたらどっちを答えても必ずもう一方を傷つけてしまいます。また政治的な問題はそのほとんどが正解の無い選択を迫られるものばかりで、何をどう選択しても反対の立場の人は必ずいるので文句をいわれます。ある意味現代版の禅問答(公案)みたいな側面もあって、考えすぎるとどんどん沼にハマっていくようなところもあり、そういった面でもなかなかよく出来た問題です。

トロッコ問題は、人によってさまざまな答えがあるでしょうし、同時にどんな答えもどこかモヤモヤした不満足感を覚えるものばかりです。なぜなら、問題の核心は、「2つの失敗のうち、どちらの失敗を選ぶか?」というものだからです。


211218_trocco_icon.png究極の意地悪クイズ?

トロッコ問題自体についてはいまさら説明するまでもないとは思いますが、ざっと説明しますと、だいたい以下のような内容の問題です。


制御不可能になってしまったトロッコが猛スピードで線路を走っている。線路の先には暴走するトロッコに気付かずに線路の補修工事をしている5人の作業員がいる。このときあなたはたまたま線路の分岐器のすぐ側にいた。分岐を切り替えて別の路線にトロッコを走らせれば5人は助かるが、切り替えた先の路線には運悪く一人の作業員が事態に気付かずに作業をしていた。あなたは分岐器でトロッコの進行先を切り替えるべきだろうか?

211218_torocco1.png



答えが無いだけでなく、とっさの判断でその「答えの無い問い」に答えねばならない状況設定も秀逸です。最初に思いつくのは「より犠牲者の少ない選択」で、はじめてこの問題を出された場合、一人の作業員を犠牲にする選択をする人は多いと思いますが、よく考えると、そう単純にもいかない部分があり、思考の迷宮にハマっていきます。

トロッコ問題は、一見すると分岐する路線をどちらか選ぶ問題のように見えるものの、よく読むと本質は「分岐器を操作するか否か」という問題だからです。つまり、犠牲者が少なくてすむ選択をするには「分岐器を操作する」という行為によって、自分自身が事態に介入する選択をする必要があり、意図的にひとりの作業員を犠牲にする選択をせねばなりません。

逆に、5人を犠牲にする選択は一見悪手に思えますが、実際は分岐器を操作しない、つまり事態に介入しない選択なので、仮に操作せずに5人が犠牲になっても、「とっさの事態なので急に判断できなかったんだ!」と自分に言い訳できます。

トロッコ問題とは、犠牲を5人にするかひとりで抑えるかの単純な問題ではなく、5人を自分の不作為によって見殺しにするか、ひとりを自分の意思と行動で死に至らしめるか、の選択です。単純に「ひとりを犠牲にする」選択ができなくなっているところが、よく出来てるなぁと感心させられます。責任の所在を考慮すると、5人を犠牲にする選択は、「行動しない」ことによって引き起こされるわけですし、そもそもこの場合、分岐器の近くに自分がいなかったとしても同様の事態が起こるわけですから、そういう観点では「5人を犠牲にする」方の選択肢もさほど異常な選択肢ではなくなっているところも、よく考えられた問題ですね。

トロッコ問題はそういう思考実験なので、犠牲者が出ない選択は無いものとして考えるべきでしょう。例えば「5人の作業員に叫んで危機を知らせる」とか「線路に障害物を置いてトロッコを脱線させる」などの答えは考えるべき本質がウヤムヤになってしまいますから、トロッコ問題を答えてもらう場合には往々にしてそうした選択ができない状態が設定されています。

何年か前に線路の分岐ポイントを「中立」にすればトロッコは脱線して被害者はゼロにできるというアイデアがツイッターで話題になったことがあったみたいで、現実に起きる問題の解決策としてなら、それはそれでネタとしては楽しいのですが、トロッコ問題は犠牲者をゼロにする手段が無い場合にどうするか?という問題を作成するにあたって具体例として仮にトロッコなだけで、犠牲者を出さないためにはどうしたらよいか?を考える問題ではありません。まぁ、人情としてはどうにかして被害者のいない答えを探したくなる気持ちはすごく分りますが。ウィキペディアの解説では手押し車のようなタイプのトロッコではなく、人を乗せるタイプのトロッコ列車で解説していますが、このタイプだと、脱線させた場合は5人どころかそれ以上の乗客に被害者を出すことになります。この思考実験は二つの失敗のうちどちらの失敗を選ぶかを悩み、そのうえで自分なりの理念でどちらかを選ぶことを決断することが目的で、犠牲者をゼロにする方法が無い場合にどうするか?を考えるのがこの問いの目的です。

では私ならどちらを選ぶのか?といいますと、正直わかりません。問題を出されたらどちらかを答えると思いますが、そもそも正解が無い問題で、正解を出すための問題でもないので、答え自体はコイントスで決めても同じような気もします。トロッコ問題では、被害を最小限(1人)に抑えるためには自分が殺人者になる覚悟を必要としますし、自分の責任を最小にしようとすると最大(5人)の被害者を出してしまいます。人生にはトロッコ問題ほど深刻ではないにせよ、正解の見えない選択をしなければ前に進めないことはよくあります。そういう人生のジレンマを分りやすく擬似的にモデル化して、自分がどのような決断をするのかを客観的に知るためのものとして考えればいいのかもしれませんね。


211218_trocco_icon.png人工知能とトロッコ問題

そういえば最近トロッコ問題の話題で面白いな、と感じたのは、近い未来に実現するであろうAIの制御する自律型自動車にトロッコ問題が深くかかわってくるという話です。自動車も、将来はAIや自動車技術の進歩によって、人間がハンドルを握らなくてもコンピュータのネットワークによって制御された自動車がAIの判断で安全に目的地に運んでくれるような時代がくると予測されていますね。

そうなれば全ての道路の混雑具合を元に渋滞を避けて最短距離や最短時間を割り出して走ることになります。また近年問題になっている高齢者の運転ミスによる事故や、煽り運転の問題など、さまざまな交通に関する問題が一気に解決する夢の時代が来ると思われ、期待に胸が高鳴るところです。しかし、どうも良い所ばかりではないようで、そういう時代が来ればそういう時代なりの問題が持ち上がってくるだろうというお話です。

例えば次のような場合です。ブレーキが故障した自動車が5人の歩行者が横断中の横断歩道に突っ込もうとしている場面。ハンドルを切って横断歩道の手前の障害物に意図的にぶつかれば5人は助かりますが運転手は死に、ハンドルを切らなければ5人が亡くなります。まさにトロッコ問題ですね。客観的に考えれば5人を助ける選択をしたいところですが、ハンドルを握っているのは運転者ではなくAIです。AIが自分の制御する車に乗せている人をいざとなれば意図的に犠牲にするとなれば、そんな「自分を殺す車」には怖くて乗れないということになりますし、そういう判断をするAIを組み込んでいるシステムの管理の責任など、どちらに転んでもいろいろめんどくさいことになりそうです。

また、自動車に乗っているのが妊婦さんで、ひかれそうになっているのが薬物依存の犯罪者だったとしたらAIはそれらの属性によって犠牲者をどちらにするか判断するのだろうか?など、これもどういう決断をしても何らかの批判をうけそうなジレンマ状態になりそうです。トロッコ問題のようなものは人間でさえ確固たる答えを出せないでいる倫理的な問題ですから、AIがどのような賢い判断をしようがその判断をジャッジするのは人間なので、そう簡単には皆が納得する模範解答は得られそうもありません。

まぁ、実際に自律型自動車が本格的に世界中で運用される時代になれば、AIが状況を判断する場合に拠り所となる世界共通のルール(より多くの命を助けれることを優先する、とか、あるいは自分の車に乗っている人の命を最優先するとか)を決めて、そのルールに納得したうえで利用していくことになるでしょうね。以下のリンクにある「WIRED」様の記事によれば、マサチューセッツ工科大学の研究チームが、AIを搭載した自動車は特定の状況で何を優先すべきと思うかを世界各国でアンケートをとったそうです。「生存者と犠牲者の数」「性別」「年齢」「社会的地位」などなど9項目で、結果は興味深いものがあります。

どの国でも共通していたのは「動物より人間、少人数より多人数、高齢者より若者」が優先されたそうです。国によって差異があった傾向については、日本は助かる人数よりは「誰を助けるか」という「質」を優先する傾向があったそうで、逆に生存者数を重視したのはフランスだったようです。歩行者よりも車に乗っている人を優先したのは中国とエストニアのようです。詳細は以下のリンク先の記事を読んでいただくとして、たしかに国ごとの歴史的な背景や文化によって価値観はかなり違ってきますし、一律なルールを決めるのも難儀しそうな課題ですね。こと人命に関する意見というのは、デリケートなので本音やリアリズムだけで合理的に話を進めづらいというのもあり、今後も検討が続く問題になりそうですね。



メモ参考リンク


続きを読む
posted by 八竹彗月 at 12:47| Comment(0) | 哲学