殺人エンジニア【トロッコ問題】

初めまして!最近AIを作っています!ふらいおんの浜地です。
皆さんはAIと聞いてどのような印象を持ちますか?

かつての私は映画やドラマの影響からか、神格的な存在を感じていました笑AIが感情を持ち、ほとんどの職をAIが奪っていくといった具合に…実際、人間の感情のしくみを真似したロボットは存在します

我々の生活に馴染みがあるあの白いロボット…
そう!Pepperくんです!!!

スクリーンショット 2021-06-16 16.23.23

汎用型AIによる問題はもう少し先の話になりそうですね

一方で、ここ数年は何かに特化したAIの活躍が見られます。将棋AIや自動運転、無人レジにSiri…
皆さんが馴染み深いこれらのAIは通称「弱いAI」と言われています。

今日は人間が「弱いAI」を使って人を殺そうとするお話です。

皆さんはトロッコ問題をご存知でしょうか?

スクリーンショット 2021-06-16 16.23.31

“5人が線路上で動けない状態にあり、そこにトロッコが向かっている。あなたはポイントを切り替えてトロッコを側線に引き込み、その5人の命を救う、という方法を選択できる。ただしその場合は、切り替えた側線上で1人がトロッコにひかれてしまう。”
という思考実験で、日本人の場合は僅差で「5人を救う」選択肢を取る人が多いようです。

しかし、仮に5人ではなく10人や100人と増えれば増えるほどレバーを押す人が増えるのではないでしょうか。

また、トロッコ問題にはいくつか類似問題が存在します。

例えば、「人を殺してそれより多くの人を助けるのはよいことだろうか?」という観点が似ている臓器くじです。

スクリーンショット 2021-06-16 16.23.40

“別々の臓器が必要な5人の患者に、全く関係ない健康体(1人)を医者が殺し、移植するかどうか。”
という思考実験で、こちらでは日本人のほとんどが「健康体(1人)を救う」選択を取るようです。

このような結果は二重結果論に一致しています。

二重結果論とは、ある行為の帰結を意図された帰結と予見される帰結に区別し、行為者が責任を持つのは、前者の意図された帰結のみであり、いわば副作用とも言える予見された帰結ついては責任が問われないとする説です。

要するに、トロッコ問題では、多くの人を救うことは道徳的に良い行動が、偶然(?)悪い副作用を生むのは仕方がない。

臓器くじでは、良い結果を引き起こそうとして、わざわざ悪い行動をするべきではない。
といった判定です。

もちろん、どちらの思考実験にも答えは無く、国の文化などによって答えも大きく変わります。ただ、これらはあくまで思考実験であり、傍観者視点にすぎません。

つまり、あなたが裁判員になった際の判断です。
当然、現実でこのようなことが起こった場合、自分の手で人を殺める選択はできないでしょう。

もし、この問題が現実になっても、咄嗟に正確な判断はできないので、真剣に考えたってしょうがないかもしれませんね。

なんて…なんて空想の話ではなく、ブレーキの壊れたトロッコは猛スピードであの問題に向かって走っています!

舞台はAIと自動運転!

自動運転車が事故に合った時、事前にプログラムされたAIは正確に判断できます。ただ、AIはどう動けば一番被害が少ないかなんていう未来を予知することはできません。あらゆる面を人間が想定し、設計者やプログラマーが決めるのです。

これは非常に複雑な問題で、例えば、自動運転車が後方の車の追突で押し出された場合、ヘルメットを被って運転しているバイクの方にハンドルを切るか、ヘルメットを被っていない方にハンドルを切るのか決める必要があります。前者に衝突した場合の方が生存確率は高いでしょうが、ルールを守っている方が危険な目に合うなんておかしな問題ですよね。

また、数人の歩行者に追突しそうになり、轢き殺すか、壁にぶつかって自分が犠牲になるという選択だとどうでしょう。多くの命を尊重すると壁にぶつかるべきだろうが、いざという時に自分の命を守ってくれない車なんて誰が買うのでしょうか。

自分だけでなく、友達や恋人、家族の場合はどうでしょう。メーカーも売上のために運転者の命を優先する車を優先するはずです。

この問題についてマサチューセッツ工科大学ではモラルマシンというサイトを作り、トロッコ問題を応用した思考実験の調査を行っています。

https://www.moralmachine.net/hl/ja

スクリーンショット 2021-06-16 16.23.52

この画像では車に乗っている大人と子ども、どちらを犠牲にするかを問われています。 

他にも、ホームレスや犯罪者、金持ちや動物など、さまざまな場合のシチュエーションで人はどう選択するのかアンケートをとっています。 

結果、4000万人以上の回答が集まり、統計が出ました。 

どうやら人は、動物より人間、高齢者より若者を優先し、日本のような治安の良い国では、信号無視をする人は死んでも仕方がなく、貧富の差が激しい国では、ホームレスや犯罪者は優先して殺されるという結果になりました。

 A Iや自動運転にはさまざまな論理的課題があります。しかし、どれだけ考えても答えは見つかりません。

今、4000万人の人間によって意図した殺人が計画されています。答えのない問題に答えをこじつけようとしているのです。 

今もどこかで、エンジニアは人を殺すプログラムを書いています。