トロッコ問題と戯曲「テロ」

来週のセミナーに向けて何かしら関連があるかもしれないお話として、今回は「テロ」という書籍を、「トロッコ(トロリー)問題」に関連する話題として取り上げてみたいと思います。

「テロ」(東京創元社)
7万人ひしめくサッカースタジアムに墜落させようと、乗客164人が乗った飛行機がテロリストにハイジャックされた。空軍少佐は独断で飛行機を空対空ミサイルで撃墜する。さて、空軍少佐は有罪か、無罪か？人間の倫理を問う、法廷を舞台にした戯曲。有罪判決と無罪判決の両方の結末が用意され、実際に観客がどちらかの結末を選ぶという上演も行われた。

先日新聞の書評にも掲載されたこの書籍、ドイツで上演された時は255対207で無罪判決、東京で上演された時は有罪が無罪の2倍の票を獲得したということです。なお東京では橋爪功さんの朗読劇で小曽根真さんがピアノだったそうで、観たかったなあ、なんて思いました。東京では8月に上演してたんですね。ベネズエラでも上演されていて、そちらは無罪が有罪を大きく上回ったとか。

この戯曲、「トロッコ(トロリー)問題」を題材にしていますが、「テロ」「飛行機」など、「トロリー問題」であえて曖昧にしていた詳細を描くことで、より問題を「解決」しにくくしています(例えば空軍少佐が1歳の子供を持つ、優しい父親であるとか)。現実的にハイジャックされた飛行機を止める手段は限られますし、7万人の群衆に埋め尽くされたサッカースタジアムから人々を避難させるには時間はあまりにも限られています。思考実験ではない現実に発生しうる問題として考えた場合、実際には避難にかかる時間、決断するための時間、決断が空軍少佐に伝達される時間などで間に合わなくなる可能性もおおいにありますので、どの決断もあり得るものでしょう。実際にドイツ、東京での評決結果は無罪と有罪で別れました。そもそもこの劇は「人間の倫理」を問いかけるもので、どちらかが正しいかは文化や慣習、人生経験により変わりますし、万人に受け入れられる正解はないと思います。

さて、自動運転車における「トロッコ問題」が取り上げられることもありますが、このような「どっちに転んでも死者が出る」状態に対処するAIを開発する場合、AIはどちらを選ぶのが正解なのでしょうか。人間の中でも答えが分かれている倫理的問題の答えを、AIにどちらを選べと誰が教えられるのでしょうか。どちらを選ばせても、「バグ」「間違い」だと反対する人は出てくると思います(し、訴える人も出てくるでしょう)。

ただ、絶対的正解が存在しない問題に答えを出すのは、AIのいわば「人格」によります。AIには人格はありませんが、AIを教育する、あるいはプログラミングする教育者である人間(複数でも可)には人格があり、その人間の主張や人格に応じて、AIの決断は変わるはずなのです。結局AIの判断が間違いだ、とする主張は、実際にはAIの後ろにいる「空軍少佐」、つまりAIを教育した人間の決断にあなたが納得できるかどうかではないでしょうか。

それは、納得できる答えを出したのが人間なのか、AIなのかではなく、誰かの論理的決断に、主体的なあなたが納得できるのか、が問われているだけだと思うのです。

さて、皆さんは空軍少佐の罪をどう裁きますか？