Probably some programmers are sitting in Silicon Valley saying, “Kill that person because I think that killing one is less bad than killing 10.”, but that’s exactly what it is. It’s an engineer sitting and making a decision.
（おそらく、シリコンバレーの何人かのプログラマーは、「10人のより多くの命を救うためには1人の人を殺すべきだ」と言うだろう。しかし、これがまさに我々が背負っている課題なのだ。エンジニアはこの課題と向き合わなければならないのだ）
― あるAI関連の専門家のコメント より
自動運転の開発と交通事故のリスクとの間に横たわる「トロッコ問題」
自動運転など、AIにたずさわる技術者が話題にしている課題があります。
「トロッコ問題」という課題です。英語ではTrolley problem（トロリー問題）と言います。それは、AIの技術で造られた自動車がどこまで安全を担保できるかという課題です。
私の友人に、北欧のAI企業に勤める技術者がいます。彼が悩んでいるのが、まさにこのトロッコ問題です。そして、この問題が今、世界規模で我々に迫ってくる出口のない問いとなっています。それは、ウクライナ問題に他なりません。
「トロッコ問題」という課題です。英語ではTrolley problem（トロリー問題）と言います。それは、AIの技術で造られた自動車がどこまで安全を担保できるかという課題です。
私の友人に、北欧のAI企業に勤める技術者がいます。彼が悩んでいるのが、まさにこのトロッコ問題です。そして、この問題が今、世界規模で我々に迫ってくる出口のない問いとなっています。それは、ウクライナ問題に他なりません。
人間が自動車を運転する場合、常につきまとうのが交通事故のリスクです。人間が自動車を運転する以上、事故を起こせば、それを起こした人が責任を取らなければなりません。しかし、もし自動運転車が人身事故を起こした場合はどうでしょうか。その場合、その自動車という機械のあり方そのものが問いただされるはずです。
自動運転が発達した場合、人間は完全に車に頼って人混みの中を運転できるでしょうか。このとき、AIは常にコンピュータによって学習され蓄積されたノウハウによって、人間よりも安全に事故を回避するかもしれません。そして、事故に遭う確率は0.0001%というぐらいに技術が進歩するかもしれません。
自動運転が発達した場合、人間は完全に車に頼って人混みの中を運転できるでしょうか。このとき、AIは常にコンピュータによって学習され蓄積されたノウハウによって、人間よりも安全に事故を回避するかもしれません。そして、事故に遭う確率は0.0001%というぐらいに技術が進歩するかもしれません。
ここで発生するのが、トロッコ問題です。
トロッコがレールを暴走してきたとします。そして、あなたはレールが二股に分かれるところに立って、右と左に分かれる線路をスイッチできるレバーを作動する役割を担っているとします。
ここで問題が発生します。右に行く線路には10人の人が縛られて線路の上に寝かせられているのです。そして左に行くと、そこには1人の人が同じように線路に横たわっています。
……さて、あなたはどうしますか？
ここで問題が発生します。右に行く線路には10人の人が縛られて線路の上に寝かせられているのです。そして左に行くと、そこには1人の人が同じように線路に横たわっています。
……さて、あなたはどうしますか？
1人の人を犠牲にして多くの人を助けるべきか、それとも何もできずにいるのか。もちろん、正しい答えはありません。倫理的に見ても、判断できるものではないはずです。しかし、AIの場合はより冷徹に判断をするかもしれません。1人の死者と10人の死者が出た場合の、それぞれの遺族から追及され、支払わなければならない保険金の額、さらに多くの死者が出たときの社会的糾弾のインパクトのリスクなどを、あらゆる側面から計算し判断して、1人の死を選ぶかもしれません。しかし、どちらを選んだとしても倫理的側面から正しい判断をすることは不可能です。
このトロッコ問題は、多くのことを我々に問いかけます。
例えば、もし10人が刑務所の服役者で、1人がアインシュタイン並みの頭脳を持った人だったらどうなのか。あるいは、10人のうちの多くがまだ生まれて数年しか経っていない少年少女で、もう一方の線路に横たわる人が中年の男性だったら……など、課題を突きつければキリがありません。
そして、我々は究極の課題として、そもそも線路に人を縛りつけて命の重さを測らせようとする非人道的な行為こそ、問題なのではないかと思うに違いありません。
しかし、自動運転車を開発し、AIによって人間の労働と人間の冒すリスクを軽減しようとする作業は、常にこの課題との格闘を宿命づけられているのです。AIと人の意識、さらにAIと倫理的判断との間にある溝をどう埋めるかという課題は、犯人を憎むことだけでは何ら解決にはならないのです。
例えば、もし10人が刑務所の服役者で、1人がアインシュタイン並みの頭脳を持った人だったらどうなのか。あるいは、10人のうちの多くがまだ生まれて数年しか経っていない少年少女で、もう一方の線路に横たわる人が中年の男性だったら……など、課題を突きつければキリがありません。
そして、我々は究極の課題として、そもそも線路に人を縛りつけて命の重さを測らせようとする非人道的な行為こそ、問題なのではないかと思うに違いありません。
しかし、自動運転車を開発し、AIによって人間の労働と人間の冒すリスクを軽減しようとする作業は、常にこの課題との格闘を宿命づけられているのです。AIと人の意識、さらにAIと倫理的判断との間にある溝をどう埋めるかという課題は、犯人を憎むことだけでは何ら解決にはならないのです。
ウクライナを救うか、より大きな犠牲を回避するかの究極の選択
そして、今我々はこのトロッコ問題を目の当たりにしています。
現実の世界で、線路に同じような状況で人を縛りつけて判断を迫っている事態があるのです。冒頭に触れたように、それがウクライナ問題だということを我々は今しっかりと考えなければなりません。つまり、なぜNATOがウクライナを助けるために軍隊を出さないのかという課題が、このトロッコ問題と非常に似ているのです。
現実の世界で、線路に同じような状況で人を縛りつけて判断を迫っている事態があるのです。冒頭に触れたように、それがウクライナ問題だということを我々は今しっかりと考えなければなりません。つまり、なぜNATOがウクライナを助けるために軍隊を出さないのかという課題が、このトロッコ問題と非常に似ているのです。
ウクライナをロシアの暴挙から救うためには、NATOから強力な武器を持った援軍を送ることが最も効果的です。この場合、ウクライナは線路に縛りつけられた1人の人間に例えられます。しかし、NATOが参戦すれば、ロシアとの核戦争へと発展する可能性があり、そうすれば世界はもっと多くの犠牲に見舞われます。この状態が線路に縛りつけられた10人の状況につながります。目の前で人が殺され、普通の生活が奪われている事実を見たとき、どちらのレバーを作動するべきか誰もが考えるはずですが、実は答えはなかなか見つからないのです。
今、アメリカもヨーロッパの主要国も、さらに日本をはじめ多くのウクライナに同情する国々も、1人の縛られた人間を見捨て、10人を救うために政治的な判断をせざるを得ない状況に追い込まれているわけです。ロシア軍がウクライナにある原発に攻撃を仕掛けたとき、多くの国の指導者はさらにこの政治的判断へと傾いたかもしれません。
今、アメリカもヨーロッパの主要国も、さらに日本をはじめ多くのウクライナに同情する国々も、1人の縛られた人間を見捨て、10人を救うために政治的な判断をせざるを得ない状況に追い込まれているわけです。ロシア軍がウクライナにある原発に攻撃を仕掛けたとき、多くの国の指導者はさらにこの政治的判断へと傾いたかもしれません。
そして我々、地球市民は思います。そもそも線路に人を縛りつけ、判断を迫った犯人を捕えるべきだと。しかし、ロシアは捕えるには大きすぎる「巨人」です。犯人の巨人を捕まえて、トロッコに向けて落とすことで脱線させる手はないだろうかということは、実はトロッコ問題ではよく議論される課題なのです。
我々が最も怒りを覚えるのは、ロシアがトロッコ問題を盾にして絶対的に有利に戦争をする環境を整えていることです。キエフを守る人々を、武器や物資を援助すること以外の方法によって救うことができない状況が、多くの人を悩ませているわけです。
我々が最も怒りを覚えるのは、ロシアがトロッコ問題を盾にして絶対的に有利に戦争をする環境を整えていることです。キエフを守る人々を、武器や物資を援助すること以外の方法によって救うことができない状況が、多くの人を悩ませているわけです。
トロッコ問題ではpassiveな行為という選択が課題になっています。つまり、受け身のまま、何もしないという選択のことです。しかし、この選択は最も人々の心に後悔と苦痛を与えます。そもそも英語のpassiveとはpassion（情熱）からくる言葉ですが、passionの語源はと言えば、「苦しむこと」を表す言葉に起因します。The Passionと言えば、キリスト教ではキリストの受難をも意味しています。
「トロッコ問題」は今を生きる我々が向き合わなければならない課題
我々はトロッコ問題を起こしてはなりません。それが機械であるAIと人間とを区別する極めて大切な境界線なのです。常任理事国の拒否権で動きが取れない国連を故意に無視し、核の脅威による抑止力を悪用する行為は、トロッコ問題の難しさを我々に突きつけます。
「もしメキシコがロシア寄りの国になって、そこにロシアが核を置きたいと言ったら、アメリカはどうするかね。アメリカは迷わずメキシコの政権を潰しに行くだろう。我々はNATOの東への拡大をそのように見ているのだ」
あるロシアの評論家は、このように語っています。もちろん、あの人も盗みをしているから私も盗みをしてもいいだろう、というわけにはいきません。
しかし、トロッコ問題が政治、軍事さらには経済情勢の中で、世界のどこにでも転がっている課題であり、大国は常にそれを悪用しかねないという現実が、21世紀に我々が解決しなければならない最も深刻な課題であることは事実なのではないでしょうか。
しかし、トロッコ問題が政治、軍事さらには経済情勢の中で、世界のどこにでも転がっている課題であり、大国は常にそれを悪用しかねないという現実が、21世紀に我々が解決しなければならない最も深刻な課題であることは事実なのではないでしょうか。
＊ ＊ ＊
『日露対訳 チェーホフ短編集』
アントン・チェーホフ (著)、阿部 昇吉 (訳注)
ロシア語多読入門、チェーホフ入門のための一冊！基礎文法や日常的なあいさつなどをマスターし、入門レベルを卒業した初・中級者のための学習書です。作品の時代背景や、チェーホフトリビアのコラム、そして語句解説も充実で、レベルアップを目指すロシア語学習者に最適な一冊です。
