<リノさんのロボット社会論#19> 自動運転車に道徳的判断を委ねるべきか？
文＝リノ・J・ティブキー（『アキハバラニュース』エディター）（末尾に英語の原文）
ロボットカー（イラストは著者）
**新たなパートナーシップ
ソフトバンクの人工知能（ＡＩ）ロボットとホンダの自動運転車―。これら二つの分野を一緒にするため、２社が提携すると先月発表したが、それは興味深く、驚くべきことでもあった。基本的には、ソフトバンクのロボット「ペッパー」に使われている優しいＡＩに似た個性をホンダの自動運転車に埋め込むのが目標だ。
そして、両社でどのようなパートナーシップが生み出されるのかと同じくらい、現実世界に導入するときに直面する、より大きな課題に彼らがどう対処していくかについても、興味をそそられる。これは「トロッコ問題」として知られる倫理学の古典的な思考実験を思い起こさせる。
この思考実験で、我々は走行中に停止不能になったトロッコの運転手であり、二つの選択肢のうちどちらかを選ばなければならない。（１）そのまま何もせずトロッコが軌道に取り残された５人をひき殺す（２）意図的に軌道を変え、その先にいる１人の人間を犠牲にして５人を救う、というものだ。ほかにも、自分自身が下敷きになることでトロッコを止めるなど、さまざまなバリエーションがあるが、共通のテーマは道徳規範が非常にあいまいな中で、難しい道徳的判断を余儀なくされるということだ。
ここでちょっと考えてみてほしい。私たちがそのような決定をするわけではなく、人間が問題を完全に認識する前に、対処能力のあるセンサーとプロセッサーによる高度なネットワークが判断を下すのだということを。これは別に極端な考えではない。交通事故は世界全体の死因で９番目であり、一方で自動運転車は間違いなく人の命も救う。道路を走行中に物事が悪い方向に行く要因が無数にある中で、ＡＩは事実上、それ自身がトロリー問題を内に持つ。十分な反応処理速度を持つゆえに、私たちはソフトウエア構造に「道徳的な」決断を明け渡すことを考慮せざるを得なくなるかもしれない。
ほとんどの専門家は自動運転車の導入が避けられないとし、ホンダとソフトバンクが、かわいらしく思いやりのあるＡＩを構築しようとすることは素晴らしい挑戦だとも思っている。しかし、車が自動で運転できるようにするため我々が熱心に働くのと同様、我々は厳しい現実も忘れてはいけない。人間に倫理観を埋め込むことにどれだけ失敗してきたことか、心に留め置かねばならない。自分たちがデザインした機械に支配権を与えることには十分注意深くあるべきだ。
（隔週水曜日に掲載）
Mr. Reno's Robot Society #19
Artificially intelligent SoftBank robots and self-driving Honda cars are a given - last month’s announcement that these two giants of considerably divergent industries have partnered to bring the two fields together, however, was interesting and somewhat surprising. Basically, the goal is to infuse Honda’s self-driving cars with personality akin to the friendly artificial intelligence that powers SoftBank’s Pepper robot.
It’s fascinating to guess at what this partnership will produce, and equally so to consider the larger challenges they’ll face with real-world implementation. It brings to mind a classic thought experiment in ethics known as the Trolley Problem (トロッコ問題). In the exercise, we imagine ourselves steering an unstoppable trolley car, faced with only two choices: 1. Do nothing and allow the trolley to run over and kill 5 people stranded on the track, or 2. Intentionally change tracks to run over 1 person, thereby saving the 5 others. There are many variations, including stopping the trolley by killing ourselves, but the common theme is being forced to make a complicated ethical decision amidst wildly ambiguous morality.
Now, take a moment and imagine that it’s not us making such decisions, but an advanced network of sensors and processors capable of reacting before humans can even fully perceive a problem. It’s not an extreme consideration; road injuries are the world’s 9th most common cause of death, and while self-driving cars will undoubtedly save some lives, the myriad ways in which things can go wrong on the road virtually guarantees that AIs will have Trolley Problems of their own. Since they’ll be fast enough to react, we’ll be forced to surrender what we might consider “moral” decisions to a software construct.
Most experts agree that the deployment of largely autonomous self-driving cars is inevitable, and it’s a fine challenge for Honda and SoftBank to build cute, compassionate AIs into theirs. But, as we enthusiastically work to let cars do the driving for us, we’d do well to remember the harsher realities. Bearing in mind how often we poorly encode human beings with morality, we should be very careful handing over control to machines of our own design.
ソフトバンクの人工知能（ＡＩ）ロボットとホンダの自動運転車―。これら二つの分野を一緒にするため、２社が提携すると先月発表したが、それは興味深く、驚くべきことでもあった。基本的には、ソフトバンクのロボット「ペッパー」に使われている優しいＡＩに似た個性をホンダの自動運転車に埋め込むのが目標だ。
「トロッコ問題」
そして、両社でどのようなパートナーシップが生み出されるのかと同じくらい、現実世界に導入するときに直面する、より大きな課題に彼らがどう対処していくかについても、興味をそそられる。これは「トロッコ問題」として知られる倫理学の古典的な思考実験を思い起こさせる。
この思考実験で、我々は走行中に停止不能になったトロッコの運転手であり、二つの選択肢のうちどちらかを選ばなければならない。（１）そのまま何もせずトロッコが軌道に取り残された５人をひき殺す（２）意図的に軌道を変え、その先にいる１人の人間を犠牲にして５人を救う、というものだ。ほかにも、自分自身が下敷きになることでトロッコを止めるなど、さまざまなバリエーションがあるが、共通のテーマは道徳規範が非常にあいまいな中で、難しい道徳的判断を余儀なくされるということだ。
ここでちょっと考えてみてほしい。私たちがそのような決定をするわけではなく、人間が問題を完全に認識する前に、対処能力のあるセンサーとプロセッサーによる高度なネットワークが判断を下すのだということを。これは別に極端な考えではない。交通事故は世界全体の死因で９番目であり、一方で自動運転車は間違いなく人の命も救う。道路を走行中に物事が悪い方向に行く要因が無数にある中で、ＡＩは事実上、それ自身がトロリー問題を内に持つ。十分な反応処理速度を持つゆえに、私たちはソフトウエア構造に「道徳的な」決断を明け渡すことを考慮せざるを得なくなるかもしれない。
厳しい現実
ほとんどの専門家は自動運転車の導入が避けられないとし、ホンダとソフトバンクが、かわいらしく思いやりのあるＡＩを構築しようとすることは素晴らしい挑戦だとも思っている。しかし、車が自動で運転できるようにするため我々が熱心に働くのと同様、我々は厳しい現実も忘れてはいけない。人間に倫理観を埋め込むことにどれだけ失敗してきたことか、心に留め置かねばならない。自分たちがデザインした機械に支配権を与えることには十分注意深くあるべきだ。
（隔週水曜日に掲載）
【略歴】Reno J.Tibke ロボット、サイバネティクス、人工知能についての民間研究家兼評論家。Anthrobotic.comの創設者であり、国際的なロボットニュースサイト「ロボハブ」(Robohub.org)の創設メンバーかつ執筆者。東京を拠点とするアキハバラニュース(AkihabaraNews.com)のエディターでマルチメディア映像制作プロダクション「デジタルハブ」(DigitalHub.JP)共同創設者。米モンタナ州出身。
Mr. Reno's Robot Society #19
Friendly Self-Driving Cars Sound Nice, But Can We Make Them Moral, Too?
New Partnership
Artificially intelligent SoftBank robots and self-driving Honda cars are a given - last month’s announcement that these two giants of considerably divergent industries have partnered to bring the two fields together, however, was interesting and somewhat surprising. Basically, the goal is to infuse Honda’s self-driving cars with personality akin to the friendly artificial intelligence that powers SoftBank’s Pepper robot.
Parallel Ethical Considerations
It’s fascinating to guess at what this partnership will produce, and equally so to consider the larger challenges they’ll face with real-world implementation. It brings to mind a classic thought experiment in ethics known as the Trolley Problem (トロッコ問題). In the exercise, we imagine ourselves steering an unstoppable trolley car, faced with only two choices: 1. Do nothing and allow the trolley to run over and kill 5 people stranded on the track, or 2. Intentionally change tracks to run over 1 person, thereby saving the 5 others. There are many variations, including stopping the trolley by killing ourselves, but the common theme is being forced to make a complicated ethical decision amidst wildly ambiguous morality.
Now, take a moment and imagine that it’s not us making such decisions, but an advanced network of sensors and processors capable of reacting before humans can even fully perceive a problem. It’s not an extreme consideration; road injuries are the world’s 9th most common cause of death, and while self-driving cars will undoubtedly save some lives, the myriad ways in which things can go wrong on the road virtually guarantees that AIs will have Trolley Problems of their own. Since they’ll be fast enough to react, we’ll be forced to surrender what we might consider “moral” decisions to a software construct.
Sobering Reality
Most experts agree that the deployment of largely autonomous self-driving cars is inevitable, and it’s a fine challenge for Honda and SoftBank to build cute, compassionate AIs into theirs. But, as we enthusiastically work to let cars do the driving for us, we’d do well to remember the harsher realities. Bearing in mind how often we poorly encode human beings with morality, we should be very careful handing over control to machines of our own design.
Reno J. Tibke is a generalist researcher and commentator on robotics, cybernetics, and nonbiological intelligence. He is the founder of Anthrobotic.com, a founding contributor at Robohub.org, editor at AkihabaraNews.com, and co-founder of Tokyo-based multimedia production firm DigitalHub.JP.
日刊工業新聞2016年8月3日付ロボット面
