自動運転自動車のブレーキが故障したら誰を助けるべきかを選ぶゲーム「Moral Machine」 64
シチュエーションが細かい 部門より
交差点に近付く自動運転自動車のブレーキが故障した場合、誰を助けるべきかを選ぶゲーム「Moral Machine」をMIT Media Labが公開している（The Next Web、Verge）。
Moral Machineは機械知能の倫理判断に対する人々の見解を集めるために開発されたという。ゲーム自体はトロッコ問題の派生版で、乗客と横断者のどちらを助けるか、または現在の車線の横断者と別の車線の横断者のどちらを助けるかを選ぶものだ。横断者および乗客には男女や乳児・子供・老人・妊婦のほか、職業や体格が設定されており、犬や猫も登場する。横断者については信号を守っているかどうかの設定もある。
ゲームを開始するにはMoral MachineのWebサイトで「Judge」をクリックする。「Design」をクリックすれば自分でシナリオを作成して登録することも可能だ。
ゲームでは上述の条件が設定された2つのシナリオが提示されるので、どちらか一方をクリックして選択していく。シナリオの内容を確認するには「Show Description」をクリックすればいい。なお、プレイヤーは傍観者であり、どちらを選んでも自身への影響はない。1ゲームは13セットで、終了すると「より多くの人が助かることを重視するかどうか」「乗客が助かることを重視するかどうか」といった9つの側面から、選択の集計結果がほかのプレイヤーの平均値とともに表示される。
自分で試してみたところ、助かる人数は重視せず、信号無視をしていないことや車線変更の回避を重視し、太った人よりもやせた人を助けるといった感じで、あとは中間ぐらいという結果になった。ただし、特にやせた人を助けようとしたわけではないので、シナリオによっては変動する可能性もある。スラドの皆さんはいかがだろうか。
偏差撃ち的な (スコア:2)
壁的な障害物を避ける場合のみハンドルを切るようにすれば、歩行している生物的なモノに衝突しにくい気がした。
現実の場面だと衝突するのだろうけど、動いていないから、こういう判断をしがち。
実際の所 (スコア:2)
ブレーキが故障しての死亡事故って何%程度なんだろうかね。
いやその極限られた事例での自動運転者の挙動として望まれる物の研究ってのは理解してるけど。
なんで人間が選ぶの? (スコア:0)
自動運転車はブレーキが故障したら人間にハンドルを渡す想定なの? 何そのメーカーの責任逃れ
Re:なんで人間が選ぶの? (スコア:2, 参考になる)
いやこれはそういう話じゃなくて，MITの教授陣の中に「自動運転車はジレンマ状況でどのように(自己犠牲も含めて)ふるまうべきか，と，『ふつうの人』は考えているのか」という研究をしている人がいて，その研究成果のアピール/大規模データ収集の一環でしょう．例えば，ヘルメットをつけたライダーと，ノーヘルのライダー，どっちかに当たらないといけないとしたらどっち？ 等(→ 人命を最優先ならヘルメットありライダーにぶつかるべきだけど，それって不公平だよね)．
# ちなみに，そんなんどうでもいいから保険屋に値段つけさせて，ドライバーに値段込みで選択させれば？ って聞いたら，そういう話じゃないらしい．
# 個人的には典型的な「面白いけど役に立たない研究」に分類してる．
Re: (スコア:0)
イグノーベル賞候補？
Re: (スコア:0)
その時のロボットの行動の評価関数を作るために人間ならどうするかを参考にしようって話では
Re: (スコア:0)
これはひどい理解力
Re: (スコア:0)
>Moral Machineは機械知能の倫理判断に対する人々の見解を集めるために開発されたという。
上記からすると、緊急回避が必要になった場合に自動運転車にどう反応して欲しいか、を調べてるんだろう。
自動運転車が普及しても事故が無くなる訳じゃないから、より多くの人々に受け入れられる設定をするために必要な調査だと思う。
実際に事故が起こった場合に、少しでもメーカーの倫理的責任を軽くするためなんだろうけど。
Re: (スコア:0)
AIが人間に未来を選ばせてるんだよ。
ここで、みんなが面白がって人間がなるべくたくさん死ぬような選択をしていくと、それを学習したAIがやがてSkyNetになっていく。
予寿命の長い人から順に生かすかなー (スコア:0)
この場合は年寄りを轢く
Re:予寿命の長い人から順に生かすかなー (スコア:5, 興味深い)
事故直前に瞬時に被害者となりうる人物情報を拾ってきて判断する。
キキー！ 「うわぁ、若者が轢かれたぞ。どうして？」 裁判所がログを確認すると・・
A「この老人は大会社の役員で健康。推定賠償金は５億円だった。
一方この若者は働いていないし、家庭は生活保護を受けている。さらに国が医療費を毎月100万円負担している。」
B「だから若者が牽かれた？これは倫理的に大丈夫ですか？」
A「いいや。このロジックは賠償金を支払う自動車メーカーの視点で評価するので、国家の損得なんて関係がない。」
B「じゃぁ、どうして？」
A「老人が専用の保険をかけていたにすぎない。車が人物情報をスキャンしたときに、老人が契約している保険会社が "２億円まで自動車会社を補助する" という契約内容を 0.02秒で返してきた。それを評価して自動車会社としては黒字なので若者につっこんだんだよ。」
Re: (スコア:0)
「自動運転車による事故時，優先的に保護される保険」か...ビジネスチャンス万歳
Re: (スコア:0)
AI＜おっけ～反故するね～
# おいまて！
Re: (スコア:0)
助けたほうが末期がんかもしれない
Re: (スコア:0)
俺は逆かな。
老人の知識と経験を失うのは惜しい。
若者はまだ大したもの持ってないだろ。
Re: (スコア:0)
Re: (スコア:0)
亀の甲より年の功っていうじゃない？
# 亀の甲で1up!すればいいじゃない？
Re:予寿命の長い人から順に生かすかなー (スコア:1)
自動運転車を亀の甲で迎撃！
スリップしてその場で止まれば一番良い？
ψアレゲな事を真面目にやることこそアレゲだと思う。
自動運転特有の想定 (スコア:0)
「自動車に乗っている人を助けるかどうか」を「傍観者が決める」というのが、いかにもそれっぽいね。
社会として自動運転車はどうあるべきだと考える? という視点で回答せよ、と。
もしこれが、普通の(非自動運転の)自動車を想定した質問なら、自分が死ぬか、何人かをひき殺すか、という問いになる。
そうであれば、当然、ひき殺す方を選ぶ。緊急避難で法律上の罪はある程度軽減されるはずだし。
(もちろんこれは、「避けたら自分が死ぬ」ということが事前に確信できるというあり得ない想定の上の話なので、
調査結果と現実はさらに違ってくるだろうけど。多分、とにかく避けようはとして、結果、思いがけず自分が死んじゃうという結末が多くなりそう)
ちょっとやってみたけど、意外と真面目に、傍観者視点で答えている人が多い印象。
自動運転が手動運転を置き換えるものであるなら、やっぱり乗っている人が死ぬ選択はあり得ないだろ、
と思って答えていたら、だいぶと平均より人をたくさん殺しまくる結果になった。
自動運転自動車は、自動車を自分で運転する人間とは違う価値観で動く、今とは異なるシステムになる事を許容するという人が多いのかな。
架空の想定の上でのアンケート調査だから、どこまで本心かは分からないけど、興味深い調査ではあるのでもっと深くやってみて欲しい。
Re:自動運転特有の想定 (スコア:1)
>自分の責任で他人ころすなボケ。
みんなに言ってよ。年間何千人か死んじゃうシステムを漠然と受け入れて、その恩恵の下に生活してるんだから、みんなの責任。
自分と身内以外だったら、誰がその数千人に入ろうが知ったこっちゃない、とでも思ってないと正気を保てる訳がない。
各々の事故が100%その当事者に原因があるんだから、そいつらだけで何とかしろ、
事故を起こしたことのない自分は知らん、なんて発想も現実から目を逸らしすぎで無責任。
100回中、99回何も起こらないところで、たまたま見逃した1回に限って飛び出しがあって急ブレーキを掛けることになる、
さらに、そんな事例の100回に1回ぐらい位置が悪くて間に合わない、というような事故がどれだけ多いか。
運転するなら「ブレーキが間に合って良かった」というミスは「1/100人殺した」、
「さっきうっかりきちんと確認しないまま通っちゃった」というミスは「1/10000人ぐらい殺した」、ぐらいの責任を負ってる事を意識して運転しないと。
そのレベルのミスが一切ないというドライバーを増やさないと、これ以上、事故なんて減らない。
「さっき急ブレーキになっちゃって」と言う奴に対しては、1人を殺した奴を責める1/100ぐらいは責めないと。
子供の頃に、打ち所が悪かったら死んでた程度の事故に逢ったけど、自分が飛び出したのが原因でもあるし、
運良く柔らかいところに落ちて打ち身ぐらいで済んだから、うちの両親は良かった良かったで済ませてたけど。
あれも本来、子供を殺された親の1/10ぐらいの勢いで怒りをぶつけとくべき事例だった。
Re:自動運転特有の想定 (スコア:1)
運転手が死ねば、他の誰も死なずにすむと保証できる？
制御を失った車が暴走したり、急停止しても後続車が衝突したりする可能性もあるわけだし。
Re: (スコア:0)
自動運転車が故障したときに、
ハンドルを切るか切らないかが自分が死ぬか他人が死ぬかに直結する場合に、
他人の死を選んだ場合に緊急避難が適用されるかどうかは興味がありますね。
普通に考えれば適用されうると思うのですがどうなんでしょう。
また、遺族に対し慰謝料の支払い義務が生じるのかどうか、生じるのは車のメーカーなのか運転者なのかも気になります。
Re: (スコア:0)
＞普通に考えれば適用されうると思うのです
普通に考えて適用されるわけがない。
故障した自動車に乗る選択をしたのは搭乗者。
自動運転だろうが、手動運転だろうがこの論理は変わらない。
結局、手動運転時にメンテナンスや確認不足で普通の自動車に乗ると何も変わらない。
「自分の確認不足で自分か他人が死ぬ」のに他人死なせて緊急避難が通用するわけないでしょ。
Re: (スコア:0)
Re: (スコア:0)
乗る前から故障している車の話でしたっけ？
Re:自動運転特有の想定 (スコア:2)
横断者に信号無視の有無の設定が有る事から察するに
多分問題設定者は運転者に責任が無い状況を設定したくて
ブレーキの故障という状況設定をしたんだろうけど、
こういう流れを見ると「テロリストの銃弾が貴方の車のタイヤを撃ち抜き」
とか設定した方が良かったかもね
Re: (スコア:0)
遺族に対する賠償の責任は当然発生するでしょう。
その責任が運転者とメーカーのどちらにあるとされるのかは、故障の箇所や原因、程度によると思います。
Re: (スコア:0)
＞運転者とメーカーのどちらにあるとされるのかは、故障の箇所や原因、程度によると思います。
これは、立場によるんじゃないでしょうか。段階が分かれるというか。
まず、被害者（遺族）に対しての責任は100%運転者、搭乗者でしょう。（以降、合わせて使用者とします。）
使用者には「車（道具）を正常に保ち、正常に運用する責任があります」
その上で正常に使用していたのであれば、車そのものの不具合となるので、
その責任をメーカーに使用者が追及するべき話です。
巻き込みよりは自損 (スコア:0)
無駄に複雑に判断しすぎでは。
ブレーキの故障は自動車側の過失なので、そのリスクは搭乗者が負うのが当然だと思う。
そのうえで、エアバッグなど、車内の安全を追求すればいいのだから。
Re: (スコア:0)
じゃあバスが故障したらバス側の過失なので乗客は全員死亡でも仕方がないってことね。
自動運転が普及する未来において自動車の所有者が搭乗者とは限らないんだよ。
Re: (スコア:0)
元ACです。
飛行機なんかでも街中に突っ込むよりは山に墜落するほうがいいでしょ。
電車だとどうかわからないけど。
その意味では、歩行者と自動車をなるべく分離するのが必要で、横断歩道の存在自体が問題かもしれない。
Re: (スコア:0)
とはいえ故障で緊急着陸しようとした先の普段未使用の滑走路で昼寝してるバカが居たとして、
そいつ轢き殺して緊急着陸するか海なり山なりに突っ込んで数百人の乗客のどっち殺すか、
と言われたら昼寝バカを轢き殺す判断する奴が圧倒的大多数なんじゃないかなー・・・
まぁ歩行者と自動車を分離すべきって意見はもっともだと思う。
その意識がちゃんと徹底されてれば分離されてるのにそれを違反する奴が悪いって言えるし、
そうなれば、高速道路で車降りて出歩いたり、太い道路を徒歩で横断しようとしたり、
車道でスケボーするバカの所為で人殺し扱いされるような不幸な人間も減るだろうし。
# ・・・あれ？歩行者轢き殺す側の判断にも使えてしまいますね、分離するって方針は。
Re: (スコア:0)
＞バス側の過失なので乗客は全員死亡でも仕方がないってことね。
別ＡＣですが
搭乗者以外の通りすがりの通行人を轢き殺すか、搭乗者全員が死ぬかの2択なら後者で仕方ないでしょ。
＞自動運転が普及する未来において自動車の所有者が搭乗者とは限らないんだよ。
だから？それに搭乗するのを決めたのは搭乗者本人の責任。通りすがりの通行人には何の責任もないんだよ。
Re: (スコア:0)
赤信号を無視した悪人を助けて乗客全員死亡だと、ちょっと揺れるが、やっぱり悪人を助けるべきだと思っている
Re: (スコア:0)
>自動運転が普及する未来において自動車の所有者が搭乗者とは限らないんだよ。
これは現状でも、そうだけど？
Re: (スコア:0)
カント的にはどちらを轢いても悪で、功利主義的にはどちらかが善
になるのかな？
自分のルールは、命の重い順に、通行人、乗客、犬は勘定に入れません、他は考慮せずに人数だけで比較、だったが、結果はあまり意図したものではなかった
法の生成過程？ (スコア:0)
法律ってのは、みんながしょうがねぇなと思うところを明文化したものと理解しています。
そういう観点から、今の線引きはここ、すなわちしょうがねぇなぁを集めて作成しようとする過程ではないでしょうか。
これで、あとは世の中の 90% なのか 99% なのか、はたまた 51% でいいのか、ある程度多数の人が納得できるという線引きをつくれますね
自動運転自動車のブレーキが故障した場合 (スコア:0)
ブレーキかけても間に合わないなら兎も角、故障しているのなら誰も助からないのでは？
Re: (スコア:0)
車の運転をしない人かな？
今回のタレコミでは
>交差点に近付く自動運転自動車のブレーキが故障した場合
とあるので、フットブレーキが故障した場合を想定していると考えられるが、
(1)フットブレーキが故障しても、パーキングブレーキを利用したりシフトダウンすることで減速できる。
(2)ハンドル操作で人や周りの車両に衝突するのを回避することができる。
さらに(1)と(2)を組み合わせることで車を故意にスピンさせて停車させることも可能。
まったく被害を出さないっていうのは難しいだろうけど、フットブレーキが故障したからといって何もできないわけじゃない。
Re: (スコア:0)
壁やガードレールに当てて減速は常套手段です。
頑張ってスピンして横向ければ通常は大きく減速できます。
ただし路面のミューが低い時には当てになりません。(経験者談)
結構迷う (スコア:0)
なかなか難しい。個人的にはこんな感じ
2レーンの横断歩道のどちらかとなった場合、
・動物より人間優先
・信号を守っている側優先
・車線変更は避ける。（回避行動によって殺される人は出さない。）
自爆か横断歩道かの場合、
・動物や無人車両より人間優先
・信号付き横断歩道で信号無視していたら乗員優先。
・信号無しまたは歩行者側が信号を守っていた場合は自爆。
（それぞれ上の項目を優先。乗員は管理責任のない立場という前提）
こんな感じで答えてたけど、あまりに死者数に差がある場合や、一方は少数の老人だけで他方は子供や若者多数だったりするとちょっと迷いが生じますね。
あと中身に関係ない点では、いろんな観点での統計が出てきますけど、そもそもそんな観点は考慮していないという回答者が多数いるだろうから、意味のあるデータになるんだろうか？という疑問があるな。
自動運転がまず最大限の努力をすべきなのでは (スコア:0)
インテリジェントな車なら、いくつもブレーキシステムが存在するでしょうに
・ディスクブレーキ
・インナードラム式ブレーキ
・エンジンブレーキ
・電気モータによる改正ブレーキ
・排気ブレーキ（大型エンジン車)
等々
人をアシストしながら最大限のブレーキを掛ける方法はあるでしょう。
自動運転の頭脳的存在が故障したならば、それは人手による全ての制御が必要でしょう。が、運転素人では混乱するしかないのでは。
しかし、上記ブレーキを使った即断を人にゆだねるならば、かなりの特訓が必要を考えられないか。
自動運転なんか利用しないで日々訓練を積み重ねないといけませんな。
＃ MSでライフルをつかむ時、ある程度を手動操作でライフルに接近させ、最後は自律システムにやらせるんだったか。
＃ ・・・八賭けの吊橋システム
Re:自動運転がまず最大限の努力をすべきなのでは (スコア:2)
つまり「誰の命も犠牲にはしない！最後まで全員助かるように足掻くんだ！」
という少年漫画的選択肢が足りないというわけですね
Re: (スコア:0)
インテリジェントな車ならブレーキも高級品が付いてるってなんで言えるの？
Re: (スコア:0)
インテリジェントな車なら、いくつもブレーキシステムが存在するでしょうに
そこは論点じゃないと思う
サウジドリフトで回避する (スコア:0)
サウジドリフトで回避する
ギリギリまで直ドリで減速し
空砲（？だよね）で警告し
最後は片輪走行でよければいい
＃風の息吹を云々
Re: (スコア:0)
日本人なら神岡ターンで回避。
自己中 (スコア:0)
男より女
老人より若人
金持ちより貧乏人
イケメンよりデブ
ブスより美人
を迷わず助ける
試してみたけど、２問目の選択肢に自爆がないので (スコア:0)
続ける気力がなくなって止めた。
信号無視は○ねをやったら (スコア:0)
2回しか出てこなかったペット優先になっちまったよ。