「自動運転カー」によるエラーを人々は受け入れられるだろうか 126
ストーリー by reo
人は死にたがる生き物なので 部門より
人は死にたがる生き物なので 部門より
capra 曰く、
Google が自動運転カーを開発していることを耳にしたことがある人もいるだろう (/.J 記事) 。このプロジェクトのチーフエンジニアを務める Sebastian Thrun 氏は先月Technology, Entertainment, Design (TED) のプレゼンにて、この技術で年間 1 万人の交通事故死を防げると述べたそうだ。さらに交通事故による負傷に至っては、年間数千万件防げるであろうとのこと。
開発の焦点はあくまで「人間は運転というタスクに長けておらず、ロボットに運転させることで完璧を目指すことができ、誰かを死亡させることもない」ということにあるとのこと。プロジェクトの中間報告だというこのプレゼンでは、砂漠や公道での走行や、スタントマン顔負けの実験運転の様子が紹介されており、確かに非常に安全な運転を実現できているように見受けられる。
しかしどんな技術もそうであるように、100 % 安全という訳ではないだろう。本家 /. 記事では、この技術が実用化されたとして、アルゴリズムやハードウェアにおける万が一のエラーが発生した場合、人間はそれを受け入れることを出来るだろうか ? との疑問を投げかけている。人によって何万人もの交通事故死が起きる現実と、自動運転によって予期せぬ事故が起きる可能性、そして人間の心理を /.J 諸兄方はどうみる ?
危険度 (スコア:5, 興味深い)
人は危険度を判断するときに「自分でコントロールできるかどうか」というファクターを重要視していると思います。
それは放射線よりも危険度の高い「喫煙」を多くの人が行ってることからも明らかです。
「放射線」は自分ではコントロールできないので実際の危険度よりも高く評価され
「喫煙」は自分でコントロールできるので実際の危険度よりも低く評価されるわけです。
そういうわけで、仮に「自動運転カー」ができたにしても、それが暴走して事故ったときに運転者（運転してないけど）に責任を取らされるような仕組みなら、誰も買わないんじゃないですか。
Re:危険度 (スコア:1, 興味深い)
ニコ中やアル中は「自分でコントロールできない」状態だから依存症といわれるんだけどね。
Re:危険度 (スコア:2, 興味深い)
Re:危険度 (スコア:2, 興味深い)
-------- izyu
Re:危険度 (スコア:2)
そもそも、放射線を浴びたから喫煙をやめるというルールがない。
受け入れたリスクにさらに余計なリスクを足されることを許容しろと
いう理屈は意味がわからない。
30mの鉄塔の上に立っている人間に、60mの鉄塔なんてたいしたことない
って言ったって、怖いものは怖い。
Re:危険度 (スコア:1)
青酸カリで死亡した人は少ないから安全なんですねｗ
ψアレゲな事を真面目にやることこそアレゲだと思う。
Re:危険度 (スコア:1, 興味深い)
タバコや紫外線(広義には放射線ですが)などでも傷つけられます。
酸素によってすら損傷を受けます。(いわゆる活性酸素)
そのため、生物の細胞は遺伝子を修復する機構を持っています。
ことさら放射線による遺伝子の損傷を強調するのは、放射線に対する誤解を助長します。
ちなみにウィキペディアによると、
「DNA分子の損傷は1日1細胞あたり最大50万回程度発生することが知られて」
いるらしいですよ。
http://ja.wikipedia.org/wiki/DNA%E4%BF%AE%E5%BE%A9 [wikipedia.org]
比較できることなんでしょうか？ (スコア:3, すばらしい洞察)
＞アルゴリズムやハードウェアにおける万が一のエラー～
アルゴリズムやハードウェアのエラーは、直せば改善していきますが
人が起こすエラーは、なかなか改善されませんよね。 *sigh*
==========================================
投稿処理前プレビュー確認後書込処理検証処理前反映可否確認処理後……
Re:比較できることなんでしょうか？ (スコア:1, おもしろおかしい)
すべての車が一斉に自動化されればまだいいですが、過渡期には「自動車」と「手動車」が共存するわけで…
両者が事故を起こした場合、過失割合がどうなるのか、気になりますね。
# 「今月のパッチを当てていない自動車は過失割合 9割」とか
Re:比較できることなんでしょうか？ (スコア:1)
運転席に座ってるのがマルチだったら過失９割で、セリオだったら１割、みたいな？
Re:比較できることなんでしょうか？ (スコア:2)
人は誰に殺されたいのか、と。自分でミスって壁に突っ込むか、自動運転装置の最善の努力を超えた事故で不幸にも死ぬか。
目があった他人が死ぬのを手出しできずに見守るか、自らの制御下で殺したいか、とか。
# 厨二臭くなってきたのでID
Re:比較できることなんでしょうか？ (スコア:2)
自動運転というメソッドを選択したことがある意味「運転」であり、自分の責任に帰すものではないでしょうか。
したがって、自動運転に殺されるのと自分で操縦失敗して死ぬこととは何ら変わりないと思います。
一人以外は全員敗者
それでもあきらめるより熱くなれ
プレデターには殺されたくない (スコア:2, 参考になる)
これの延長線上という事ですね。
しかし、私はプレデターの様な無人機に殺されるよりは、断然有人の攻撃機に殺されたいなぁ。
Re:プレデターには殺されたくない (スコア:1)
リモコン操縦のプレデターにやられる方がマシな気がする。
これは殺す側にも心の痛みがあるだろうという、淡い期待だろうか？
Re:比較できることなんでしょうか？ (スコア:1)
ええと。このテの話をするときは、当然改善についても触れなきゃならんと思うのですが？
人だろうが物だろうが改善・改良されていくのは当然のことです。
もちろん重大事故の結果、人に関しては改善する未来が絶たれる可能性もありますが。
そういう比較の話ではなくリスクだけで見れば「俺、この道知らないからお前ヨロシク」と同じことです。
要するに、自分に起因する事故の確率とのバランスでしかありません。
問題になるとすれば、アルゴリズムの責任まで触れると
バグや欠陥じゃなくても最適化されなかった為に問題を引き起こす可能性があるってことです。
あるいは何か問題が生じた時。それが最適であったと証明できるかという問いでも構いません。
あとは、何かしらのアップデートが生じたとき、どこまで使用者の責になるかとか。
少なくとも。そーいうところが定められていない現状では、誰も納得なんてしないでしょうね。
==========================================
投稿処理前プレビュー確認後書込処理検証処理前反映可否確認処理後……
Re:比較できることなんでしょうか？ (スコア:1)
例えば、次の例で受容のしやすさを問われているとすれば、社会的には過去事例があるだけ(a)より(b)が受け入れられやすいと想像する。
(a)自動運転の自動車に乗車中の事故
(b)自動運転の電車に乗車中の事故 …つ ニュートラム, ゆりかもめ etc
ここで、近い将来を例示してみる。あくまで例であるが。
(a') Google car?
(b') 軌道を廃したITS隊列自動運転 …ただし、新東名で予定されている代物は、いまのところ貨物専用だ。
どうお感じになるだろう？
(b')は列車・路面電車の事故にあったと想像すれば、比較的に実情に近いであろうというアドバイスも可能だ。頻度は格段に低いが、事故に至ったときの被害は大きい。
少し突っ込んで、より定量的に今時っぽく捉えたいのであれば、ハザード分析/リスクアセスメントの考え方がある程度、有効だと言える。Severity/Exposure/Controllabilityの3パラメータで語られる、業界関係者にはおなじみのアレ(機能安全: IEC61508)だ。
事故の起きやすさ・深刻さは道具によって様々なのは当然だが、最終的な事故に至るまでの様々なハザードが許容できる水準まで押さえられており、かつ本質的に除去できない程度の事故であれば社会的には受容される。
また、鉄道も自動車も人力車であっても、乗客を乗せて移動する道具で同一プロパティの機器だと言える。個人的な主観だが、同じ「乗り物」と呼べる道具なら、昔、蒸気機関車が登場したり、自動車･バイクが登場した直後の社会的影響を演繹して考えれば充分じゃないかな。
ナイトライダー (スコア:3, 興味深い)
好きなアメリカドラマで、人工知能を持った車がヒーローとともに悪を倒すという、ナイトライダーというのがありました。
車と相談する訳ですが、車のプログラムには「何があってもドライバーの人命優先」がプログラムされていました。ですが、ドライバー自身が危険に接するようなギャンブルで窮地をしのぐときは、ドライバー側にコンピュータを黙らせる、という特権がありました。
以前名古屋かどこかの空港で、自動操縦を操縦士が無理矢理ねじ伏せて操縦し事故が発生したことがありました（95-99年くらい）。最終権限は人間、リリースタイミングは割と早めにしないと・・・特に人名がかかっているときは。
-- gonta --
"May Macintosh be with you"
Re:ナイトライダー (スコア:2, 興味深い)
以前名古屋かどこかの空港で、自動操縦を操縦士が無理矢理ねじ伏せて操縦し事故が発生したことがありました
中華航空140便墜落事故 [wikipedia.org]
操縦者がうっかり自動操縦のスイッチを入れてしまい、これが簡単に解除できないため、自動操縦装置と機の主導権を争ったあげく墜落させてしまった。
ちなみに簡単に解除できないようにしたのは「人はコンピュータに比べ誤りを起こしやすい」という設計思想によるもので、これはこれで正論なのだが、パニくった人間の心理と相容れなかった次第。
Re:ナイトライダー (スコア:3, 興味深い)
中華航空の事故は、ほんらいエアバス機の講習をちゃんと覚えていればゴーモードは簡単に解除できたはずなのに、その操作がその時点でできなかった機長と副機長が悪いのでは？一説には、ボーイングと同じく舵輪に力を加えると簡単に自動操縦が解除されるものだと思い込んで操縦してたともいいます。まぁエアバスはこの事故の前年には「ゴーアラウンドモードでそれに逆らう舵輪操作をすると、ゴーアラウンドモードが解除される」というようにフライトコンピュータを改修するよう推奨を出してたけど、中華航空は未実施だったってのもある。
プリウスの例からすれば、不可能。 (スコア:2, すばらしい洞察)
プリウスの急加速問題であれだけもめた結果、何もなかったと証明されましたが、これは人間がテクノロジーを基本的に信用してない証明でしょう。
実際はミスしてるのは人間の側なのですけどね…。
スバルのアイサイトとかの、運転支援システムをどんどん充実させていく方がいいんじゃないですかね。
危機的状況では自動的に安全装置が働くとしても、最終的な判断と責任は人間に任せるしかないと思います。
※安全装置としては、ブレーキオーバーライドとか必要な機能だと思うけど、ヒールアンドトーしたい時はどうするんだろ？
「ジドウウンテンガー」 (スコア:1, おもしろおかしい)
事故が起きたときの言い訳ﾃﾞｷﾀ
現実が空想に追いつく (スコア:2, おもしろおかしい)
エクスドライバー [wikipedia.org]を組織すればOK。
まあ、軌道系交通機関であれば、無人運転はすでに実用化されているので、そっちで事故が起きた場合の対応を見れば、なんとなく想像は出来るよね。
結局はどこが責任をもつか？ (スコア:2)
人間のミスで事故が起こった場合は、本人や保険といったもので責任と対価を保障するわけですが
万が一にもこのシステムが原因で事故がおこった場合の責任をどこに置くか？ということでしょうか。
#保険のオプションに「自動運転による補償」といった項目がプラスされることでカバー出来るかな
責任、自動録画、同意書、許可する速度 (スコア:1, 既出)
1. 走行中の自動録画の有無
常時録画が必須と思います。半分自動で半分手動の運転としても、
事故後に「この状況で自動運転を続けていた運転手の責任は」
「この状況で自動制動が効かなかったのはバグか否か」
と分析するには前方側方の常時録画（SDカード）が必須でしょう。
2.ソフトウェア利用の同意書
表計算ソフトのように「このソフトでどんな事故が起きても
当社は一切責任負いません」という同意書になるかどうか謎ですが。
「自動運転むけの保険」加入の義務化が現実的と思います。
3.自動運転を許可する速度の範囲、地域
一番有望なのは渋滞中の時速20km以下の自動運転だろうと思います。
これなら実用化も近いし、事故の確率も低い。
例えば「北海道限定、時速20km以下なら自動運転を法律で許す」
というふうな特区を作れば、自動車会社も開発しやすいでしょう。
北海道は渋滞すくなさそうですけど。
「首都高速限定、時速20km以下なら自動運転を許す」のも可。
部門名 (スコア:2)
これはどういうジョーク？
元ネタがあるのかな。
自動運転カーが普及しきった世界 (スコア:2)
すべての自動車が、行き先を指定するだけで自動運転で動いてくれるようになったら素晴らしいですね。
あと、自動車同士が無線通信していて、車間距離も最適に保って無理な割り込みも追い越しもなく、結果としてよっぽど交通量が多い場合以外は渋滞も起こらないとか。
歩行者はもう車道に入っちゃダメでトンネルや歩道橋で横断することにして、その代わり「流し」の自動車をつかまえれば行きたいとこまで連れてってもらえるとか。それでまた事故が減る。
幹線道路など特殊な設備のついた道路では信号もなく、通行する全車の速度を調整することで群を作らせ、交差点ではその群れが縦横交互に通行して停止しないとか。
シートやインテリアにこだわりたい人以外はそもそも車を所有する必要すらなくなるとか。エコですね。
当然、電車は新幹線とか長距離特急だけになるから踏切なんかもなくなり、ますます事故が減る。
妄想の翼はとどまるところを知りません。
最終目標地点がそんなような、自動車事故がほとんど起こらない世界だったとして、現在の世界からその世界までの過程で、年間の死者数が減り続けていくような絵がもし描けたら、普及も夢じゃない、かもしれない。
# マリネラ王国 [wikipedia.org]みたいな中央集権国家のほうがそういうのはやりやすいかもしれない
最大の問題は・・・ (スコア:2, おもしろおかしい)
「人間はプログラミングというタスクに長けておらず、人間がプログラミングに関わる限り完璧なものは作れず、誰かを死亡させる可能性がある」ということだ。
暴走させないために (スコア:1)
これこそ、すべての電源を喪失した場合の対応策はとってないと困ります
＃せめてエンジンが動いてくれたなら...
Re:暴走させないために (スコア:1)
普通の自動車だって電源喪失したらエンジンうごかないですけどね。
Re:暴走させないために (スコア:1)
ディーゼルなら大丈夫って指摘はなるほどですが、
とりあえず普通は、ブレーキブースターは吸気の負圧を利用してるし、
パワステはベルト駆動のポンプによる油圧を利用してるから、
エンジンが自力で回らなくても車が走ってるならクラッチつないどけば
＞＃坂道なら、（なかなか）曲がらない・止まらない車での出来上がり
こうはならんのじゃないですかね。
Re:暴走させないために (スコア:1)
Re:暴走させないために (スコア:1)
キック始動のディーゼルエンジンは電源いらないそうです
ディーゼルエンジンは燃料ポンプ必要ですよね。
それも、ガソリンエンジンより高圧なやつ。
キャブのディーゼルエンジンってないと思ってるのですが、
もしかしてあったりします?
Re:暴走させないために (スコア:2, 参考になる)
Re:暴走させないために (スコア:1)
キャブのディーゼルエンジンってないと思ってるのですが、 もしかしてあったりします?
書いてから思い出しましたが、ラジコンのエンジンてそんな感じですね。
普通の自動車のエンジンとは違いますが。
運転そのものができても運転できるわけじゃない (スコア:1)
自動運転車が普及したとすると、事故の原因で一番多いのはバグや不具合によるものではなくそもそも回避不能な状況だったりよく見えなかったりする状況だろう。運転できればいいってもんじゃないのは運転してる人なら誰でも知ってる*はず*だ。
ましてや、道路がクソ貧弱で運転者の予測でなんとか運用できているように見えていたり、運用できてなかったりする現状ではなおさらだ。もうね、いいかげん自動車という考えを捨ててもいいんじゃないかと(ry
Re:運転そのものができても運転できるわけじゃない (スコア:1)
ただ、そんなのろのろ運転で我慢できる運転手は居ないので、高度な危険予知をしつつある程度スピードを出す。
その点、完全自動化が果たせれば、乗ったら寝てれば良いので、のろのろ運転を妨げるものは何も無い。 街路ではぶつかっても、あ痛っ、で済むような低速運転、高規格な道路に乗ったらそれなりのスピードで、ってのが落とし所に思えるんだけど、その状態まで社会システム全体を移行する道筋が無い。
# アルゴリズムの改善で安全性を保ったまま10%スピードアップ! みたいな開発競争は見てみたくもあり怖そうでもあり
Re:運転そのものができても運転できるわけじゃない (スコア:1)
そもそも前提としている安全と速度についての認識が違うようだ。なのでそれには全く同意できないな。
いきなり速度ベースで「落とし所」なんて言ってるところを見ると、君の思考は直線から外には出られないようだね。
「痛いで済むような速度」なんて存在しない。どんなにゆっくりでも乗られたり挟まれたりすりゃ簡単に死ぬ。
速度で変わるのは事故率と事故時の死亡率であって、死なない保証なんてないんだよ。
Re:運転そのものができても運転できるわけじゃない (スコア:1)
Re:運転そのものができても運転できるわけじゃない (スコア:1)
それが過大評価されてるんじゃ無いかと思うんです。
冷静に測ってみると、殊更にのんびり走ったときで30分かかるところを、 遅刻しかけてちょっと危ないなと言うぐらいまで攻めても25分ぐらい。 その5分って自分にとって(遅刻しかけてるとき以外)そんな危険な思いをするほどの価値があるのかな、と。
実際問題、ちょっとぐらいのろのろ運転をしたところで時間的な損失は大したことは無いんだけど、 運転時のストレスが上積みされて、すごく忌避すべきことと勘違いされてる気がします。
Re:運転そのものができても運転できるわけじゃない (スコア:1)
Re:運転そのものができても運転できるわけじゃない (スコア:1)
自動運転車同士なら、無線通信でもやらせて互いの位置を知らせあわせれば、そうそう回避不能な状況は発生しないでしょう。 工場の自動化なんかを見ていると、ここまでは早晩実現出来る技術だろう、と勝手に想像しています。
そうなると、問題は、飛び出してくる人やら本来有るべきで無い所に落ちてる障害物やらの外乱を避ける事に限定でき、 そういう場所だけは無茶苦茶ゆっくり走ることにしても大して失う物は無いから良いんじゃ無いか、と思っただけです。
>おまえの5分はたしかに無価値だろうが、後続車100台分の合計500分がアホののろのろ運転のおかげで失われてるわけなのだが。
後ろにせっかちな人が100人並んでたらそうですね。
ボットネット (スコア:1)
道を走ってる車を一斉にカージャックされたら、かなり嫌なことになる気がする……
1を聞いて0を知れ!
高速道路で、貨物用なら普及すると思う (スコア:1, 興味深い)
去年日本でもNEDOが隊列組んだトラックを自動運転させる [srad.jp]実験をやってましたよね。
自動車の自動運転が最初に普及するとしたらそういう物流分野じゃないですかね。
人間には不可能なほど車間距離を詰められて、燃費でも有利になるらしいです。
最初のうちは先頭だけ有人（でもほぼ自動操縦）で追従車は無人、だんだんと隊列全体が無人になると想像。
マイカーとか旅客用途だとやっぱり事故が怖くて受け入れられないでしょう。
高速道路なら一般道よりも処理する情報が少ないから自動化は比較的簡単なはず。
専用レーンみたいなものを作ってそこを走らせるみたいなこともやりやすいですし。
Re:高速道路で、貨物用なら普及すると思う (スコア:1, おもしろおかしい)
電車で 電車で Go!Go!Go!Go!
電車で 電車でGo!Go!Go!Go!
前方の通行人を１人ひき殺さないと (スコア:1, 興味深い)
後ろに乗ってる５０人の乗客の命が危ない。
さあ、どうしますか？
＃サンデル先生＞自動運転君
Re:保険でおk (スコア:1, すばらしい洞察)
交通事故死が劇的に減ったりしたら、臓器の出どころが無くなるよね。
医学界(と金持ちのお客)も受け入れられるだろうか。
Re:保険でおk (スコア:1)
小金持ちならそうかもしれない。
大金持ちなら運転手雇えばいいよね。
Re:保険でおk (スコア:1)
の
Re:トレードオフ (スコア:2)
こういう話もありますし、如何せんエネルギーが多いですからねｗ
http://blog.livedoor.jp/netagazou_okiba/archives/4322096.html [livedoor.jp]
Re:そのリスクは見て見ぬふりをすることになっています (スコア:1)
だから、自動車なんか捨てて専用軌道を張り巡らすほうが断然簡単だろうなと。
自動運転の自動車なんて、交通システムとしては醜悪の極みだよ。