オートパイロット中と思われるテスラ車、停車中の事故車にまっすぐ突っ込む 107
ストーリー by hylom
動いていないと検知できない？ 部門より
動いていないと検知できない？ 部門より
Anonymous Coward曰く、
台湾の高速道路で、自動運転中のTesla Model 3が横転したトレーラーに突っ込む事故が発生した（ギズモード・ジャパン、動画）。
天候は悪くなく視界は良好だが、ドライバーは目の前の横転したトラックを見て車線を変えることも減速することもなく、そのまま直進し、止まり切れないタイミングで急ブレーキをかけたが、そのまま衝突した。
おそらくオートパイロットを過信して、まったく前を見ていなかったように思われる。当然、オートパイロットを過信した運転手が悪いのだが、テスラ車はドライバーが前を向いているかどうかを監視していないため、このような事故は今後も一定数は起こると考えられる。
なお、ドライバーの命に別状はないという（カラパイラ）。
回りの状況をみろ (スコア:2)
急に減速とか車線変更をする車がまわりに出てきたら警戒するという人間の思考まで
自動運転技術に取り入れる必要があるな
そしてAIも正常性バイアスで事故ると。以下議論繰り返し
Re: (スコア:0)
いや、車線変更する車とか今回の事故に全く関係ない。
突っ込んだテスラの目の前で横転したわけでなく、ずっと（カメラにテスラが見えないくらい前から）車線上に障害物として
存在した状態なんだから。
テスラが車線上の障害物を認識できないクソオートパイロットなだけ。
https://jp.techcrunch.com/2019/09/09/2019-09-04-tesla-autopilot-design... [techcrunch.com]
この消防車に突っ込んだ事故と全く同じ。
既視感あるなぁ・・・ (スコア:1)
Re:既視感あるなぁ・・・ (スコア:2)
学習データの中に、その手のコントが混ってたんですよ
Re: (スコア:0)
自動運転でなくても高速で事故車に突っ込むのは日常茶飯事なので問題ない。
Re: (スコア:0)
高速だと路肩の故障車のハザードランプを注視→ハンドルを事故車方向に切ってしまって接触ってパターンがまれによくある
ACCは登り坂を障害物や前の車と誤認してくれるというのに。
Re:既視感あるなぁ・・・ (スコア:2)
それは「注視」してないからやろ。
運転中に注視しようとしたら、対象物が進行方向にないとそもそも注視ができない。
となると、そっちに向かっていかざるを得ない。
というわけで運転者としては、対象物を意識しつつも「注視」してはいけない。ｗ
フェイントかけたら止まったのかな？ (スコア:1)
進行方向へ行く素振りをしたら、歩行者(運転手)検知して衝突回避しようとブレーキかけたのかな？
衝突コースに居たけどスルーしてたように見えるし、速度域的に無視して跳ねたかもしれないけど。
このパターンの事故が止まらないのは、You have controlが遅すぎるか、大人しすぎるのかしらね。
Re: (スコア:0)
人の横を通るときに煙が上がってるので、一応そこでブレーキはかけてる模様。ただその後なぜか戻して、直前でまたかけてる。
Re: (スコア:0)
確かに歩行者を回避した後で初めてトレーラーに気付いたような挙動に見えた。
Re: (スコア:0)
同時に複数の危険事象に対応できず、ひとつずつ回避していく感じなのかな。
プログラミング的にはありえそう。
Re: (スコア:0)
センサーの範囲が狭いのかも。
市販されてる追尾するだけのシステムでも、やっと前の前の車の動きを見ているレベルで全体は見れてない。
Re: (スコア:0)
同時に複数の危険事象に対応できないのはむしろ人間の方では。
今回のケースがどうだったかは別として、
ひとつずつ回避していくのは、「同時に」複数の危険事象に対応する正しい方法だと思う。
その結果、機械にとっては過剰な安全余裕が生じるだろうけど、
全車完全自動運転の時代になるまで、それは必要なコストだろう。
Re: (スコア:0)
いやダメだろそれ。
複数の危険があるなら全ての危険を分析して被害を最小限にする選択をしないと。
一つを完璧に回避した結果もう一つが重大な惨劇になっていいの？
Re: (スコア:0)
「同時に」複数の危険事象に対応するって括弧までつけてあるのに理解できないの？
今回のように、手前に人がいて、奥にトラックが横転しているとする。
手前の人はステアリングで回避できるが、奥のトラックを回避するには減速しなければならない。
このような場合に、手前の人をステアリングで回避しつつ減速するのではなく
トラックを回避できるように、まず「手前の人」に対して「減速」する。
だから、機械にとっては過剰な安全余裕が生じる。
その代わり、人間がトラックを見落としていても重大な惨劇にはならない。
Re: (スコア:0)
あれってブレーキでの煙なのかな
自分もそう思って何度か見てみたけど、トラック横転時の何かを巻き上げているだけにも見える(その辺が元々白っぽく見える)
Re: (スコア:0)
うん。まともなABSが付いてればブレーキロックによる白煙なんか出ませんよね。
Re: (スコア:0)
ABSがロックを回避する目的はブレーキをかけつつ、障害物を回避するためで、フルブレーキをかけている時にABS効かせても停車までの距離が長くなるだけじゃない?
Re: (スコア:0)
動摩擦係数と静止摩擦係数って分かるかな?
どうしてロックすると制動距離が伸びるのかちょっと考えてみようか
テスラの運転補助機能はどうなのか (スコア:0)
日本の自動車の運転補助（前車追従式）だと、止まってる障害物をだいたいまともに認識しない。
これは日本の道路事情の関係で、路肩駐車している車に過度に反応しないため。
ブレーキしてくれることもあるけど、それは停車から急発進の時と同じメカニズムで動くんで
こういう場合は「事故回避」という意味では手遅れ。（損害軽減という意味では有効）
なので前に車がいない状態で運転補助（実質定速オートクルーズ）の場合、通常の運転以上に気を使う必要がある。
それでもアクセルコントロールがない分楽なんだけどね、特に高速道路。
＃ブレーキをわずかでも踏むと自動運転が解除されてしまうので、「怪しいところでアクセルを緩めたりすぐにブレーキを踏めるよう
＃構える」という動作が結構めんどくさくなる。
やはり自動車専用道路での完全自動運転以外では、日本車のようなゆるゆるレーンキープによる「操舵をさせて運転を
常に意識させる」という塩梅が正解という事か。
Re: (スコア:0)
人にもAIにも認識・理解しやすい（日常動作と誤認識することがない）、
かつ誰でも簡単に覚えられる停止指示動作を
新たに定めて国際ルールで統一した方が良い気がする。
コマネチとか。
Re:フェイントかけたら止まったのかな？ (スコア:1)
三角表示板を認識出来るようにするのが一番早いかな、
日本だと、高速道路で停止する場合は表示してないと切符切られますので、持ってる人多いでしょうし。
教師データ不足 (スコア:1)
学習させたデータに「事故で横転したトラック」が無かったのかな。
障害物だと認識出来なかったんだろうね。
人間なら「道路を識別して未知の物があったらとまる」んだけどね。
Re: (スコア:0)
わきに居た人間に注目してしまってその先にあるトレーラーに気付いてブレーキかけたけど間に合わなかった
とか人間が運転しててもありそうだけど。
Re: (スコア:0)
現在の技術で十分に優秀な自動運転でも
（強制的に）ハンドルを切る、アクセルを踏む等が手動介入の手段だった場合に、
・トラックと手前の人を検知するが、トラックが障害物か判断できないので、警報を出す
・まずは手前の人に対して自動回避行動を取る
・運転手が人に気付き、手動介入を行う
・トラックに対して再度警報を出す
・運転手は人の回避に気をとられて、警報の意味の理解が遅れる
・運転手は自動運転機能が抑制されていることに気づかない
・フォールバックの自動ブレーキが作用するものの間に合わない
なんてシナリオは十分考えられる訳で。
どんなに技術が進歩しても、最後の敵は人間だろうね。
Re: (スコア:0)
今のAIに「〜に注目する」という機能はないので何とも
AIの外で「〜を検出したら〜関数を実行」というのはできるけどね
Re: (スコア:0)
動いてなく白くてのっぺりしていて大きいから見逃したのかもね
テスラのシステムって白くて動いてないものが苦手なんだとか
＃苦手を克服しないでそんなもの必要ないって切り捨ててこれだもんなぁ
前を見ていなかったとどうして言えるのか (スコア:0)
正常性バイアスに囚われると人は前を見ていても何もしない
Re:前を見ていなかったとどうして言えるのか (スコア:1)
「オートパイロット」なんて言葉使うから事故になるんだよ
ちゃんと非完全自動運転車と名乗れ
Re: (スコア:0)
非完全か、不完全か、それが問題だ。
-- シェイクスピア(嘘
Re: (スコア:0)
オートどころか「完全自動運転」と名付けて「完全自動が完全自動という意味ではないのは当たり前です」とか逃げてるからな
Re: (スコア:0)
スマホで遊んでた事例があったから、テストドライバー自身もモニターされてたはず。
Re: (スコア:0)
テストドライバーって何？自分の車運転してただけでは。
まあ、テスラがベータ版でオーナーはベータテスターだという話に異存はないが。
Re: (スコア:0)
多分テスラドライバーかと。
永遠のベータ版オートパイロットですからね。
でもなんかOS関係に既視感がある言葉になってしまったぞ。
Re: (スコア:0)
いや、前にUberだったかの自動運転のテスト車の事故で、
テストドライバーが前見ずにスマホいじってたというのが話題になった。
その前からかわからないが、人もモニターするようになった、ってことじゃなかろうか。
完全自動運転まではまだまだ遠そうだ。
Re: (スコア:0)
・ネタにマジレスかっこ悪い
・余分なものをつけてもバグが増えるだけ
テスラは完全自動投げだしたのでステアリングに指一本触れずに大陸横断する日はいつになっても来ないよ。
Re: (スコア:0)
テスラの自動運転はテストドライバーの実験じゃなくて売ってるテスラのオプションだよ
車本体と百何十万円払って「完全自動運転」を買えば自動運転アプリを公道で好きに使える
ちゃんとしたカメラで人をモニターする機能を組み込まないしイマイチ性能が悪いし
脇見や慣れが発生して事故るのに監視カメラも未だに付けない
それでずっと「一義的にはドライバーの責任です、ドライバーさんは事故を起こさないで
くださいよ迷惑だな」という態度
人を避けたり速度落としたりする素振りがない (スコア:0)
ハイウェイ上だから人はいない、みたいな単純な判断してたら怖いんですが。
Re: (スコア:0)
ここまであからさまな状況でなければ
「AIは間違えないから人間が何かしたんだろ」
で済まされるようになるでしょうね。
テスラ車はドライバーが前を向いているかどうかを監視していないため (スコア:0)
何故公道走行禁止しないの？
# ボーガン禁止するよりこっちが先でしょ、公安委員会さん（日本の場合）。
Re: (スコア:0)
日本国内ではようやくSAEレベル3の自動運転車が公道を走れるようになったばかりで、
禁止以前に認可を下りていませんよ。
ボウガンの規制は都道府県の条例レベルでやっていることで、公安委員会が絡んでいるわけではないし。
Re: (スコア:0)
レベル3はこの前アウディが折れて遂に発売予定の会社が一社も無くなったから関係ないでしょ
結局グーグルが「レベル3をやるならレベル4の方がまだ簡単」と言ってた通りになった
NHTSAもSAEもコンピュータの仕組みが全く分かっていなかった
Re: (スコア:0)
危険だから公道走行禁止にするっていうならまず人間が運転する車が走行禁止になっちゃうだろ！
Re: (スコア:0)
あっちよりもこっちのほうが先とか、
マルチタスクできない前提なのかと
Re: (スコア:0)
匿名のツリーで相手は一人だと思い込んで
言ってること変わったとかなんとかトチ狂いだす人がいるけど、
それと同類の問題なのかも
「自分以外」は暗黙的に一人だと思い込みやすいとか
カラパイアやぞ (スコア:0)
ほれコメント増やしてやったぞ。ありがたく思え
素直にLiDARつけた方が (スコア:0)
もしくはアイサイトとか。
別系統で安全装置乗せればいいのに (スコア:0)
ふつーの衝突安全レーダー も 載せてればこんな単純事故は防げるでしょ
こんな間抜けな事故起こしたら根本的に信頼性が揺らぎそう
Re: (スコア:0)
だよな。
ミリ波レーダーあったら衝突せんだろ、って思ったわ。
Re: (スコア:0)
載ってるよ
社長とネットの評判がうるさいから弱めてるだけ
掲示板では「ミリ波レーダーは静止物体を検出できない」と案内することになってる