パスワードを忘れた? アカウント作成
14205637 story
テクノロジー

オートパイロット中と思われるテスラ車、停車中の事故車にまっすぐ突っ込む 107

ストーリー by hylom
動いていないと検知できない? 部門より

Anonymous Coward曰く、

台湾の高速道路で、自動運転中のTesla Model 3が横転したトレーラーに突っ込む事故が発生した(ギズモード・ジャパン動画)。

天候は悪くなく視界は良好だが、ドライバーは目の前の横転したトラックを見て車線を変えることも減速することもなく、そのまま直進し、止まり切れないタイミングで急ブレーキをかけたが、そのまま衝突した。

おそらくオートパイロットを過信して、まったく前を見ていなかったように思われる。当然、オートパイロットを過信した運転手が悪いのだが、テスラ車はドライバーが前を向いているかどうかを監視していないため、このような事故は今後も一定数は起こると考えられる。

なお、ドライバーの命に別状はないという(カラパイラ)。

  • by tamaco (19059) on 2020年06月09日 8時19分 (#3829819)

    急に減速とか車線変更をする車がまわりに出てきたら警戒するという人間の思考まで
    自動運転技術に取り入れる必要があるな

    そしてAIも正常性バイアスで事故ると。以下議論繰り返し

    ここに返信
    • by Anonymous Coward

      いや、車線変更する車とか今回の事故に全く関係ない。

      突っ込んだテスラの目の前で横転したわけでなく、ずっと(カメラにテスラが見えないくらい前から)車線上に障害物として
      存在した状態なんだから。

      テスラが車線上の障害物を認識できないクソオートパイロットなだけ。
      https://jp.techcrunch.com/2019/09/09/2019-09-04-tesla-autopilot-design... [techcrunch.com]
      この消防車に突っ込んだ事故と全く同じ。

  • 何だろうかとしばらく考えたんだが、ドリフのコントだわコレ。
    ここに返信
  • 進行方向へ行く素振りをしたら、歩行者(運転手)検知して衝突回避しようとブレーキかけたのかな?
    衝突コースに居たけどスルーしてたように見えるし、速度域的に無視して跳ねたかもしれないけど。

    このパターンの事故が止まらないのは、You have controlが遅すぎるか、大人しすぎるのかしらね。

    ここに返信
    • by Anonymous Coward

      人の横を通るときに煙が上がってるので、一応そこでブレーキはかけてる模様。ただその後なぜか戻して、直前でまたかけてる。

      • by Anonymous Coward

        確かに歩行者を回避した後で初めてトレーラーに気付いたような挙動に見えた。

        • by Anonymous Coward

          同時に複数の危険事象に対応できず、ひとつずつ回避していく感じなのかな。
          プログラミング的にはありえそう。

          • by Anonymous Coward

            センサーの範囲が狭いのかも。
            市販されてる追尾するだけのシステムでも、やっと前の前の車の動きを見ているレベルで全体は見れてない。

          • by Anonymous Coward

            同時に複数の危険事象に対応できないのはむしろ人間の方では。
            今回のケースがどうだったかは別として、
            ひとつずつ回避していくのは、「同時に」複数の危険事象に対応する正しい方法だと思う。
            その結果、機械にとっては過剰な安全余裕が生じるだろうけど、
            全車完全自動運転の時代になるまで、それは必要なコストだろう。

            • by Anonymous Coward

              いやダメだろそれ。
              複数の危険があるなら全ての危険を分析して被害を最小限にする選択をしないと。
              一つを完璧に回避した結果もう一つが重大な惨劇になっていいの?

              • by Anonymous Coward

                「同時に」複数の危険事象に対応するって括弧までつけてあるのに理解できないの?

                今回のように、手前に人がいて、奥にトラックが横転しているとする。
                手前の人はステアリングで回避できるが、奥のトラックを回避するには減速しなければならない。

                このような場合に、手前の人をステアリングで回避しつつ減速するのではなく
                トラックを回避できるように、まず「手前の人」に対して「減速」する。
                だから、機械にとっては過剰な安全余裕が生じる。
                その代わり、人間がトラックを見落としていても重大な惨劇にはならない。

      • by Anonymous Coward

        あれってブレーキでの煙なのかな
        自分もそう思って何度か見てみたけど、トラック横転時の何かを巻き上げているだけにも見える(その辺が元々白っぽく見える)

        • by Anonymous Coward

          うん。まともなABSが付いてればブレーキロックによる白煙なんか出ませんよね。

          • by Anonymous Coward

            ABSがロックを回避する目的はブレーキをかけつつ、障害物を回避するためで、フルブレーキをかけている時にABS効かせても停車までの距離が長くなるだけじゃない?

            • by Anonymous Coward

              動摩擦係数と静止摩擦係数って分かるかな?
              どうしてロックすると制動距離が伸びるのかちょっと考えてみようか

    • 日本の自動車の運転補助(前車追従式)だと、止まってる障害物をだいたいまともに認識しない。
      これは日本の道路事情の関係で、路肩駐車している車に過度に反応しないため。
      ブレーキしてくれることもあるけど、それは停車から急発進の時と同じメカニズムで動くんで
      こういう場合は「事故回避」という意味では手遅れ。(損害軽減という意味では有効)
      なので前に車がいない状態で運転補助(実質定速オートクルーズ)の場合、通常の運転以上に気を使う必要がある。
      それでもアクセルコントロールがない分楽なんだけどね、特に高速道路。
      #ブレーキをわずかでも踏むと自動運転が解除されてしまうので、「怪しいところでアクセルを緩めたりすぐにブレーキを踏めるよう
      #構える」という動作が結構めんどくさくなる。

      やはり自動車専用道路での完全自動運転以外では、日本車のようなゆるゆるレーンキープによる「操舵をさせて運転を
      常に意識させる」という塩梅が正解という事か。

    • by Anonymous Coward

      人にもAIにも認識・理解しやすい(日常動作と誤認識することがない)、
      かつ誰でも簡単に覚えられる停止指示動作を
      新たに定めて国際ルールで統一した方が良い気がする。

      コマネチとか。

  • by Anonymous Coward on 2020年06月09日 8時22分 (#3829822)

    学習させたデータに「事故で横転したトラック」が無かったのかな。
    障害物だと認識出来なかったんだろうね。

    人間なら「道路を識別して未知の物があったらとまる」んだけどね。

    ここに返信
    • by Anonymous Coward

      わきに居た人間に注目してしまってその先にあるトレーラーに気付いてブレーキかけたけど間に合わなかった
      とか人間が運転しててもありそうだけど。

      • by Anonymous Coward

        現在の技術で十分に優秀な自動運転でも
        (強制的に)ハンドルを切る、アクセルを踏む等が手動介入の手段だった場合に、
        ・トラックと手前の人を検知するが、トラックが障害物か判断できないので、警報を出す
        ・まずは手前の人に対して自動回避行動を取る
        ・運転手が人に気付き、手動介入を行う
        ・トラックに対して再度警報を出す
        ・運転手は人の回避に気をとられて、警報の意味の理解が遅れる
        ・運転手は自動運転機能が抑制されていることに気づかない
        ・フォールバックの自動ブレーキが作用するものの間に合わない

        なんてシナリオは十分考えられる訳で。
        どんなに技術が進歩しても、最後の敵は人間だろうね。

      • by Anonymous Coward

        今のAIに「〜に注目する」という機能はないので何とも
        AIの外で「〜を検出したら〜関数を実行」というのはできるけどね

    • by Anonymous Coward

      動いてなく白くてのっぺりしていて大きいから見逃したのかもね
      テスラのシステムって白くて動いてないものが苦手なんだとか
      #苦手を克服しないでそんなもの必要ないって切り捨ててこれだもんなぁ

  • by Anonymous Coward on 2020年06月09日 7時10分 (#3829804)

    正常性バイアスに囚われると人は前を見ていても何もしない

    ここに返信
    • by Anonymous Coward on 2020年06月09日 8時48分 (#3829839)

      「オートパイロット」なんて言葉使うから事故になるんだよ
      ちゃんと非完全自動運転車と名乗れ

      • by Anonymous Coward

        非完全か、不完全か、それが問題だ。

        -- シェイクスピア(嘘

      • by Anonymous Coward

        オートどころか「完全自動運転」と名付けて「完全自動が完全自動という意味ではないのは当たり前です」とか逃げてるからな

    • by Anonymous Coward

      スマホで遊んでた事例があったから、テストドライバー自身もモニターされてたはず。

      • by Anonymous Coward

        テストドライバーって何?自分の車運転してただけでは。
        まあ、テスラがベータ版でオーナーはベータテスターだという話に異存はないが。

        • by Anonymous Coward

          多分テスラドライバーかと。
          永遠のベータ版オートパイロットですからね。
          でもなんかOS関係に既視感がある言葉になってしまったぞ。

          • by Anonymous Coward

            いや、前にUberだったかの自動運転のテスト車の事故で、
            テストドライバーが前見ずにスマホいじってたというのが話題になった。
            その前からかわからないが、人もモニターするようになった、ってことじゃなかろうか。

            完全自動運転まではまだまだ遠そうだ。

            • by Anonymous Coward

              ・ネタにマジレスかっこ悪い
              ・余分なものをつけてもバグが増えるだけ

              テスラは完全自動投げだしたのでステアリングに指一本触れずに大陸横断する日はいつになっても来ないよ。

            • by Anonymous Coward

              テスラの自動運転はテストドライバーの実験じゃなくて売ってるテスラのオプションだよ
              車本体と百何十万円払って「完全自動運転」を買えば自動運転アプリを公道で好きに使える
              ちゃんとしたカメラで人をモニターする機能を組み込まないしイマイチ性能が悪いし
              脇見や慣れが発生して事故るのに監視カメラも未だに付けない

              それでずっと「一義的にはドライバーの責任です、ドライバーさんは事故を起こさないで
              くださいよ迷惑だな」という態度

  • by Anonymous Coward on 2020年06月09日 9時21分 (#3829855)

    ハイウェイ上だから人はいない、みたいな単純な判断してたら怖いんですが。

    ここに返信
    • by Anonymous Coward

      ここまであからさまな状況でなければ
      「AIは間違えないから人間が何かしたんだろ」
      で済まされるようになるでしょうね。

  • 何故公道走行禁止しないの?

    # ボーガン禁止するよりこっちが先でしょ、公安委員会さん(日本の場合)。

    ここに返信
    • by Anonymous Coward

      日本国内ではようやくSAEレベル3の自動運転車が公道を走れるようになったばかりで、
      禁止以前に認可を下りていませんよ。

      ボウガンの規制は都道府県の条例レベルでやっていることで、公安委員会が絡んでいるわけではないし。

      • by Anonymous Coward

        レベル3はこの前アウディが折れて遂に発売予定の会社が一社も無くなったから関係ないでしょ
        結局グーグルが「レベル3をやるならレベル4の方がまだ簡単」と言ってた通りになった

        NHTSAもSAEもコンピュータの仕組みが全く分かっていなかった

    • by Anonymous Coward

      危険だから公道走行禁止にするっていうならまず人間が運転する車が走行禁止になっちゃうだろ!

    • by Anonymous Coward

      あっちよりもこっちのほうが先とか、
      マルチタスクできない前提なのかと

      • by Anonymous Coward

        匿名のツリーで相手は一人だと思い込んで
        言ってること変わったとかなんとかトチ狂いだす人がいるけど、
        それと同類の問題なのかも
        「自分以外」は暗黙的に一人だと思い込みやすいとか

  • by Anonymous Coward on 2020年06月09日 9時55分 (#3829883)

    ほれコメント増やしてやったぞ。ありがたく思え

    ここに返信
  • by Anonymous Coward on 2020年06月09日 10時37分 (#3829910)

    もしくはアイサイトとか。

    ここに返信
  • by Anonymous Coward on 2020年06月09日 10時56分 (#3829928)

    ふつーの衝突安全レーダー も 載せてればこんな単純事故は防げるでしょ
    こんな間抜けな事故起こしたら根本的に信頼性が揺らぎそう

    ここに返信
    • by Anonymous Coward

      だよな。
      ミリ波レーダーあったら衝突せんだろ、って思ったわ。

      • by Anonymous Coward

        載ってるよ
        社長とネットの評判がうるさいから弱めてるだけ
        掲示板では「ミリ波レーダーは静止物体を検出できない」と案内することになってる

typodupeerror

長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds

読み込み中...