自動運転車が公道で実験中に自損事故、人の運転介入が原因か 72
ストーリー by hylom
そこも配慮しないと 部門より
そこも配慮しないと 部門より
名古屋大学の自動運転試験車両が10月に自損事故を起こしていたそうだ。自動運転中にドライバーがブレーキを踏んだのが原因の可能性があるという（朝日新聞）。
交差点を左折しようとした際、縁石に乗り上げて左前輪がパンクしたという事故で、けが人は無かったとのこと。当時運転席には名古屋テレビのレポーターが座っており、助手席側に乗っていた名古屋大学の加藤教授がそれに配慮して助手席側に設置されていたブレーキを踏んで減速していたという。
人間の介入の位置づけ (スコア:2, 興味深い)
人間の介入があろうとなかろうと、自車の置かれている状況を適切にセンシングして制御していれば、何かにあたるなんてありえないと思うけど、どうだろう？
人間の介入が優先という制御なのだろうか？
カーブに適切な速度とハンドルの切れ角で侵入しているのに、ブレーキ踏まれるとどうしようもないとか？
責任問題なども含めて、どこまでを自動にするのかが課題か？
You have control ? (スコア:2, すばらしい洞察)
人間が介入する場合は、完全に「コントロールを奪う」前提でコードが書かれてたんじゃね。
中途半端に人間に「邪魔される」のは想定外。
そりゃ人間の運転手でも、ハンドル握ってる腕を押したり引いたりされたり、ブレーキ踏んでる
足を上から踏んづけたり放したりされたら、まっすぐ走ることもおぼつかないと思う。
制御するのかしないのかハッキリせえと。
＃いろいろと状況は違うけど、あの飛行機事故を連想する。
＃「オートパイロットをONのまま操縦桿を操作すんじゃねえ」みたいな。
＃ https://ja.wikipedia.org/wiki/%E4%B8%AD%E8%8F%AF%E8%88%AA%E7%A9%BA140%... [wikipedia.org]
Re:人間の介入の位置づけ (スコア:2)
制御としては、減速してしまっていることを認識して、加速して補償すべきだったでしょう。
設計としては、介入を確認した段階で自動制御を中止し、非常停止するか人間に操縦を渡すべきでした。
飛行機と一緒です。2つの制御入力を同時に供給してはいけないんです。
Re:人間の介入の位置づけ (スコア:1)
自動運転というほどではないが、セミオートマのミッションも結構悩ましい。
基本、シフトアップ・ダウンは人間の指示だが、エンスト防止のためか、減速時には、シフトダウンは勝手に行われる。で、それを知らずにマニュアルでシフトダウンして、無駄にエンジン吹かしたり、急なエンブレになったり。
もちろん、現在何速にはいっているかはパネルには出てるけど、そんなのいちいち確認してたら注意散漫になるし。
Re:人間の介入の位置づけ (スコア:2)
制御としては外乱に対応すべきです。手動のブレーキという形の外乱に対応できず、目標とするラインを維持できなかったばかりか事故を起こしたことは、問題です。
そして、それとは別に、設計として介入があった場合は即時に自動運転を中止すべきです。制御に上のような問題があっても、人間のブレーキを認識して自動運転を中止し運転席に制御を返していれば正しくカーブを曲がれた可能性があります。
この事故は複数の制御入力が同時に有効となり、制御が衝突したために発生したものであり、副次的に自動運転機構が対応できない種類の外乱があることが分かったものだと思います。
Re:人間の介入の位置づけ (スコア:2)
細かく分けるなら車速に対するハンドル操作と車速の維持は独立して正しく動けるべきではあるかもしれませんね。
指示インターフェイスとしてブレーキを活用するのであれば、ペダルとブレーキを切り離し、制御は依然として自動運転に持たせたままの
指示用モードを作るべきと思います。自動運転だが好きなタイミングで直接介入できる、というのはあまりよいデザインとは思えません。
Re:人間の介入の位置づけ (スコア:2)
例えば指示用モードの時はペダルの感触が明らかに違ってて、強く踏み込むと音や表示でも知らせつつ直接操作に切り替わる、とか。
でも何をもって"明らか"というのか難しいでしょうし、ペダルやハンドルを触るときは常に人間が責任を持つと決めたほうが良いかもしれないですね。
# Teslaは速度の下に"Autopilot disengaged" "take control immediately"と表示されるようです
Re:人間の介入の位置づけ (スコア:1)
エアバスは人間はミスを犯すという前提で人間よりも機械優先だったけど、いろいろとあってボーイング式の人間優先に変更しました。
人間はミスを犯すけれど、人間が操作する機械が人間が操作したとおりに動かないと人間はパニックに陥って事態がさらに悪化する。
Re:人間の介入の位置づけ (スコア:3)
エアバスは自動操縦を切らずに戦い続ける事故が繰り返される度に自動操縦の状態を確実にコミュニケートできるようにはしてますが、人間優先にはなってないはずですよ。
Re: (スコア:0)
自動操縦中にスティックを操作したりスロットルを操作して、機械と人間がコンフリクトした場合には制御が人間へ返されますよ。
フライトエンベロープや、TCASの指示に違反する操作でどうなるかまでは知りませんが。
少なくとも、旧名古屋空港で起きたような、機械が制御を返さないことで起きた事故はもう起きない。
Re: (スコア:0)
> 適切にセンシングして制御していれば、何かにあたるなんてありえない
まったくそのとおりですわ。
適切に設計して適切にコーディングしてれば、バグが出るなんてあり得ない。
で、どうやってやるんですかね？それ？
Re: (スコア:0)
だから、理想状態の話をしているのでは？
そこから、何がズレて事故に至ったかを議論する出発点でしょう？
いやあ良かった (スコア:2)
実験中に発見できたし、けが人がいないのだ。
一番わかってないのは教授？ (スコア:0)
なんか典型的な「一番わかってないのはトップ」って感じで
ほほえましい。
減速したら内にきれる？ (スコア:0)
ステアリングの切れ角には影響ないのでは。
人間が操作加えた時の自動走行への影響ってどうなんだろね。
それに合わせた何かしらの調整を自動でするんだろうけど。
今回はブレーキだけど、
ステアリング触ったらその通り曲がるだけでなく減速もするとか。
Re:減速したら内にきれる？ (スコア:2)
ステアリングの切れ角に対する進行方向の変化量は速度によって異なります。同じヨーレートを実現するために
必要な舵角は速度が上がるにつれて増えます。ですから舵角が同じで速度が下がれば旋回は早くなります。
タイヤは進行方向に平行にしか転がらないというわけではないんですね。
Re: (スコア:0)
自動操縦でどんな下手くそでもスキール音立てながらドリフトで正確なラインとりながら交差点抜けていけるようになると渋滞もなくなるかもしれない。
Re:減速したら内にきれる？ (スコア:2, おもしろおかしい)
減速したら内にきれます。アンダーステア特性です。
http://www.jaf.or.jp/qa/ecosafety/careful/07.htm [jaf.or.jp]
まあ、そう大きな影響が出る速度ではなかったと思いますが。
ただ、これと相まって、ステアリングに要する力が軽くなります。
それにより、ステアリング操作のアクチュエータがオーバー気味になった可能性もあります。
しかし、一番はステアリング操作のタイミングと操作速度の問題ではないでしょうか。
普通、ハンドルはスパンと高速回転させて操舵しません。
必ず操舵に要する時間があり、それも走行ラインに大きく影響します。
さらにハンドルはタイヤに直結されておらず、舵角や操舵速度に合わせてアクチュエータがリンクを操作し、ホイールが動きタイヤと路面に摩擦力が生じ、それに伴いタイヤが変形し、サスペンションが動き、ようやく車体に力が伝達されて運動方向が変化します。
まさに、クルマは急には曲がれないのです。
ですから、走行ラインの追従は常に未来を予測し補正しつつ、操舵していかなければなりませんが、
おそらく、人など外力による大きな加減速による影響を過小評価するなどで、補正しきれない（適切なパラメータがない）のでしょう。
Re: (スコア:0)
減速したら内にきれます。アンダーステア特性です。
オーバーステアでは？
Re:減速したら内にきれる？ (スコア:1)
ここで重要なのが、速度を上げるといっても、加速による荷重移動等の影響が無視できるレベルでじわじわと速度を上げていくということです。
一方、ステアリング特性というのは車によって一定というものではなく加減速等の状況によって変化します。
つまり、加速時は後輪に荷重がかかるのでアンダーステア、減速時は前輪に荷重がかかるのでオーバーステア気味となります。(ちなみに、フルブレーキングに近い減速では別の要因によりアンダー傾向となりますが、話を単純化するため省略。)
これは元々の特性によるものではなく、例えば減速時を考えると、元々オーバーステアの車は、よりオーバーステアとなり、アンダーステアの車はアンダー特性が打ち消され、場合によってはオーバーに逆転します。いわゆるリバースステアというもので、故意に行う場合にはタックインと呼ばれたりします。
なので、
減速したら内にきれます。アンダーステア特性です。
というのは、やっぱりおかしいですよ。
Re:減速したら内にきれる？ (スコア:1)
前輪が乗り上げてることから、切れ角というよりもそもそも予定より
早い位置（手前の位置）で曲がっちゃたんじゃないですかね
人為介入による速度の変動を考慮できてない感じではないかと。
動作としては介入があった時点で自動操作が切れるのが正しい感じがする。
Re: (スコア:0)
リアルタイム処理が不完全であるがための不具合。
今の速度で何秒走ったらハンドルを左に切るというバッチを組んでいて、途中で主導で減速されることが考慮されていなかったために、本来ハンドルを切る位置に至る前にハンドルを操作してしまって縁石に乗り上げたってところです。
数秒後の位置を予測して動作を判断することはしていても、その時点での実際の位置を確認していないという恐ろしい仕様。位置確認でGPSに頼りすぎているシステムなのだろう。実際の道路状況や実際の走行速度を制御にフィードバックできていない欠陥システムであったために起きた事故といえる。
まあ、今のシステムだと秒単位で位置と状況判断できても、0.1秒単位とか0.01秒単位だと処理能力不足で難しいのだと思う。
とはいえ、運転者の手動介入があった時点で停止するなりなんなりして状況確認を改めて行うようにしないとダメだろうね。
Re: (スコア:0)
MAP情報に従って何メートル進んだらハンドルを操作するという制御ではなく、MAP情報と速度から何秒後にハンドルを操作するという制御になっていて、ブレーキ操作による減速や位置のずれによるハンドル操作のタイミングや操作角の変化をリアルタイムで追従できなかったという欠陥による事故だろう。周囲監視の緊急ブレーキが別系統の制御にでもなっていたのかもなあ。
たぶん、左折時に車両の左側に自転車やバイクが割り込んだら、確実に巻き込んで事故を起こすタイプのシステムだな。欠陥もいいところだよ。
Re: (スコア:0)
縁石に乗り上げたかったとか、タイヤをパンクさせたかったなどと
いうときに自動運転車がそれをさせてくれないというのもなあ
Re: (スコア:0)
レポーター（運転手）が、「自動運転の安全性を見てやろう」といって自分でハンドルを大きく切ったならわかる。
でも「助手席でブレーキしてたから内側に切られた」って説明が意味わからないのは変わらない。
そもそも自律走行できるレベルじゃないじゃん (スコア:0)
なんで左折で前輪がパンクするの？
その運転プログラムがまずデタラメだろ。
ブレーキ掛けたこととは関係なくて、ブレーキ掛けなきゃもっとすごいことになっただろ。
チートで何とかしようとする前にちゃんとプログラムつくりましょうね。
Re: (スコア:0)
リンク先読めよ、日本語なんだから。
余計なブレーキかけたから本来曲がるべきところより若干手前で曲がって
左前輪が縁石に乗り上げたんだろ。
Re:そもそも自律走行できるレベルじゃないじゃん (スコア:1)
「非常用ブレーキをかけたら事故になる」
ってのは相当にヤバイ実装だとしか思えない。
「意図と違って停止してしまった」
なら未だ判るんだが。
Re: (スコア:0)
それをふまえても、やっぱり、そもそも自律走行できるレベルじゃないじゃん 、と思う。
Re: (スコア:0)
涙ふけよ
Re: (スコア:0)
ブレーキを踏まれて安全な走行できない運転プログラムがまずいのでは？
本来なら緊急停止するべきでしょう。
もし、ブレーキと連動していないような自動運転車なら公道を走るのが
早すぎるのでは？
Re:そもそも自律走行できるレベルじゃないじゃん (スコア:1)
ブレーキ踏むと即緊急停止は追突事故を起こしやすくかえって危険。
緊急停止するなら「そのブレーキが緊急避難を意図しているか」というジャッジをはさまないとダメだよ
うじゃうじゃ
Re: (スコア:0)
レポーター氏が不要な急ブレーキをかけたってんならわかるけど、
開発側である教授がブレーキかけてて、それに自動運転が惑わされるってやっぱダメではないかと。
単に教授がシステムの仕様を全然理解せずに、勝手な判断でブレーキかけてたということか。
一般人だと使えねえ (スコア:0)
仕様を理解してないと安全に使えないシステムを世に出したら、事故が多発しそうだなｗ
Re:一般人だと使えねえ (スコア:2)
仕様を理解してないと安全に使えないシステム
すでにたくさんあるじゃないですか。たとえば「自動車」ってやつが
うじゃうじゃ
Re: (スコア:0)
まだ市販車じゃないのだからそれは仕方ないでしょう。
運転手がブレーキの聞き具合やハンドルのキレ方などの「仕様」を理解せずに運転してたら、普通の自動車だって事故りますよ。
ただ、完璧じゃないところをサポートするとして同乗したはずの教授が杜撰だなあという話。
Re: (スコア:0)
自動車「お、おう…」
Re: (スコア:0)
理解してたのに舞い上がっちゃったんでしょうねぇ
ただのモックをそれっぽく見せるのは大変なのよｗ
Re: (スコア:0)
チート･･･？
リンク先の記事読んでレスしてる？
Re: (スコア:0)
ちーとも読んどらんかった。
事故原因はともかく (スコア:0)
こんな実装レベルで素人を運転席に乗せる取材を受け入れた理由がわからん。
些細な事故でも騒がれるだろうことは予測できただろうに。
Re:事故原因はともかく (スコア:1)
で、結局よその自動運転システムが普及して二重に涙目、というオチ。
Re: (スコア:0)
運転手に教授、助手席にレポーターでなんでいけなかったのか、とまず思った。
Re:事故原因はともかく (スコア:2)
警察への届け出では、教授が運転席としてあったのですから。
届け出を守らず、事故まで起こしたことでプロジェクト打ち切られたりしないかね。
Re: (スコア:0)
TVの絵的にはレポーターが運転席にいた方がよろしいかと。
教授の意図 (スコア:0)
リポーターにいかなる配慮をして教授が減速したのかわからない。人間が運転する場合に比べてはるかに高速でカーブに進入する攻めの走りになっていたから恐怖感を緩和しようとしたとかか？
Re: (スコア:0)
TVの尺に合わせようと配慮したとか？
＃あるいはカーブに入る前に言っておかなきゃならないセリフでもあったとか
大阪万博の猿 (スコア:0)
おさるの電車を思い出した。
訓練された猿が小さい列車を運転操作するが乗客や周囲の観客が邪魔をして冷静な操作を行えず、集中力を欠いてしまいミス操作をするためイベントが停止された件をどうしても思い出す。
悪いのは人間、っていういつものお話。
Re: (スコア:0)
> 悪いのは人間、っていういつものお話。
人間を載せちゃダメだな。
Re: (スコア:0)
乗客も載せず自動運転車だけが走る未来。
それもおつだなあ。