自律型ロボット兵器が戦場で適切な判断を下すのは難しい 35
ストーリー by hylom
判断せずにただ殺すのなら簡単かも 部門より
判断せずにただ殺すのなら簡単かも 部門より
taraiok曰く、
自立型ロボット兵器の専門家によると、戦場で自律型、もしくは準自律型のロボットが適切な判断を下すのは難しいという（Bulletin of the Atomic Scienitists、Slashdot）。
米国で自律型ロボット兵器に関するガイドライン「国防総省指令3000.09」を制定したワーキンググループに所属していたPaul Scharre氏によると、武装勢力やゲリラの紛争では、兵士が難しい判断を行う場面がたくさんあるという。こういった状況では、プログラムによって「致命的的な力」を使う判断をさせるのは難しいと氏は語っている。実際、国防総省指令3000.09でも「自律的もしく半自律的な兵器システムは、指揮官や運営者が力の使用について適切なレベルの判断を行えるように設計されなければならない」と規定されているという。
なお、外敵が送り出す自律型兵器との戦いは避けられないかという質問に対してCrowder氏は「技術的にはあり得る」と答えた。すでに自律兵器に必要な技術はどこにでもあり、有能なプログラマであればガレージで自律兵器を作ることも難しくはないという。自律兵器にに関しては非拡散体制をとるという考えは現実的ではなく、最低限、テロリストや不正な政権による使用は発生すると予測することを考える必要はあるとのこと。
キル・ゼム・オォール♪ (スコア:1)
コストの問題を解決すれば、バンザイアタックで使うには十分効果的という事ですな。最後は
自決自爆で機密保持。Re: (スコア:0)
もはや廉価ミサイル…。
赤い赤い 赤い仮面のV3 (スコア:1)
コレなんかは → https://security.srad.jp/story/18/01/17/074245/ [security.srad.jp]
ある意味で原点回帰じゃね？（まだ「ロボット兵器」というほど精巧ではないが）
https://ja.wikipedia.org/wiki/V1%E9%A3%9B%E8%A1%8C%E7%88%86%E5%BC%BE [wikipedia.org]
http://ktymtskz.my.coocan.jp/E/EU2/lf13.htm [coocan.jp]
さすがに爆弾投下やGPS誘導なんかはないけど。
ロボットに限った話か？ (スコア:0)
人間でもテンパったり気がつかないことがあったりで適切な判断ができるとは限らない。
人間が判断を誤る理由と、AIが判断を誤る理由は必ずしもイコールではないから、相互補完するのが最善じゃないかなぁ。
Re: (スコア:0)
その辺は分かった上で、実用的であると偉い人や民衆が認めてくれるほどの”安全性”を担保するのが難しいよね、という話なんじゃないかなぁ。
軍というか戦術・戦略は時に確率的な損耗を計算に入れて道具・兵器を使ったりするけど、
「状況次第で0.2%くらいの確率で味方or民間人も撃っちゃう兵器」みたいなものはなかなか導入させてもらえない。
「無差別に撃つ兵器」なら（使いところが限られる代わりに）使いようはあるのに。
難しい。
#いや俺だって嫌だけどねそんな兵器と一緒に行動する部隊とか。
#まだ「たまに俺を狙う人間」の方が対処のしようがある気分（気分だけだけど）
Re:ロボットに限った話か？ (スコア:1)
人間の味方なんて下手すりゃ「たまに敵を狙う人間」でしかないから
99.8%で敵撃ってくれる機械があるならもうそいつの後ろついてくだけで英雄になれるよ
Re: (スコア:0)
後ろついて行くと0.2%で撃たれかねないから離れてた方がいいんじゃないかなぁ。
Re: (スコア:0)
そんなAIはまだ無い所が問題だな
変なメガネで騙せるかもしれないし
Re: (スコア:0)
人間が判断を誤る→そいつの責任にすればいい
ロボットが判断を誤る→導入した偉い人の責任になる
ってことじゃない？
Re: (スコア:0)
ドッチにしても軽重あっても偉い人に責任被さるのは変わらん
本当の問題はそこらに転がってる兵卒や尉官どもより貴重で替えの効かん開発チーム、企業や開発者へ及ぶ責任の範囲が従来兵器の比じゃないところでしょ。
Re: (スコア:0)
処分基準に特例設ければ増長したマッドがスカイネット作るかもしれんし
平等に処分すれば開発競争に負けるかもしれん
Re: (スコア:0)
聴牌ってもう一つで自分が和がれる状態のことなのに、
ヤバい状態で焦ってるのをテンパるって言うのはなんでだろうか。
20年くらい前からずっと疑問なんだが誰も答えてくれない。
Re:ロボットに限った話か？ (スコア:2)
テンパイすると当たりが気になってしゃべらなくなるとか
他人が鳴いたのに気付かないとか
初心者のウチはそんな緊張状態になるじゃないですか
その感じから頭が何かで一杯になってる人を
「おまえテンパってんのか～?」
とからかうところからきてんじゃないですかね
それを自分に対しても使うようになったのかなと
Re: (スコア:0)
個人的には「聴牌状態の手札はほとんど何れも交換できない、いっぱいいっぱいの状態」であることから来てるのかなーって勝手に思ってました。
でもどっちかといえばそれは「リーチかかってる」状態か…。
Re: (スコア:0)
リーチをかけると手を変えられないから、他人のロン上がりに(捨て牌を)振り込んでしまうリスクが上がるから…とかだっけ？リーチかけずに聴牌しても、勝ちを焦って振り込みとかありそうだし。
Re: (スコア:0)
焦っているときに限定されず、普段と比べて挙動不審になっている状態をテンパるって言うんですよ。
ダマテンしてるのに普段と様子が違いすぎてバレバレな人っているでしょ？
Re: (スコア:0)
聴牌ではなくtemperが語源だと聞いたことがあるが真偽不明
ホント 戦争は地獄だぜ！ (スコア:0)
自立型ロボット兵器「いいぞ ベイべー！逃げる奴は敵だ！！逃げない奴はよく訓練された敵だ！！」
Re: (スコア:0)
自立型大量虐殺兵器を開発させた人「誰の良心も傷めない、良い作戦なんだがな。」
致命的的力 (スコア:0)
ってlethal forceの事か。殺傷力とかの方が良くないかい？
Re: (スコア:0)
そもそも、致命的的って何ですか？
Re: (スコア:0)
自律的に適切に判断してください。
Re: (スコア:0)
「致命的っぽい力」 の方かな
判断もなにも… (スコア:0)
もう手遅れだろ
http://karapaia.com/archives/52252255.html [karapaia.com]
判断もなにも
ドローンじゃなくても
普段から誤爆と言いながら民家狙い撃ちしてるのに
しかも大勢けが人が搬送されたタイミングで病院が”誤爆”されるケースが増えてるし
戦争自体を禁止しなければどうしようもないと思うよ
Re: (スコア:0)
それらはほんとに誤爆だったと信じたいが、誤爆だったとすればなおさら、お前のとこの軍隊は、自律型のロボットが適切な判断を下すのは難しい(ｷﾘｯとか言えるぐらい優秀なのかと言いたいよな。
Re: (スコア:0)
機械の方がまだ一貫性は期待できるかもしれん。
Re: (スコア:0)
あれ？前に味方の方を狙おうとしたって話が有った様な。
Re: (スコア:0)
機械の場合条件が同じなら一貫して味方を狙うのが期待できる。
人間の場合個体差で何をするのか予想がつかない。
Re: (スコア:0)
つまり条件がマッチすれば近くに居る味方を大量殺戮してくれるんですね！
Re: (スコア:0)
自律型兵器を導入すると今より「誤爆」が増えそうって話なのでは。
いやまあ (スコア:0)
人殺しに行ってる時点で適切な判断じゃないし
ミサイル・地雷・機雷 (スコア:0)
嫌い！（IFF付きな分、自立型ロボット兵器はマシ）
SHORT PEACE (スコア:0)
カトキハジメの「武器よさらば」に出てくる自律ロボットは
アームドスーツやペンダント型の識別タグ有無で
戦闘員か非戦闘員かを見分けてたか。
最後は思わず笑ったが、考えさせられる作品でもあった。
Re: (スコア:0)
△カトキハジメ
○大友克洋
オリジナルは大友の漫画だが既に映像化を意識した作画になっているのを再確認して、ちょっと驚いた
Re: (スコア:0)
元々映画スキーだし、映像的とは昔から言われていたなあ＞＞大友克洋