maiaの日記： 殺人ロボット（自律型致死兵器システム）は規制されるべきか 75
日記 by
maia
ネイチャー（5月27日付電子版）掲載の論文「Robotics: Ethics of artificial intelligence」が、いわばAI兵器、「lethal autonomous weapons systems (LAWS)：自律型致死兵器システム」の倫理問題を論じて話題になっているらしい（産経）。それは技術的には可能で、韓国サムスンのグループ会社サムスンテックウィンと高麗大学が共同開発したSGR-1は既に非武装地帯に配備されている。5.56mm機関銃と40mmグレネードランチャーを備え、赤外線センサーなどで敵兵を自動的に感知し、3.2km先の標的を確実に殺害することができるという。まだ銃撃許可は人間が出しているというが、もはや殺人ロボットとは紙一重だ。敵を自動識別ないし照準して射撃する、命中精度を上げるようなシステムは昔からあるはずだが、射撃判断まで踏み込むところに、違和感を感じるのか、対人兵器としての殺人ロボットにある種の不気味（の谷）を感じるのか。なお国連のCCW（Convention on Conventional Weapons）の会合でLAWSは既に討議の対象となっている（2015 CCW meeting on killer robots）。
米国，ロシア、中国が禁止条約に加盟するはずもない (スコア:3)
のから、議論するだけ無駄な気がします。クラスター弾だって、対人地雷だって、条約に加盟していない。
イラクでは、国際法で禁止されている５０口径の狙撃も普通に行われていたし。
あまり戦争をする気のない国だけが加盟していて、基本的には憲法９条議論と同じで無駄です。
Re:米国，ロシア、中国が禁止条約に加盟するはずもない (スコア:2)
ジュネーブ条約のunnecessary sufferingに相当するということが一般的に言われていますが、解釈しだいのようです。
砂漠のなかにいる一人の兵士を核爆弾で殺害してもその条項にはあたらないということも書かれていました。
どちらも、戦争に負けない限り罰せられることはなさそうです。
そもそも (スコア:2)
致死性の兵器自体が規制されるべきもの。
Re:そもそも (スコア:1)
ふと、子泣きじじいのように抱きついて身動きできなくするロボットはどうだろうか？
抱きついた上で、相手の両手足を動けなくすれば、殺さずに無力化できる。
名前は「FUJIWARA」とか「KUMICHOU」とかで。
天琉陳(Teruching)
オフトピ (スコア:1)
自衛隊用ロボット兵士「足軽三号」が活躍します。
指揮官の人が狙撃されないように、見た目人間で個体によって顔が違うとか
赤外線で見ても人と区別がつかないとか
ここで言ってる兵器は思考戦車のようなものですかね
------------
惑星ケイロンまであと何マイル？
ヒトモドキ (スコア:1)
>まだ銃撃許可は人間が出しているというが、もはや殺人ロボットとは紙一重だ。
その射撃許可は本当に「人間」が出しているのだろうか。
Re:ヒトモドキ (スコア:1)
×ヒトモドキ
○ヒトモドキAI
最後の二文字が抜けてました。
この場合はむしろ地雷に近い？ (スコア:0)
5.56mm機関銃と40mmグレネードランチャーを備え、赤外線センサーなどで敵兵を自動的に感知し、3.2km先の標的を確実に殺害することができるという。
この手の固定式の自動兵器だと、長射程の地雷とか機雷に近いんじゃないかと感じますね(あくまで非専門家の個人的な感想です)。
むしろ、その手の地雷で民間人へ被害が出て問題になっているから、同様に自動兵器も危険なので規制すべきじゃないか。って話も以前スラドで出てたような気も…。
韓国の場合は非武装地帯(という名の軍事境界線)に設置されているから、民間人への被害はあまりなさそうですが。(ただし、脱北者にとっては危険かも…。)
Re: (スコア:0)
問題は「敵兵」を区別できるかどうか・・・
半 径 3 2 0 0 m 内 の 人 間 を 敵 味 方 の 区 別 な く す べ て 殺 害
することができそう。
ミサイルとか地雷 (スコア:0)
をもっと高度にしただけだよね。
高度になればなるほど、
「殺すべきでない人を残し、殺すべき人だけを殺すということができる機械」
は、現有兵器より非人道的なのか。
Re:ミサイルとか地雷 (スコア:2)
＞「殺すべきでない人を残し、殺すべき人だけを殺すということができる機械」
実際はその正反対になるから、「規制すべきでない？」って話になってるんでは。
殺すべき人間と殺すべきで無い人間なんて、今のＡＩに判定できると思う？
人間と人間以外の動物や、下手すると機械との識別さえ満足にできないのに？
もっと現実を見ようよ。
結局はAIがあったところで
「逃げる奴は皆ベトコンだ、逃げない奴はよく訓練されたベトコンだ」
という以上の判定は無理でしょう。
理想的な戦闘ロボットでは「人間っぽいものは全部撃ち殺せ」とプログラムすることになる。
（それさえもかなり厳しく、野生動物なんかもまとめて撃ち殺すことになるかもしれない。）
それじゃ流石にあんまりだから、もうちょい何か良い線引きはできないか、という話じゃないかな。
Re:ミサイルとか地雷 (スコア:1)
Re: (スコア:0)
心配しなくても向こう100年や200年は、そのレベルで「信用できるＡＩ」が実現する目処はたってない。
＃収束するなら話は簡単？収束するわけないよ。「もしそういうＡＩが実現したら」という仮定は、
＃「もし（実用レベルの）ワープが実現したら」と大差ないレベルの机上の空論。
おそらくそんなものが実用化される前に、このままだとＡＩ搭載の「無差別」殺人兵器が実用化されるだろうし、
実戦投入も十分にありえる状況になってる。
だからこそそうなる前に、規制しようって事でしょ。
Re:ミサイルとか地雷 (スコア:1)
ちょっと想像力が足りないと思うな。
例えば、イラク戦争なんかでは建屋にこもった敵に対し、
歩兵突入前にUGV入れて偵察とかやってたわけよ。
それでUGVに自律AI入れて建屋内の動目標排除せよ、とか考えたら100年単位で開発難航かな？
限定された環境・運用ならいくらでも他に被害が出ない殺人AIなんて実現できるし、
それで味方の人的被害を抑制できるという魅力の前に投入を躊躇するようなブレーキが効くかな？
上記の理由から「技術的問題」はこの手の兵器の抑制理由としては弱いと思うわけです。
Re:ミサイルとか地雷 (スコア:1)
限定された環境・運用ならいくらでも他に被害が出ない殺人AI
規制というのが、このような非戦闘員への攻撃が及ばない区域での使用ということになるのではなかろうか？
Re:ミサイルとか地雷 (スコア:1)
クラッキング対策で、変なコマンド・怪しいコマンドを受信したら「自閉モードに移行し、近づく物は全て攻撃せよ」という実装になるだろうから規制するだけ無駄だと思います。
# 意図的に変なコマンドを送って嫌がらせする輩、かならず出ると思うし
notice : I ignore an anonymous contribution.
ホント、戦争は地獄だぜ！ (スコア:0)
「殺らなきゃ殺られる」っていう極限状態では、
結局は人間の判断があったところで
「逃げる奴は皆ベトコンだ、逃げない奴はよく訓練されたベトコンだ」
という以上の判定は困難でしょう。
Re:ホント、戦争は地獄だぜ！ (スコア:1)
ロボットなら複数で行動して、攻撃されるまで攻撃しないとか、ありかもしれません。
弾に当たっても壊れるだけで死ぬわけじゃないし
人よりは撃たれ強いかもしれません
------------
惑星ケイロンまであと何マイル？
Re: (スコア:0)
つまり米空軍の遠隔操縦無人攻撃機による攻撃は人道的であると。
Re:ミサイルとか地雷 (スコア:1)
核兵器は爆竹を高度にしただけだし、
化学兵器はオレの自慢のすかしっ屁を高度にしただけだし、
生物兵器はウチの嫁を高度にしただけだし。
Re:ミサイルとか地雷 (スコア:1)
僕はマンショニャッガーちゃん！
#ドイツ帝国人以外は殺す
Re:ミサイルとか地雷 (スコア:1)
>をもっと高度にしただけだよね。
ターミネーターとバグ(F91)を連想してしまった、バグは相手を選別しないで皆殺しなんだっけ。
ウエストワールドのガンマン(ユル・ブリンナー)も似たようなもんすかね、っていうかターミネーターの元ネタだったのかもしれないと今更思った。
未来警察の殺人ロボ(ガジェット?)とかは操作者が対象をロックオンしてから放ってた気がする。
#以上映画ネタ
>「殺すべきでない人を残し、殺すべき人だけを殺すということができる機械」
胎児を遺伝子検査してどうこうするのも一緒かなとも思っちゃった。
#現実はシビア
米軍のプレデターとかは置いといて。
民間ドローンが絡んだ人の生き死ににかかわる事件や犯罪はこれから起きるんだろうな。
そして起きたらまたドローン規制が激しくなりそう。
#この項オフトピか
Re: (スコア:0)
殺すべきでない人間？
実際の戦場ではむしろ女子供が狙われているという現実がある
精密に狙って病院や学校が集中的に狙われたケースもある
兵士が逃げ込んでいたと言う言い訳も国連職員の証言で否定されても屁の河童という厚顔ぶり
そんな国が最新ハイテク兵器を持ってるんだよ
というかこれから日本製品輸出する契約になってるんだけど
そもそもどこまでがロボット？ (スコア:0)
最近のミサイルや戦車、砲台なんかすべてコンピューター制御で
ある意味、自分で考えて飛んでたり目標に銃身や砲身を向けてたりしているよね
イージス艦の砲台は飛んでくるもの識別してより分けもできるとか
そういったものもロボット兵器と言えるのではないだろうか
それとも自ら殺意をもって動かないとだめなんだろうか？
＃さすがにそれだと兵器として成り立たないような話もあったな
Re:＞重大な選択や決定は人が行わなければならない (スコア:1)
1998年6月3日にドイツのニーダーザクセン州エシェデ付近で高速列車ICEが脱線し道路橋に衝突、101人が死亡した [wikipedia.org]
この事故のドキュメンタリー番組では、当時のドイツでは会社（法人）を裁判の対象とはできないことから、開発担当や整備担当者をしょっぴいて有罪にしたと報じていましたが、被害者家族からはなんで会社が責を取らないような法律なのかと怒りの声が上がっていましたね。
Re: (スコア:0)
ちょっと高度にしただけと言うなら、
核兵器はちょっと爆弾の高度なものだし、
毒ガス兵器はマスタードガスのちょっと高度な物だし、となる。
その言い方では核兵器だって使えることになる。違う理由づけをした方が良いのではないか。
今の世界では、非人道的な核、生物兵器、ガスなどの大量破壊兵器は特別視されている。もう一つ、正々堂々とした戦いと言う基準があっても良いのでは。非戦闘員を殺すとか、不必要な破壊とか、をなくすために。ロボットはこれに入るだろう。
自律攻撃システムはいいけど (スコア:0)
それに自律生産システムが結び付くとヤバい気がする。
#材料とかエネルギーどうすんのって突っ込まれそうだけど
Re: (スコア:0)
ベトチンだなぁ
Re: (スコア:0)
きっとキャシャーンがなんとかしてくれる
Re: (スコア:0)
Re: (スコア:0)
変種第二号ですね。PKDの世界はすぐそこだ！
3.2km先の標的を確実に殺害 (スコア:0)
5.56mm機関銃と40mmグレネードランチャー
この構成でこの距離を確実とか無理だろ
Re:3.2km先の標的を確実に殺害 (スコア:2, 参考になる)
確かにありえません。
編集のtypoかと思ったけど
https://en.wikipedia.org/wiki/Samsung_SGR-A1 [wikipedia.org]
によると、5.56mmで3.2kmは正しいようです。ただ「確実に殺害」とは書いてません。
もしかして射程外から威嚇射撃を行う、人道的なロボットなのではないでしょうか？
Re:3.2km先の標的を確実に殺害 (スコア:2)
Daily Mail Onlineの記事 [dailymail.co.uk]では、タイトルだと“that can kill from two miles away”となっていますが、本文だと“identify potential targets more than 2 miles away”、つまり2マイル以上離れた潜在的なターゲットを識別できるとしか書かれていません(ちなみに記事によると韓国と北朝鮮の間の非武装地帯の幅が2.5マイルだそうです)。
比較として5.56mm弾を使うM249軽機関銃 [wikipedia.org]はWikipediaによると最大射程3,600 mで有効射程は700 mだそうです。
地面に備え付けでコンピュータと機械を使って狙うとはいえそんなに有効射程が上がるものなのでしょうか。
Re: (スコア:0)
Re: (スコア:0)
＞銃撃許可は人間が出している
3.2km先の敵の位置を米軍に連絡して空爆してもらうロボなんじゃない？
射程距離外の敵を倒せるロボットとか画期的じゃん。
#監視カメラともいう
非自律化＝停止コマンド (スコア:0)
ウェポンコントールとしてこのコマンド自体の
有効性の幅が規制の幅（走召糸色木亥火暴）
"castigat ridendo mores" "Saxum volutum non obducitur musco"
温泉 (スコア:0)
こーいうのって、観光地の露天風呂＠女湯にしかけられてるものじゃありませんでしたっけ？
Re: (スコア:0)
あれは国家に属さない秘密組織がやってるからスラドなんかで話題になったりしないよ
＃であってる？
Re: (スコア:0)
彼女は最高ーよ
将来の大国同士の戦争 (スコア:0)
将来はロボットが人間に偽装するのを禁止したうえで、
ロボットは人間を殺さない、人間はロボットを壊さない、生産はロボットで、
というルールで戦争して下さい。
Re: (スコア:0)
いいこと思いついた。
人間同士殺しあうのも禁止したらいいんじゃね。
Re: (スコア:0)
Re: (スコア:0)
ダンボール戦記WARSか
せんせー (スコア:0)
ロボット3原則に反するものまでロボットと呼んではいけないと思います
アシモフ先生が草葉の陰で泣いています
殺人機械が相当と思います
Re:せんせー (スコア:1)
「うるさい、お前なんかロボットで十分だ」
Re: (スコア:0)
ていうか 誰に言ってるの
5.56mmで3.2kmの距離て (スコア:0)
いったいどれだけの弾をばら撒いて当てるというんですか…
7.62mmでもこの距離だと数撃ちゃいつか当たるを期待するしかない距離ですのに
映画の視過ぎじゃないか？ (スコア:0)
チャッピーは面白かったが、なんか、あれがすぐに実現できると思ってるのだろうか。
（原型の）スカウトだってできるのにあと10年や20年はかかるだろ
自殺ロボットは規制されるべきか (スコア:0)
と空目した。
死なせてあげようよ、と思った俺がいた。
人間だけど、死にたい。