国連、殺人ロボット兵器に関する専門家会合を開催 58
ストーリー by hylom
とりあえずロボット三原則に違反してますよ 部門より
とりあえずロボット三原則に違反してますよ 部門より
taraiok 曰く、
国連が特定通常兵器使用禁止制限条約（CCW）の非公式会合で初めて「殺人ロボット」の是非を議論する専門家会合を開催するという（International Business Times、Harvard Law School'レポート[PDF]、時事通信、slashdot）。
会合では人間の判断に頼らず、自動的に敵を攻撃する殺人ロボットの開発禁止といった規制の必要性に関して話し合う。現時点では完全自立型の殺人ロボットは存在していないが、現在米軍が使用している武装型ドローンの次のステップとして登場する可能性がある。
完全自律型の武器は人間の介入なしにターゲットを識別、殺傷する能力を持つ可能性がある。実現すれば国際人道法に対するコンプライアンスに疑問を生じさせる存在となるだろう。Human Rights Watchが公開したハーバード・ロースクールのレポートでは殺人ロボットの問題として、判断能力と責任の所在を上げている。殺人の意図を伴う自動兵器を作成したメーカーや使用を判断した陸軍士官、プログラマなどの刑事責任のリスクについても強調している。
ロボット三原則 (スコア:2)
ここで持出さなければ！
＊＊たこさん＊＊・・・
Re: (スコア:0)
いつも思うんだが、なんでたかが小説の設定を現実に持ち込もうとするの?
Re:ロボット三原則 (スコア:1)
「ロボット」の用語自体、文学作品から持ちこまれたものだと思いますが。
Re: (スコア:0)
でもロボットの名前自体と三原則は一緒に扱わなくてはいけないものでもないですよね
ロボットの名前が文学作品からゆえ同様に三原則も必ずついてくるみたいなことではないでしょう？
Re: (スコア:0)
Re:ロボット三原則 (スコア:1)
SF小説の方が現実より二歩も三歩も先を進んでるからです。
より進歩してるものを参考にするのは当然。
Re:ロボット三原則 (スコア:1)
ロボットの話題だから三原則をお出しする、という発想自体は別にいいと思うんですけど、
ネタになってないというか、剥き身の材料だけお出しされても困るというか。
そもそも三原則は定義があいまいな上に実装法は伏せられてるのだから、実際のモノの話に絡めるのが非常に難しい。
あえて今回の話に絡めるなら
「人を傷つけたらダメ、という原則に則ってロボット兵器は殺人禁止ね」「それ使い物にならないやん！」
とか
「ロボット三原則で言う『ロボット』の定義は？ここでいうロボット兵器がその定義に当てはまらないなら三原則破りまくりやね」
とかそんな話に。
Re:ロボット三原則 (スコア:1)
そのまま持ち込むのは現実的には何だけど、
自律的に動作する機械が社会に持ち込まれる時には何らかの倫理を考慮し組み込む必要がある。もしくは倫理を組み込みという形で内在できる存在を考えるという概念を持ち出したのが元ネタの作品（シリーズ）という解釈ができるので、敬意を払うというのは自然な事かと。
三原則自身もそれそのものを実装するのは困難だとしても、現実的な仕様を出すための原則、もしくは原則を検討するためのたたき台の候補ぐらいには考えてもいいんじゃないでしょうか？
三原則を根拠とする事に意味はないけど、アシモフが何故それを三原則としたか、なぜ多くの人間がそれをもっともだと感じたかを踏まえて、あるべき倫理を模索する方法の一つになるかもしれません。
#ストーリー作成上の都合というのはともかく
結論として、「いろいろややこしい事を考えたくないから殺人を目的とした自律機械の存在は禁止な！」という事もありかと。
Re: (スコア:0)
Re: (スコア:0)
少なからず影響を受けているんであれば、それがおかしいと思う。
ロボットって名詞は定着しちゃったからしょうがないとして、
実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。
Re:ロボット三原則 (スコア:1)
少なからず影響を受けているんであれば、それがおかしいと思う。
ロボットって名詞は定着しちゃったからしょうがないとして、
実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。
わしもそう思う by カレルチャペック
Re:ロボット三原則 (スコア:1)
「ロボット兵士の戦争」 [nhk-book.co.jp]という本の「第8章 SFが戦争の未来を左右する」の章を読むと、米軍では積極的にSFの影響を受けに行っている部分もあるようです。
この章の中では、ロボット工学者はロボット三原則について「現実の世界の複雑な状況下で法律に従おうとする際に生じる問題を検証する出発点として、三原則を使っている」、という風に書かれています。
個人的には、自律型医療ロボットに「手術であってもレーザーメスで人間の体を傷つけるなんてできません! かといって見過ごすこともできません! というわけで祈ろうと思うのですが、対象はニャルラトテップでいいですか?」とか相談されても困るので、ロボット三原則そのまま実装できないだろうというのは同意。
Re: (スコア:0)
どこに実際の開発がロボット三原則に縛られてるって出てるの？
単に雑談のネタとして出てきてるんじゃないの？
Re: (スコア:0)
まさか同じだと思っているのでしょうか
Re: (スコア:0)
単純に聞きたい、なぜ？
読んだ小説や見たアニメに影響を受けてその道に進んだとか、今もそれを目標にしているといった研究者は少なくないですよ。
それがどのようにおかしいのですか？
Re: (スコア:0)
E.E.スミスあたりのアイデアは現実の兵器に大きな影響を与えていますが？
＃ 本質的に探知できない宇宙船（ステルス）、銀河パトロール隊旗艦の「タンク」（戦闘指揮所）、等
Re: (スコア:0)
いつも思うんだが、なんでたかがジョークに現実社会を持ち込もうとするの?
ジョークがわからないなら/.に来ないほうがいい
Re: (スコア:0)
ロボットじゃないよアンドロイドだよ
# やっぱこれも持ち出さなければ
Re: (スコア:0)
それって昔聞いたことがあるような気がするんだが、なんだっけ？
Re:ロボット三原則 (スコア:1)
漫画「究極超人あ～る」に登場するR・田中一郎の台詞です。(1話では言ってませんが)
サンデー名作ミュージアム 『究極超人あ～る』 第1話「R・田中一郎登場の巻」 [websunday.net]
作品としては、今年も関連イベントが行われたりしているようです。
『究極超人あ～る』再現イベントがやっぱり今年も開催決定！ 自転車を持って集合だ！- MSN 最新ニュース｜トピックス [msn.com]
Re:ロボット三原則 (スコア:1)
漫画「究極超人あ～る」に登場するR・田中一郎の台詞です。(1話では言ってませんが)
その台詞を塩澤兼人氏が口にすると実に良い味が出たものですよねぇ。CDの1枚目だったかな。別記事のギーガー氏と同様、階段から落ちて亡くなったそうで。まだまだ中堅というお年だったと思います。実に惜しい方を亡くしました。
「あ～る」も元々の製造目的は世界征服だったんですよね。兵器じゃなかったようですが。
Jubilee
Re: (スコア:0)
ばっかもーん
お前なんかロボットでじゅーぶんだ
Re: (スコア:0)
いやいや、持ち出すならロボット三等兵だろ！
Re: (スコア:0)
３原則に縛られてるのに人を殺せるロボットというものも出てきますね。
人間を攻撃しているのではないとロボットに認識させる
とか
「人間」の定義を厳しくして、マスターの同胞だけを指すことにしてしまう
とか
ロボット自身がオレオレルールを編み出す
とか。
Re:ロボット三原則 (スコア:1)
ロボット三原則を破ったハッカーと、枷を外された自己複製ロボットが出てくる作品もありましたよね。「ソフトウェア」だったかな。
「人類は生まれついての奴隷使いだ」とか「繁殖率で人類を上回って絶滅させてやりたい」とか過激なことを言うロボットも出てきましたが、なんというかぐちょぐちょでろでろのサイバーパンクだったような。
Jubilee
すっかり定着したけど「殺人ロボット」って左翼臭い表現はなんとかならんのかね？ (スコア:2)
それらに対して殺人ロボット（噴）って造語を充てるのは多分に政治的だし、オレ的にはキモチワルイ。
無人兵器や戦闘用ロボット或いは軍事ロボットって原語の意味に近い訳語を充てられないもんかね。
まあ報道記者なんて根はクソサヨのくせに安定志向で大手へ就職するクソ馬鹿ばっかだから無理っぽいけども。
Re: (スコア:0)
くっさ
無慈悲な無人偵察機 (スコア:1)
半島で流行ってるらしい無人偵察機を改造して攻撃に使うなって牽制になるのかな。
#対策ないんだろうなぁ。
Re:無慈悲な無人偵察機 (スコア:1)
国連事務総長がこれに絡んでたら面白いなと思った。
殺人ロヴォット (スコア:1)
ミサイルが人を殺すのと何が違うの？
Re: (スコア:0)
だよねえ。
Re: (スコア:0)
ミサイルは人間がトリガーを引くからだ。
自立型戦闘ロボットも起動するのは人間かもしれんが・・・
まあ、なんだ。セックスとオナニー位の違いがあると思うよ？
Re:殺人ロヴォット (スコア:1)
自動報復ってのも禁止なんだっけ。
Re: (スコア:0)
ミサイル・地雷・機雷・CIWSは、無人自動対人（を含む）攻撃兵器として一括りにして良いでしょう。
Re: (スコア:0)
誤って民間人を殺したとき、誰の責任かということだろ。
自律ロボットの責任など、誰も取りはしない。
ミサイルを誤射したオペレータの責任は。。。やはり何も違わないかw
Re: (スコア:0)
責任問題は大したことない。
アメリカにせよロシアにせよ中国にせよ「悪いのはテロリスト」と責任転嫁するシステムが出来ている。
誰がテロリストか、という点は微妙に違うようだけどｗ
センサー (スコア:1)
つまりは、兵器にセンサーつかっちゃダメですよってことになるような。
良心回路の開発を急がねば (スコア:0)
T/O
まぁ普通に考えたら、識別ID発信器を付けてない対象に対して攻撃するくらいが今のところ関の山でしょ。
Re:良心回路の開発を急がねば (スコア:1)
無人攻撃ドローンを捕まえて攻撃規制の論理を反転させて戻されたら怖そう。
Re: (スコア:0)
がしかし第３ボタンを外されそうになり・・・ﾊｧﾊｧ
定義 (スコア:0)
殺人ロボットを規制するとは、つまり
「兵士と同等かそれ以上に非戦闘員を殺さないロボに限定しろ」
ということ。
つまりその目的は、
高性能ロボットを所持するのは正義
低性能の無差別殺人ロボを所持するのは悪
という定義をすること。
意味が無い (スコア:0)
こんな取り決めをしたとしてもどうせ戦争なんてルール無用の状態になるのがオチ。
目撃者がいなければ何やってもバレない原則でやるのがアメリカクオリティ。
ロボットじゃ無ければいいのか？
遠隔操作で殺すのと自動で殺すのと何が違うのか？
機械が人を殺すという結果から見れば同じ。
殺される側からすれば、自動なのか遠隔操作なのかなんて見分けつかない。
Re:意味が無い (スコア:1)
操作系とは無関係に体裁のためだけにヒトを乗っけるようになったりして。
それが脳核だけになるとSFっぽい。
Re: (スコア:0)
ロボットの定義や自律の定義も必要だが、そもそも兵器って何よ！ というのがあると思う。
政府機関周辺の暴動や越境してくる不法難民を検知して自動的にレーザーを照射して失明させる兵器は、人を殺さないからOKなの？
催涙ガス弾だって水平撃ちしなくても時々当って人死んでるんだよなあ。
Re:意味が無い (スコア:1)
DHMOとかでも水平撃ちしなくても生死を左右することあるしね。
現時点では完全自立型の殺人ロボットは存在していない (スコア:0)
え？ CIWSは違うの？
むき出しの人間じゃなければここで言う「殺人」にはあたらないとすると
自動車を全自動攻撃するのはOKか。
そうじゃないとしても、OKダイアログ表示しとけば無問題と。
# キャンセルボタンつけるの忘れてた
Re: (スコア:0)
CIWSは専ら防御用だからOKなのでは？
自走できるわけでもないし、人間乗ってるし。
完全自立型CIWSが自走しながら、バンバン人殺したらアウトだろうとは思います。
Re:現時点では完全自立型の殺人ロボットは存在していない (スコア:1)
タレこみ文にあるような問題点からすると、自走するか否かよりも対象の識別能力の方が必須なんじゃないですかね。
この赤い線を越えた物体は無差別に攻撃するよ、という自走砲台と、
場所は固定されているけど敵性人間だけを識別して攻撃する固定砲台、だったら
後者の方が今回の議論の対象になるんじゃないかと。（や、前者も殺人ロボット寄りではあるが）
もちろん (スコア:0)
http://merutosan.blogspot.com/2013/09/04.html [blogspot.com]
もちろん、無賃乗車するとハンマーで殴るロボットも禁止ですね。
まず、過労死するまでサービス残業させる管理職ロボットを禁止して欲しい。
ひょっとして俺のこと？ (スコア:0)
武器輸出自由化（）とかタイミング的に。
以前、ホンダのCMでASIMOと子供たちが追いかけっこしてるのがあったんだけど、ASIMOに斧とかUZI持たせたら怖いだろうなって思ってました。