パスワードを忘れた? アカウント作成
10975718 story
ロボット

国連、殺人ロボット兵器に関する専門家会合を開催 58

ストーリー by hylom
とりあえずロボット三原則に違反してますよ 部門より
taraiok 曰く、

国連が特定通常兵器使用禁止制限条約(CCW)の非公式会合で初めて「殺人ロボット」の是非を議論する専門家会合を開催するという(International Business TimesHarvard Law School'レポート[PDF]時事通信slashdot)。

会合では人間の判断に頼らず、自動的に敵を攻撃する殺人ロボットの開発禁止といった規制の必要性に関して話し合う。現時点では完全自立型の殺人ロボットは存在していないが、現在米軍が使用している武装型ドローンの次のステップとして登場する可能性がある。

完全自律型の武器は人間の介入なしにターゲットを識別、殺傷する能力を持つ可能性がある。実現すれば国際人道法に対するコンプライアンスに疑問を生じさせる存在となるだろう。Human Rights Watchが公開したハーバード・ロースクールのレポートでは殺人ロボットの問題として、判断能力と責任の所在を上げている。殺人の意図を伴う自動兵器を作成したメーカーや使用を判断した陸軍士官、プログラマなどの刑事責任のリスクについても強調している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • ここで持出さなければ!

    --
    **たこさん**・・・
    • by Anonymous Coward

      いつも思うんだが、なんでたかが小説の設定を現実に持ち込もうとするの?

      • by nim (10479) on 2014年05月14日 13時54分 (#2600509)

        「ロボット」の用語自体、文学作品から持ちこまれたものだと思いますが。

        親コメント
        • by Anonymous Coward

          でもロボットの名前自体と三原則は一緒に扱わなくてはいけないものでもないですよね
          ロボットの名前が文学作品からゆえ同様に三原則も必ずついてくるみたいなことではないでしょう?

          • by Anonymous Coward
            ええ、一緒に扱わなくてはいけないとは誰も主張していないですね。
      • by firewheel (31280) on 2014年05月14日 14時24分 (#2600541)

        SF小説の方が現実より二歩も三歩も先を進んでるからです。

        より進歩してるものを参考にするのは当然。

        親コメント
        • by digoh (17917) on 2014年05月14日 15時05分 (#2600589) 日記

          ロボットの話題だから三原則をお出しする、という発想自体は別にいいと思うんですけど、
          ネタになってないというか、剥き身の材料だけお出しされても困るというか。

          そもそも三原則は定義があいまいな上に実装法は伏せられてるのだから、実際のモノの話に絡めるのが非常に難しい。
          あえて今回の話に絡めるなら
          「人を傷つけたらダメ、という原則に則ってロボット兵器は殺人禁止ね」「それ使い物にならないやん!」
          とか
          「ロボット三原則で言う『ロボット』の定義は?ここでいうロボット兵器がその定義に当てはまらないなら三原則破りまくりやね」
          とかそんな話に。

          親コメント
      • by Anonymous Coward on 2014年05月14日 15時47分 (#2600627)

        そのまま持ち込むのは現実的には何だけど、

        自律的に動作する機械が社会に持ち込まれる時には何らかの倫理を考慮し組み込む必要がある。もしくは倫理を組み込みという形で内在できる存在を考えるという概念を持ち出したのが元ネタの作品(シリーズ)という解釈ができるので、敬意を払うというのは自然な事かと。

        三原則自身もそれそのものを実装するのは困難だとしても、現実的な仕様を出すための原則、もしくは原則を検討するためのたたき台の候補ぐらいには考えてもいいんじゃないでしょうか?

        三原則を根拠とする事に意味はないけど、アシモフが何故それを三原則としたか、なぜ多くの人間がそれをもっともだと感じたかを踏まえて、あるべき倫理を模索する方法の一つになるかもしれません。
        #ストーリー作成上の都合というのはともかく

        結論として、「いろいろややこしい事を考えたくないから殺人を目的とした自律機械の存在は禁止な!」という事もありかと。

        親コメント
      • by Anonymous Coward
        実際のロボット開発にも少なからず影響を与えているのだから、元ネタが小説だという点は関係ないんじゃないですか?
        • by Anonymous Coward

          少なからず影響を受けているんであれば、それがおかしいと思う。

          ロボットって名詞は定着しちゃったからしょうがないとして、
          実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。

          • by nemui4 (20313) on 2014年05月14日 20時33分 (#2600888) 日記

            少なからず影響を受けているんであれば、それがおかしいと思う。

            ロボットって名詞は定着しちゃったからしょうがないとして、
            実際の開発がそんなお話の中の設定にちょっとでも縛られるのは間違ってる。

            わしもそう思う by カレルチャペック

            親コメント
          • by Mistbow (12027) on 2014年05月15日 1時40分 (#2601073)

             「ロボット兵士の戦争」 [nhk-book.co.jp]という本の「第8章 SFが戦争の未来を左右する」の章を読むと、米軍では積極的にSFの影響を受けに行っている部分もあるようです。
             この章の中では、ロボット工学者はロボット三原則について「現実の世界の複雑な状況下で法律に従おうとする際に生じる問題を検証する出発点として、三原則を使っている」、という風に書かれています。

             個人的には、自律型医療ロボットに「手術であってもレーザーメスで人間の体を傷つけるなんてできません! かといって見過ごすこともできません! というわけで祈ろうと思うのですが、対象はニャルラトテップでいいですか?」とか相談されても困るので、ロボット三原則そのまま実装できないだろうというのは同意。

            親コメント
          • by Anonymous Coward

            どこに実際の開発がロボット三原則に縛られてるって出てるの?

            単に雑談のネタとして出てきてるんじゃないの?

          • by Anonymous Coward
            「影響する」のと「縛られる」は全く別ですよね。
            まさか同じだと思っているのでしょうか
          • by Anonymous Coward
            >少なからず影響を受けているんであれば、それがおかしいと思う。

            単純に聞きたい、なぜ?
            読んだ小説や見たアニメに影響を受けてその道に進んだとか、今もそれを目標にしているといった研究者は少なくないですよ。
            それがどのようにおかしいのですか?
          • by Anonymous Coward

            E.E.スミスあたりのアイデアは現実の兵器に大きな影響を与えていますが?

            # 本質的に探知できない宇宙船(ステルス)、銀河パトロール隊旗艦の「タンク」(戦闘指揮所)、等

      • by Anonymous Coward

        いつも思うんだが、なんでたかがジョークに現実社会を持ち込もうとするの?

        ジョークがわからないなら/.に来ないほうがいい

    • by Anonymous Coward

      ロボットじゃないよアンドロイドだよ

      # やっぱこれも持ち出さなければ

    • by Anonymous Coward

      いやいや、持ち出すならロボット三等兵だろ!

    • by Anonymous Coward

      3原則に縛られてるのに人を殺せるロボットというものも出てきますね。

      人間を攻撃しているのではないとロボットに認識させる
      とか
      「人間」の定義を厳しくして、マスターの同胞だけを指すことにしてしまう
      とか
      ロボット自身がオレオレルールを編み出す
      とか。

      • by Jubilee (20038) on 2014年05月15日 0時39分 (#2601053)

        ロボット三原則を破ったハッカーと、枷を外された自己複製ロボットが出てくる作品もありましたよね。「ソフトウェア」だったかな。

        「人類は生まれついての奴隷使いだ」とか「繁殖率で人類を上回って絶滅させてやりたい」とか過激なことを言うロボットも出てきましたが、なんというかぐちょぐちょでろでろのサイバーパンクだったような。

        --
        Jubilee
        親コメント
  • 殺人ロボット兵器(薄)って、あちらで言うところの Unmanned Combat Vehicle や Combat Drone や Military Robot の事でしょう?遠隔操作も自律動作も含めて。
    それらに対して殺人ロボット(噴)って造語を充てるのは多分に政治的だし、オレ的にはキモチワルイ。
    無人兵器や戦闘用ロボット或いは軍事ロボットって原語の意味に近い訳語を充てられないもんかね。

    まあ報道記者なんて根はクソサヨのくせに安定志向で大手へ就職するクソ馬鹿ばっかだから無理っぽいけども。
  • by nemui4 (20313) on 2014年05月14日 13時09分 (#2600465) 日記

    半島で流行ってるらしい無人偵察機を改造して攻撃に使うなって牽制になるのかな。
    #対策ないんだろうなぁ。

  • by Anonymous Coward on 2014年05月14日 13時12分 (#2600469)

    ミサイルが人を殺すのと何が違うの?

    • by Anonymous Coward

      だよねえ。

    • by Anonymous Coward

      ミサイルは人間がトリガーを引くからだ。

      自立型戦闘ロボットも起動するのは人間かもしれんが・・・
      まあ、なんだ。セックスとオナニー位の違いがあると思うよ?

    • by Anonymous Coward

      ミサイル・地雷・機雷・CIWSは、無人自動対人(を含む)攻撃兵器として一括りにして良いでしょう。

    • by Anonymous Coward

      誤って民間人を殺したとき、誰の責任かということだろ。
      自律ロボットの責任など、誰も取りはしない。

      ミサイルを誤射したオペレータの責任は。。。やはり何も違わないかw

      • by Anonymous Coward

        責任問題は大したことない。

        アメリカにせよロシアにせよ中国にせよ「悪いのはテロリスト」と責任転嫁するシステムが出来ている。
        誰がテロリストか、という点は微妙に違うようだけどw

  • by ashoka (46751) on 2014年05月15日 1時07分 (#2601064)

    つまりは、兵器にセンサーつかっちゃダメですよってことになるような。

  • by Anonymous Coward on 2014年05月14日 13時08分 (#2600464)

    T/O

    まぁ普通に考えたら、識別ID発信器を付けてない対象に対して攻撃するくらいが今のところ関の山でしょ。

  • by Anonymous Coward on 2014年05月14日 17時54分 (#2600765)

    殺人ロボットを規制するとは、つまり
    「兵士と同等かそれ以上に非戦闘員を殺さないロボに限定しろ」
    ということ。
    つまりその目的は、
    高性能ロボットを所持するのは正義
    低性能の無差別殺人ロボを所持するのは悪
    という定義をすること。

  • by Anonymous Coward on 2014年05月14日 19時26分 (#2600827)

    こんな取り決めをしたとしてもどうせ戦争なんてルール無用の状態になるのがオチ。
    目撃者がいなければ何やってもバレない原則でやるのがアメリカクオリティ。

    ロボットじゃ無ければいいのか?
    遠隔操作で殺すのと自動で殺すのと何が違うのか?

    機械が人を殺すという結果から見れば同じ。
    殺される側からすれば、自動なのか遠隔操作なのかなんて見分けつかない。

    • by nemui4 (20313) on 2014年05月14日 20時42分 (#2600893) 日記

      操作系とは無関係に体裁のためだけにヒトを乗っけるようになったりして。

      それが脳核だけになるとSFっぽい。

      親コメント
    • by Anonymous Coward

      ロボットの定義や自律の定義も必要だが、そもそも兵器って何よ! というのがあると思う。

      政府機関周辺の暴動や越境してくる不法難民を検知して自動的にレーザーを照射して失明させる兵器は、人を殺さないからOKなの?
      催涙ガス弾だって水平撃ちしなくても時々当って人死んでるんだよなあ。

  • え? CIWSは違うの?

    むき出しの人間じゃなければここで言う「殺人」にはあたらないとすると
    自動車を全自動攻撃するのはOKか。

    そうじゃないとしても、OKダイアログ表示しとけば無問題と。
    # キャンセルボタンつけるの忘れてた

    • by Anonymous Coward

      CIWSは専ら防御用だからOKなのでは?
      自走できるわけでもないし、人間乗ってるし。

      完全自立型CIWSが自走しながら、バンバン人殺したらアウトだろうとは思います。

      • タレこみ文にあるような問題点からすると、自走するか否かよりも対象の識別能力の方が必須なんじゃないですかね。
        この赤い線を越えた物体は無差別に攻撃するよ、という自走砲台と、
        場所は固定されているけど敵性人間だけを識別して攻撃する固定砲台、だったら
        後者の方が今回の議論の対象になるんじゃないかと。(や、前者も殺人ロボット寄りではあるが)

        親コメント
  • by Anonymous Coward on 2014年05月15日 1時31分 (#2601071)

    http://merutosan.blogspot.com/2013/09/04.html [blogspot.com]
    もちろん、無賃乗車するとハンマーで殴るロボットも禁止ですね。

    まず、過労死するまでサービス残業させる管理職ロボットを禁止して欲しい。

  • by Anonymous Coward on 2014年05月15日 10時15分 (#2601236)
    いや自意識過剰だとは思うんですが、この会合って日本を想定しているんじゃないかと。
    武器輸出自由化()とかタイミング的に。

    以前、ホンダのCMでASIMOと子供たちが追いかけっこしてるのがあったんだけど、ASIMOに斧とかUZI持たせたら怖いだろうなって思ってました。
typodupeerror

目玉の数さえ十分あれば、どんなバグも深刻ではない -- Eric Raymond

読み込み中...