パスワードを忘れた? アカウント作成
21539479 story
人工知能

国連総会決議でAI兵器を規制へ。日米など152か国が賛成 71

ストーリー by nagazou
規制 部門より

国連総会は22日の本会議で、人間の関与なしにAIが標的を選択して攻撃する「自律型致死兵器システム(LAWS)」に関する国際的なルール作りを進める決議案を採択した。この決議はLAWSに対する初の国連総会決議で152か国が賛成。ロシアなど4か国が反対、中国やイスラエル、イランなど11か国が棄権した。今後の議論は、曲折することが予想される(日経新聞読売新聞)。

決議では、LAWSには国連憲章や国際人道法などのルールが適用されることが確認され、LAWSが軍拡競争を招くことや、テロリストへの拡散することへの懸念が表明された。LAWSの課題に関する国連加盟国の見解をまとめ、2024年9月に始まる次期会期に報告書として提出するよう国連のアントニオ・グテレス事務総長に求めたとしている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • で軍隊を制圧できれば,人が死ぬことがずっと減り理想的かもしれませんが,
    非民主主義国で国民の管理に使われそうでやっぱり問題でしょうか

  • by Anonymous Coward on 2023年12月25日 16時32分 (#4585465)

    こっそりやるでしょ。
    ロシアや中国なんかは堂々とやりそうだし。

    • by Anonymous Coward

      そもそも国連がまともに機能したことがあっただろうか。

      # どうせ拒否権で何も決まらない

      • by Anonymous Coward

        もしかして国連が安全保障理事会しかないって思っている小学生?

        • by Anonymous Coward

          別ACだけど、安保理事会もそれ以外も、あまり機能しとらんから、そういう意味では大差ない。

    • by Anonymous Coward

      あっこいつやってる制裁だっていう口実作りでしょう

  • 戦闘員としても、AIロボット兵器相手の生身の戦闘員、あるいは人質を含む非戦闘員としても、生身の戦闘員だけによる戦闘よりは死者が減るだろう絶対正義を何故否定する?
    https://security.srad.jp/comment/4584062 [security.srad.jp]

    • by Anonymous Coward

      AIロボットがハルシネーションを起こした時、誰が責任を取るの?

      もっと言うなら、戦時国際法を無視するよう指示をして放った上で、「AIがハルシネーションにより暴走した」と言って責任逃れすることもできるよね。

      • by Anonymous Coward
        負けた側では?
        どんな戦争のどんな理由のどんな被害かにかかわらず普遍的にそうだと思うけど
    • by Anonymous Coward

      AIに、こいつは殺しても良い、って判断させて良いのかって事だと思うけど。

    • by Anonymous Coward

      根拠がゼロですね。

      非対称戦になったら工業生産力の高い勢力が、それを持たない勢力に属する人々を大量殺戮することになるに決まってるじゃないですか。
      今のイスラエル軍を見ていれば分かるでしょ。

      人命と違い、破壊しても破壊しても、次々と生産して投入されてくるAI兵器。
      そんなの相手に戦いたくないよね。

      絶対正義とかないわー。
      絶対悪じゃん。
      戦争で人を殺すことに何の罪悪感も持たずに殺していくわけでしょ。

      • by Anonymous Coward

        準備砲撃を終えて移動中の砲兵は、ちょうどそのころ敵の塹壕へとびこんで小銃で撃ったり銃剣で突いたりで敵兵を殺している歩兵なんかより、1人頭でよほど沢山の敵兵を殺しているけれど罪悪感は歩兵に比べてだいぶ、いやかなり、いや全然感じていないと思うよ。
        感情ベースで倫理や論理を語ろうとするのはやめた方がいいな。

    • by Anonymous Coward

      自分が死なないだけで相手が大量に死ぬ
      双方が持ってれば双方が大量に死ぬ

    • by Anonymous Coward

      AI兵器は人を攻撃対象としないことという「国際的なルール作りを進め」れば、死者は減るでしょうね。

    • by Anonymous Coward

      AI戦闘員 「人類皆殺しや」

    • by Anonymous Coward

      「絶対正義」ってなんすか?

  • by Anonymous Coward on 2023年12月25日 16時35分 (#4585470)

    こういうルールが出来たとして戦争状態の国が守ってない場合はどうなるの?
    国連加盟国が合法兵器で袋叩きにするの?国連の遺憾の意が発動されるの?戦争終結後に加盟国がハブる(経済制裁とか?)の?
    # やったもん勝ちにしかならない気がしてならない

    • by Anonymous Coward

      勝った国が負けた国の戦争犯罪としてボコるのですよ
      極東軍事裁判(いわゆる東京裁判)とかね

    • by Anonymous Coward

      事実上、現在の地球で最も強い覇権を握っているのはアメリカなので、アメリカ次第です。

      ロシアやイラクが他国に攻め込むのは悪として制裁を加えるけれど、イスラエルがガザに侵略して大量殺戮しても別に国際社会は何もできない。
      アメリカが守ってるから。

      同じことをイランがやってたら多国籍軍を結成して攻め込んでるよね。

      • by Anonymous Coward

        世界の4%の人口が事実上世界のルールを決めているのは広い意味で非民主的だよね

        • by Anonymous Coward

          民主政ってのは一国の中でのみしか通用すしないんだ。残念だけど地球の統一政体なんてもんは存在しなくて、国家に分かれて無政府状態で争っているのが現状だ。
          ルールを決める側になりたければ、アメリカ人になるかその国にルールを決める側になれる様な実力をつけさせるかだ。
          中国は着々と実力をたくわえてるよね。北朝鮮なんかも核戦力へ極振りして自国へ口が出せないような環境を作ろうとしている。

    • by Anonymous Coward

      核兵器禁止条約やオスロ条約(クラスター弾)やオタワ条約(対人地雷)と一緒で、守りますと言ってない国に遺憾の意を示するぐらいしかやれることはない。

    • by Anonymous Coward

      交渉事なんで守らなかったらどうするを決めてもまあ、すごく有効という訳でもないです、お察しの通り。
      基本的にはルールを守る者同士で結束を固めて、ルールを守る方が利益がある世界を構築していくのが(国際)政治の一つです。
      そもそもそのようなルールを取り決めるのは、その取り決めが双方にとって利益があるという認識があってのものであり、
      メンバー間で折り合いの付く部分でルール化するものです。

      # やったもん勝ちにしかならない気がしてならない

      ルール破った国に対しては、「あなたはこの時ルール守らなかったですよね」という事実を次の交渉に活用していくしかないでしょうね。
      過去の行為に拘ってもあまり利益が無いと判断すれば、一旦それは水に流して新たなルールでやり直すのも止む無しでしょう。
      何だかんだ交渉事に誠実なスタンスを保っていればそれなりに評価されいい事もあります。
      損して得取れ、昨日の味方は今日の敵(およびその逆)を深い洞察で続ける姿勢が必要でしょうね。

  • by Anonymous Coward on 2023年12月25日 16時43分 (#4585477)

    クレイモア地雷から引っ張り出されたヒモだろうが、底にうんこついた竹やりが生えてる落とし穴のフタだろうが、そこへ設置した人間の意志が介在してるわけでね。AIが殊更に危険って言う考えはおかしいと思うよ。
    見境なしに上を歩いた人間の脚を吹き飛ばす地雷の信管なんかとちがって、将来的には戦場で降伏していない武装した戦闘員だけを選択的に攻撃できる様になりもすればよほど人道的ってもんでしょう。

    • by Anonymous Coward

      ミサイルも追尾機能やGPS付きであいまいなAIより正確に制御してるわけで、AI規制とはなんぞや?AIの定義は?って話だよね。

    • by Anonymous Coward

      地雷を仕掛けるのも核兵器を撃つのも、実は独裁者ひとりではできない。建前論としては兵士は上官の言う事に逆らえないけど、現実には命令違反によって核戦争が回避されている。でも、AI兵器は用意してしまえば一人で使える。簡単すぎるのが問題。

  • by Anonymous Coward on 2023年12月25日 17時05分 (#4585491)

    イージス艦の対空システムとか基本全自動ですよね。
    CIWSも。

    どう線引きするんだろう。

    • by Anonymous Coward

      搭載してる半導体の処理能力で線引きするのはどうだろう?無理かなぁ

    • by Anonymous Coward

      最初のボタンじゃないかな。
      「敵がいたら自動攻撃せよ」の開始ボタン。

      まぁ、ディストピアSFとかパニックSFだとそれが最後のボタンになるんだが…。

      実際問題として、AIが「こいつ敵だよ攻撃するよOK?」って聞いてきた段階で、もうすでに人間側は判断の猶予時間も能力も無くなってるだろうと思う。のんびり確認してたらこっちが死ぬ。

      だからある段階で、「AIが敵と見なしたら殲滅する」モードを「オンする」のが未来の軍人の仕事であり、命令を下した=責任を取る人間が居るってことが重要なんだろう。

      そもそも、軍隊での上官の行動ってのは部下の兵士に「あそこは全部敵だから殲滅しろ」みたいに指示するのが仕事であり、部下の兵士はよほどの事がなければそれを忠実にこなすのが任務であって、その任務で誤射しても(よほどの事でもないかぎり)兵士は罪に問われない。
      AIであっても、似たような軍の指揮系統の下に入るわけで、「開始ボタンを人が押す」のなら意外とたいしたことではないのかもしれない。
      ※ちゃんと停止ボタン押せることも前提だが。

    • by Anonymous Coward

      >半自動モード
      >目標捜索から脅威度判定、攻撃指令からミサイル攻撃までのステップのうち、攻撃指令のみをオペレーターが行い、
      >それ以外は全自動で実行される。
      >通常の運用においては、半自動モードが採択されることが多い。
      https://ja.wikipedia.org/wiki/ [wikipedia.org]

  • by Anonymous Coward on 2023年12月25日 17時30分 (#4585509)

    黎明期ならAI珍兵器いっぱいでてくるかな

    • by Anonymous Coward
      ロボット三等兵みたいなやつか?
  • by Anonymous Coward on 2023年12月25日 17時41分 (#4585517)

    「人が人を殺す」ことついて「AI兵器を利用するなんて人のやることじゃない」というのは理想論であって
    「明確な殺意」が「無い」場合「多大な精神的ストレスを与える」とともに「甚大な精神的影響を及ぼす」ことから
    「AI兵器を使うべきである」というのが「人の持つべき倫理観」として「正しい帰結」と言える。

    では、「殺す対象」を考えた場合、「戦場の兵士」と「戦場をどのように定義するのか」によって答えが変わってくる。
    「戦場の兵士」とは、すなわち、「武器を所持している者」なのか「武器を所持していると思われる者」なのか
    「戦場」とは、すなわち、「平野」なのか「山岳」なのか「密林」なのか「市街地」なのか

    この様に、明確な定義づけをしないと、「善良な民間人(定義による)」をも「殺害する」ことを容認してしまう。
    さて、「人殺しが正当化されることなど無い」という某工作員の言葉よりも、
    実際に「人を殺すことを楽しむ」ために「傭兵」や「義勇兵」になる日本人が一定数居るので
    この様な兵器が使われ始めたら、真っ先に狙われるだろうね。

  • by Anonymous Coward on 2023年12月25日 18時05分 (#4585536)

    初のT-800型はボストン・ダイナミクスによって作られるであろう
    コマンドは書き換えられ、人間を殺りつくするマシーンと化す

    • by Anonymous Coward on 2023年12月25日 20時36分 (#4585623)

      ターミネーターの頃ってパソコン通信とかの時代でネット社会自体が想像の産物だったからSF的な恐ろしさがあったけど、今となってはネットに繋がってるAIよりもスタンドアローンな奴の方が厄介な気がする。

      例えば、JAXAが月に送っている探査機SLIMは月面着陸の際にAIの画像解析で着地点を探す。理由は単純明快で、地球と月は直線距離でも往復で2.6光秒。格闘ゲームでブラジルと通信対戦する話でも出てたけど、光速でも遅すぎるという状況は今後も一杯出てくるはず。そういう時の有力な解決法のひとつがAIってことになるんじゃないかな。遠隔医療だって今は通信回線を安定させる方に力が入れられているけど、コストを突き詰めると、高品質なネットワークを維持するよりも、AIを送り込んで人間が監督に回る方に合理的。つまり、AIが発展すれば、物理的なネットワークはむしろ衰退するかもしれない。実際に、動画サーバーがデータの解像度を落としてクライアントがAIで補完するみたいな話があるんだから。

      ネットとAIの組み合わせは強力だけど、その凄みはネットワークに対してAIが補完的であること、言い換えればネットそのものをある程度代替するほどスタンドアローンAIが有能なのが恐ろしい。逆にネットの向こう側にいるAIの効能は頭打ちなんじゃないかな。

      親コメント
      • by Anonymous Coward

        眠いんだろうか…

        なんか(現時点のLLMの中では)賢い(方の)LLMが(賢いんだか、何か幻覚を見ているんだか良く分からない)微妙な事を言い出したのを見ているような気分になった

        つか全く論理の繋がりがワカラン…というかワカランというよりは、言葉をつなげているだけの説得力の無い論であるように見える

        本当はGPTの出力か何かなんですか?

  • by Anonymous Coward on 2023年12月25日 18時52分 (#4585575)

    サバゲー大会の始まりと!

  • by Anonymous Coward on 2023年12月25日 18時58分 (#4585579)

    AIが十分優秀だとすると、敵の戦闘能力の劣る人間よりもAIを破壊することに戦力を割くことが最善の戦略になりませんか。戦争の片方だけがAIだと一方的な大量虐殺が行われるリスクがありますが、そうなら人間側が速攻でギブアップですかね。そして、両者AIの戦争になれば結局スポーツと同じになるような。

    • by Anonymous Coward

      AIより機械的な部分の方が難しい。そこをクリヤーすると量産可能な殺戮兵器が作れる。
      歯止めは効かないのでいずれは完成する。
      ギブアップは無駄、譲歩することを考えてないだろうからそれ無駄

  • by Anonymous Coward on 2023年12月25日 19時02分 (#4585581)

    守らせる強制力がなければ意味がないことが現在進行形で示されているわけだが。むしろ敵だけがAI兵器で攻撃し放題の縛りプレイにしかならないじゃん。どうせアメリカは秘密裏に研究するんだろうし中露もそれがわかってるから賛成するわけがない

  • by Anonymous Coward on 2023年12月25日 19時08分 (#4585582)

    米国は兎も角、外交官か首相かどっちの主導でこの案に賛成したか知らんが、対人地雷禁止条約といいクラスター爆弾規制条約といい、彼らには日本国が弱小国という認識があるのか。

    • by Anonymous Coward

      別に秘密裡じゃなくても、サバゲー用とか適当な名前でペイント弾をバラ撒くAIを作って、戦争時にそれを鉛玉に改修すればいいだけじゃないかな。

      • by Anonymous Coward

        「だけ」ねぇ...
        ダイハツの不正問題も、全車種試験やり直して、既存の車両を改修すればいいだけだよね。

      • by Anonymous Coward

        そのペイント弾を食らったら死ぬ、位の威力がなければ、鉛玉に変えたってどうにもならん。そしてそれほどの威力があるのなら、サバゲー会場が血の海と化す事になる罠

  • 常任理事国が率先してこんな規制守らないわけで。自分たちは守らないけど他の国は守れと圧力かけるだけでしょうに。

  • by Anonymous Coward on 2023年12月25日 21時14分 (#4585643)

    有機:ハルトマン式に人格へし折らんと戦場では使い物にならん
    無機:AI制御禁止って差別だよねぇ

    # インテリジェンスじゃない人工無能ならありじゃね!?(マテ

  • 開発反対なんてとんでもない。こういう兵器こそ、中国やロシアの物量に少数で立ち向かわなきゃいけない日本のような国にこそ必要なもんでしょう。
    中国人の数に少子高齢化の日本人では太刀打ちできないんだから、その分をAIで確保するしかない。

    なんなら、AI兵器に自己複製能力も持たせればよい。そうすれば中国やロシアを今度は物量作戦で倒すことができる。
    …巻き添えでユーラシア大陸全部滅ぼしてしまうかもしれないけど、その時はその時だ。

    • by Anonymous Coward

      で開発力と資金力でちうごくに負けてちうごくAIに蹂躙される日本
      #マジで有りそうだ

      てか兵器開発だって録に出来ない(自衛隊だけじゃ儲からないし
      というのにどうしろと

typodupeerror

私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson

読み込み中...