
国連総会決議でAI兵器を規制へ。日米など152か国が賛成 71
ストーリー by nagazou
規制 部門より
規制 部門より
国連総会は22日の本会議で、人間の関与なしにAIが標的を選択して攻撃する「自律型致死兵器システム(LAWS)」に関する国際的なルール作りを進める決議案を採択した。この決議はLAWSに対する初の国連総会決議で152か国が賛成。ロシアなど4か国が反対、中国やイスラエル、イランなど11か国が棄権した。今後の議論は、曲折することが予想される(日経新聞、読売新聞)。
決議では、LAWSには国連憲章や国際人道法などのルールが適用されることが確認され、LAWSが軍拡競争を招くことや、テロリストへの拡散することへの懸念が表明された。LAWSの課題に関する国連加盟国の見解をまとめ、2024年9月に始まる次期会期に報告書として提出するよう国連のアントニオ・グテレス事務総長に求めたとしている。
NLAWS (Non-lethal Autonomous Weapons Systems) (スコア:2)
で軍隊を制圧できれば,人が死ぬことがずっと減り理想的かもしれませんが,
非民主主義国で国民の管理に使われそうでやっぱり問題でしょうか
こういう規制って意味あるんですかね (スコア:0)
こっそりやるでしょ。
ロシアや中国なんかは堂々とやりそうだし。
Re: (スコア:0)
そもそも国連がまともに機能したことがあっただろうか。
# どうせ拒否権で何も決まらない
Re: (スコア:0)
もしかして国連が安全保障理事会しかないって思っている小学生?
Re: (スコア:0)
別ACだけど、安保理事会もそれ以外も、あまり機能しとらんから、そういう意味では大差ない。
Re: (スコア:0)
あっこいつやってる制裁だっていう口実作りでしょう
非対称戦でも、正規軍同士の激突でも、基本AIロボット兵器の投入は死者を減らす (スコア:0)
戦闘員としても、AIロボット兵器相手の生身の戦闘員、あるいは人質を含む非戦闘員としても、生身の戦闘員だけによる戦闘よりは死者が減るだろう絶対正義を何故否定する?
https://security.srad.jp/comment/4584062 [security.srad.jp]
Re: (スコア:0)
AIロボットがハルシネーションを起こした時、誰が責任を取るの?
もっと言うなら、戦時国際法を無視するよう指示をして放った上で、「AIがハルシネーションにより暴走した」と言って責任逃れすることもできるよね。
Re: (スコア:0)
どんな戦争のどんな理由のどんな被害かにかかわらず普遍的にそうだと思うけど
Re: (スコア:0)
AIに、こいつは殺しても良い、って判断させて良いのかって事だと思うけど。
Re: (スコア:0)
根拠がゼロですね。
非対称戦になったら工業生産力の高い勢力が、それを持たない勢力に属する人々を大量殺戮することになるに決まってるじゃないですか。
今のイスラエル軍を見ていれば分かるでしょ。
人命と違い、破壊しても破壊しても、次々と生産して投入されてくるAI兵器。
そんなの相手に戦いたくないよね。
絶対正義とかないわー。
絶対悪じゃん。
戦争で人を殺すことに何の罪悪感も持たずに殺していくわけでしょ。
Re: (スコア:0)
準備砲撃を終えて移動中の砲兵は、ちょうどそのころ敵の塹壕へとびこんで小銃で撃ったり銃剣で突いたりで敵兵を殺している歩兵なんかより、1人頭でよほど沢山の敵兵を殺しているけれど罪悪感は歩兵に比べてだいぶ、いやかなり、いや全然感じていないと思うよ。
感情ベースで倫理や論理を語ろうとするのはやめた方がいいな。
Re: (スコア:0)
自分が死なないだけで相手が大量に死ぬ
双方が持ってれば双方が大量に死ぬ
Re: (スコア:0)
AI兵器は人を攻撃対象としないことという「国際的なルール作りを進め」れば、死者は減るでしょうね。
Re: (スコア:0)
AI戦闘員 「人類皆殺しや」
Re: (スコア:0)
「絶対正義」ってなんすか?
戦争状態でルール守ってない国に対する対処 (スコア:0)
こういうルールが出来たとして戦争状態の国が守ってない場合はどうなるの?
国連加盟国が合法兵器で袋叩きにするの?国連の遺憾の意が発動されるの?戦争終結後に加盟国がハブる(経済制裁とか?)の?
# やったもん勝ちにしかならない気がしてならない
Re: (スコア:0)
勝った国が負けた国の戦争犯罪としてボコるのですよ
極東軍事裁判(いわゆる東京裁判)とかね
Re: (スコア:0)
事実上、現在の地球で最も強い覇権を握っているのはアメリカなので、アメリカ次第です。
ロシアやイラクが他国に攻め込むのは悪として制裁を加えるけれど、イスラエルがガザに侵略して大量殺戮しても別に国際社会は何もできない。
アメリカが守ってるから。
同じことをイランがやってたら多国籍軍を結成して攻め込んでるよね。
Re: (スコア:0)
世界の4%の人口が事実上世界のルールを決めているのは広い意味で非民主的だよね
Re: (スコア:0)
民主政ってのは一国の中でのみしか通用すしないんだ。残念だけど地球の統一政体なんてもんは存在しなくて、国家に分かれて無政府状態で争っているのが現状だ。
ルールを決める側になりたければ、アメリカ人になるかその国にルールを決める側になれる様な実力をつけさせるかだ。
中国は着々と実力をたくわえてるよね。北朝鮮なんかも核戦力へ極振りして自国へ口が出せないような環境を作ろうとしている。
Re: (スコア:0)
核兵器禁止条約やオスロ条約(クラスター弾)やオタワ条約(対人地雷)と一緒で、守りますと言ってない国に遺憾の意を示するぐらいしかやれることはない。
Re: (スコア:0)
交渉事なんで守らなかったらどうするを決めてもまあ、すごく有効という訳でもないです、お察しの通り。
基本的にはルールを守る者同士で結束を固めて、ルールを守る方が利益がある世界を構築していくのが(国際)政治の一つです。
そもそもそのようなルールを取り決めるのは、その取り決めが双方にとって利益があるという認識があってのものであり、
メンバー間で折り合いの付く部分でルール化するものです。
# やったもん勝ちにしかならない気がしてならない
ルール破った国に対しては、「あなたはこの時ルール守らなかったですよね」という事実を次の交渉に活用していくしかないでしょうね。
過去の行為に拘ってもあまり利益が無いと判断すれば、一旦それは水に流して新たなルールでやり直すのも止む無しでしょう。
何だかんだ交渉事に誠実なスタンスを保っていればそれなりに評価されいい事もあります。
損して得取れ、昨日の味方は今日の敵(およびその逆)を深い洞察で続ける姿勢が必要でしょうね。
AIだろうが (スコア:0)
クレイモア地雷から引っ張り出されたヒモだろうが、底にうんこついた竹やりが生えてる落とし穴のフタだろうが、そこへ設置した人間の意志が介在してるわけでね。AIが殊更に危険って言う考えはおかしいと思うよ。
見境なしに上を歩いた人間の脚を吹き飛ばす地雷の信管なんかとちがって、将来的には戦場で降伏していない武装した戦闘員だけを選択的に攻撃できる様になりもすればよほど人道的ってもんでしょう。
Re: (スコア:0)
ミサイルも追尾機能やGPS付きであいまいなAIより正確に制御してるわけで、AI規制とはなんぞや?AIの定義は?って話だよね。
Re: (スコア:0)
地雷を仕掛けるのも核兵器を撃つのも、実は独裁者ひとりではできない。建前論としては兵士は上官の言う事に逆らえないけど、現実には命令違反によって核戦争が回避されている。でも、AI兵器は用意してしまえば一人で使える。簡単すぎるのが問題。
最後のボタンだけ人間が押せばいいのかな? (スコア:0)
イージス艦の対空システムとか基本全自動ですよね。
CIWSも。
どう線引きするんだろう。
Re: (スコア:0)
搭載してる半導体の処理能力で線引きするのはどうだろう?無理かなぁ
Re: (スコア:0)
最初のボタンじゃないかな。
「敵がいたら自動攻撃せよ」の開始ボタン。
まぁ、ディストピアSFとかパニックSFだとそれが最後のボタンになるんだが…。
実際問題として、AIが「こいつ敵だよ攻撃するよOK?」って聞いてきた段階で、もうすでに人間側は判断の猶予時間も能力も無くなってるだろうと思う。のんびり確認してたらこっちが死ぬ。
だからある段階で、「AIが敵と見なしたら殲滅する」モードを「オンする」のが未来の軍人の仕事であり、命令を下した=責任を取る人間が居るってことが重要なんだろう。
そもそも、軍隊での上官の行動ってのは部下の兵士に「あそこは全部敵だから殲滅しろ」みたいに指示するのが仕事であり、部下の兵士はよほどの事がなければそれを忠実にこなすのが任務であって、その任務で誤射しても(よほどの事でもないかぎり)兵士は罪に問われない。
AIであっても、似たような軍の指揮系統の下に入るわけで、「開始ボタンを人が押す」のなら意外とたいしたことではないのかもしれない。
※ちゃんと停止ボタン押せることも前提だが。
Re: (スコア:0)
>半自動モード
>目標捜索から脅威度判定、攻撃指令からミサイル攻撃までのステップのうち、攻撃指令のみをオペレーターが行い、
>それ以外は全自動で実行される。
>通常の運用においては、半自動モードが採択されることが多い。
https://ja.wikipedia.org/wiki/ [wikipedia.org]
珍兵器 (スコア:0)
黎明期ならAI珍兵器いっぱいでてくるかな
Re: (スコア:0)
終わりの始まり (スコア:0)
「人が人を殺す」ことついて「AI兵器を利用するなんて人のやることじゃない」というのは理想論であって
「明確な殺意」が「無い」場合「多大な精神的ストレスを与える」とともに「甚大な精神的影響を及ぼす」ことから
「AI兵器を使うべきである」というのが「人の持つべき倫理観」として「正しい帰結」と言える。
では、「殺す対象」を考えた場合、「戦場の兵士」と「戦場をどのように定義するのか」によって答えが変わってくる。
「戦場の兵士」とは、すなわち、「武器を所持している者」なのか「武器を所持していると思われる者」なのか
「戦場」とは、すなわち、「平野」なのか「山岳」なのか「密林」なのか「市街地」なのか
この様に、明確な定義づけをしないと、「善良な民間人(定義による)」をも「殺害する」ことを容認してしまう。
さて、「人殺しが正当化されることなど無い」という某工作員の言葉よりも、
実際に「人を殺すことを楽しむ」ために「傭兵」や「義勇兵」になる日本人が一定数居るので
この様な兵器が使われ始めたら、真っ先に狙われるだろうね。
Re: (スコア:0)
要は大量破壊兵器の一類型と言いたいわけね。
でもそんなF91のバグみたいなもんは作られないんじゃねーの、
…と思いたいんだがロシアとかイスラエルとか見てると楽観できそうにないんだよなぁ。
自爆ドローンという名の徘徊爆弾、あと数年もすれば優秀なAI搭載して人影を見つけて民間人かを見分けて選別して突入するようになるだろう、
場合によってはあえて民間人を目標として。
バグそのものじゃねーか…。
民族浄化して奪った土地建物を効率的に再利用するには、爆弾落とすより個人殺傷兵器なんだよな。
効率化のために無人AIドローンになる時代、そんなに遠くないね。
#民族浄化は洋の東西を問わず20世紀でも21世紀でも宇宙世紀であっても、変わらず起きるんだろうし。
Re: (スコア:0)
AGM-114R9Xなんてバグのご先祖みたいなミサイルが実用化されてますね。
ドローンに同等機能が搭載される日も近いでしょう。
スカイネットとT-800型 (スコア:0)
初のT-800型はボストン・ダイナミクスによって作られるであろう
コマンドは書き換えられ、人間を殺りつくするマシーンと化す
Re:スカイネットとT-800型 (スコア:1)
ターミネーターの頃ってパソコン通信とかの時代でネット社会自体が想像の産物だったからSF的な恐ろしさがあったけど、今となってはネットに繋がってるAIよりもスタンドアローンな奴の方が厄介な気がする。
例えば、JAXAが月に送っている探査機SLIMは月面着陸の際にAIの画像解析で着地点を探す。理由は単純明快で、地球と月は直線距離でも往復で2.6光秒。格闘ゲームでブラジルと通信対戦する話でも出てたけど、光速でも遅すぎるという状況は今後も一杯出てくるはず。そういう時の有力な解決法のひとつがAIってことになるんじゃないかな。遠隔医療だって今は通信回線を安定させる方に力が入れられているけど、コストを突き詰めると、高品質なネットワークを維持するよりも、AIを送り込んで人間が監督に回る方に合理的。つまり、AIが発展すれば、物理的なネットワークはむしろ衰退するかもしれない。実際に、動画サーバーがデータの解像度を落としてクライアントがAIで補完するみたいな話があるんだから。
ネットとAIの組み合わせは強力だけど、その凄みはネットワークに対してAIが補完的であること、言い換えればネットそのものをある程度代替するほどスタンドアローンAIが有能なのが恐ろしい。逆にネットの向こう側にいるAIの効能は頭打ちなんじゃないかな。
Re: (スコア:0)
眠いんだろうか…
なんか(現時点のLLMの中では)賢い(方の)LLMが(賢いんだか、何か幻覚を見ているんだか良く分からない)微妙な事を言い出したのを見ているような気分になった
つか全く論理の繋がりがワカラン…というかワカランというよりは、言葉をつなげているだけの説得力の無い論であるように見える
本当はGPTの出力か何かなんですか?
異世界 (スコア:0)
サバゲー大会の始まりと!
AI 対 AI (スコア:0)
AIが十分優秀だとすると、敵の戦闘能力の劣る人間よりもAIを破壊することに戦力を割くことが最善の戦略になりませんか。戦争の片方だけがAIだと一方的な大量虐殺が行われるリスクがありますが、そうなら人間側が速攻でギブアップですかね。そして、両者AIの戦争になれば結局スポーツと同じになるような。
Re: (スコア:0)
AIより機械的な部分の方が難しい。そこをクリヤーすると量産可能な殺戮兵器が作れる。
歯止めは効かないのでいずれは完成する。
ギブアップは無駄、譲歩することを考えてないだろうからそれ無駄
ルールを作ったところで (スコア:0)
守らせる強制力がなければ意味がないことが現在進行形で示されているわけだが。むしろ敵だけがAI兵器で攻撃し放題の縛りプレイにしかならないじゃん。どうせアメリカは秘密裏に研究するんだろうし中露もそれがわかってるから賛成するわけがない
日本や米国など152カ国の賛成で採択した。 (スコア:0)
米国は兎も角、外交官か首相かどっちの主導でこの案に賛成したか知らんが、対人地雷禁止条約といいクラスター爆弾規制条約といい、彼らには日本国が弱小国という認識があるのか。
Re: (スコア:0)
別に秘密裡じゃなくても、サバゲー用とか適当な名前でペイント弾をバラ撒くAIを作って、戦争時にそれを鉛玉に改修すればいいだけじゃないかな。
Re: (スコア:0)
「だけ」ねぇ...
ダイハツの不正問題も、全車種試験やり直して、既存の車両を改修すればいいだけだよね。
Re: (スコア:0)
そのペイント弾を食らったら死ぬ、位の威力がなければ、鉛玉に変えたってどうにもならん。そしてそれほどの威力があるのなら、サバゲー会場が血の海と化す事になる罠
現在進行系で国際法違反している国が常任理事国やってる組織が (スコア:0)
常任理事国が率先してこんな規制守らないわけで。自分たちは守らないけど他の国は守れと圧力かけるだけでしょうに。
有機か無機か (スコア:0)
有機:ハルトマン式に人格へし折らんと戦場では使い物にならん
無機:AI制御禁止って差別だよねぇ
# インテリジェンスじゃない人工無能ならありじゃね!?(マテ
中国やロシアの物量に対処しなければいけない我が国にこそ必要 (スコア:0)
開発反対なんてとんでもない。こういう兵器こそ、中国やロシアの物量に少数で立ち向かわなきゃいけない日本のような国にこそ必要なもんでしょう。
中国人の数に少子高齢化の日本人では太刀打ちできないんだから、その分をAIで確保するしかない。
なんなら、AI兵器に自己複製能力も持たせればよい。そうすれば中国やロシアを今度は物量作戦で倒すことができる。
…巻き添えでユーラシア大陸全部滅ぼしてしまうかもしれないけど、その時はその時だ。
Re: (スコア:0)
で開発力と資金力でちうごくに負けてちうごくAIに蹂躙される日本
#マジで有りそうだ
てか兵器開発だって録に出来ない(自衛隊だけじゃ儲からないし
というのにどうしろと