イーロン・マスクやホーキング博士、ウォズなどがAI自律型兵器禁止を呼び掛け 96
ストーリー by hylom
著名人がずらり 部門より
著名人がずらり 部門より
あるAnonymous Coward 曰く、
非営利の研究組織Future of Life Institute（FLI）は7月28日、アルゼンチンのブエノスアイレスで開催のIJCAI（人工知能国際会議）2015のオープニングで自律型兵器の開発禁止を呼び掛ける公開書簡を発表した。FLIはSkypeの共同創業者ジャーン・タリン氏やと米マサチューセッツ工科大学のマックス・テグマーク教授らが立ち上げた研究組織。SpaceXのイーロン・マスク氏やスティーブン・ホーキンス博士、人工知能研究で知られるスチュワート・ラッセル教授らが顧問として名を連ねている。
彼らはすべての主要な軍事組織がAI兵器開発を強行した場合、グローバルな軍拡競争が進むことを避けられなくなるとし、さらに、AI兵器は核兵器と比較して開発が容易で低コストな上、監視が困難だ。さらに、コピーも比較的簡単なことから「自律型兵器は未来のカラシニコフ銃になる」とした。発表された書簡には、FLI創業者や顧問に加え、米Appleの共同創業者であるスティーブ・ウォズニアック氏、東京大学の中村佳彦教授など、1000人以上が署名しているとのこと（Future of Life Institute、ITmedia、CNET、Slashdot）。
どう監視するか (スコア:2)
とにかく火薬や核兵器と比べて、材料の入手し易さがケタ違いだということが恐ろしいです。
例えば
「ナイフを持って、視界内に入った生物を無差別に刺殺」
する兵器を作ろうとしたとき、
トイザらスと100円ショップでほぼすべて必要なパーツは揃うと思いますし、
そのプログラミングも素人が簡単に作れるレベルでしょう。
Amazonまで利用されたらもうお手上げです。
Re: (スコア:0)
どっから突っ込めば良いんだ、これ
Re: (スコア:0)
Amazon使われた時点でどうしようもないとでも突っ込めば？
あなたが「どっから突っ込めば良いんだ」と自分で判断できないレベルでないのなら。
思考停止するなよ。ぼけぇ
Re: (スコア:0)
きっと全方向から突っ込んでウェルカム！ってことなんだよ！
Re: (スコア:0)
もうツッコんでどうにかなるレベルじゃない気がする
あんなコメント、創作でも書けない。脳の構造が根本的に違うんだなあと。
天然モノは怖い。
Re: (スコア:0)
なるほど
カルネージハートは軍事技術ということですね(棒
Re:どう監視するか (スコア:1)
あれ、ネットワーク対戦できたっけ？
優秀なロジックはどこかに送られて使われてたりして。
#存在自体がホラー
この場合は、 (スコア:2)
繰り返し使える無人ロボット兵器と使い捨ての高知脳誘導ミサイルの区別をはっきりさせないと、単なるザル法になる可能性が微レ存。
Re: (スコア:0)
知能地雷や知能機雷の類も一種の自律型兵器ですし、AI自律型兵器の定義だけでｇｄｇｄでしょうね。
Re: (スコア:0)
Re:この場合は、 (スコア:5, 興味深い)
「人類より優れたAI」は兵器制御じゃなく、作戦指揮に使われるんじゃないだろうか。
で、実際に戦うのは人間。
#十分優れているなら人間の性能の不均一さとか不安定さとかも考慮した指揮を取ってくれるに違いない。…多分。
Re:この場合は、 (スコア:1)
それってモロに荒巻義雄の要塞シリーズやん。
どうせなら (スコア:1)
「AI自律型兵器禁止を呼び掛け」じゃなくて「兵器禁止を呼び掛け」てくだされ。
今なら日本で叫んでいる人たちも賛同しますし。
#AI自律型兵器が支配している島で、それらを欺いて暮らしている子どもたちがいたってのはGunHeadだっけ。
Re: (スコア:0)
「兵器禁止」なんて呼びかけても意味ないって何度言えば。
「兵器禁止」なんて非現実的で意味が無いってわかっている人は、
核不拡散条約で核の拡散を防ぎ、対人地雷禁止条約で対人地雷を禁止し、
クラスター爆弾禁止条約を取りまとめ、そしてAI兵器開発禁止を提案し、
少しづつだけど確実に軍縮を進めてきたのに、
「わかってない人」は「兵器禁止」を呼びかけるばかりで軍縮に何の貢献もしていない。
現実を理解し確実に軍縮を進める人たちと、理想空想を唱えて結局何の貢献も出来ていない人たち。
どうして差がついたのか…慢心、環境の違い
Re:どうせなら (スコア:1)
「AI自律型兵器禁止」と五十歩百歩くらいの主張＆実現可能性だと思ってたのは慢心でした。
#さすがAC様との差は開く一方
Re:どうせなら (スコア:1)
ありがとうございます、そう受け止めてくれるなら上々。
Re:どうせなら (スコア:1)
定義があっても解釈次第だったり
穴はあるのもいつものことになりそうで
でも、こんな感じで著名な賢人達が声あげてれば少しは抑えられる
と期待しましょう
なんでAIだけ特別視するの？ (スコア:1)
だいたい残虐なことって人間がしてきたことだろ？
カラシニコフ持った4,5人の武装集団で数百人の村人を皆殺しにできるけど
というかアフリカ、シリアではそういう事件が頻発してるんだけど
同じことをAI兵器でやろうと思ったらコスト的に見合わないと思うし
そんな大掛かりなことをしようとしても投入する資材が多いから即足がつく
十分な資金と動機を持つのはイスラエルぐらいだろ？
イスラエルはガザ地区に接近したトルコのボランティアがチャーターしたフェリーを襲撃したことがあるけど
トルコ政府はイスラエルの特殊部隊に射殺された丸腰のボランティアを英雄として国葬にし
国を上げてイスラエルを非難した
当初「警告したのに接近したほうが悪い」と言ってたイスラエルのネタニヤフ首相もアメリカの圧力で最後には謝罪した
AIだろうがなんだろうが残虐行為は徹底的に避難し容認しないことが重要
そういうことをする国や勢力を支援してはいけないし
兵器の共同開発なんて絶対にしてはいけない
支援が平和的だかなんだか知らないけど記者会見で隣に立ってる人物が誰なのかってのが重要だと思うんだけど
Re:なんでAIだけ特別視するの？ (スコア:2)
AI兵器を特別視する理由は、それが進歩して人間から独立して、人間全体を支配する可能性を考えているからだと思います。
Re: (スコア:0)
将来はAI自動兵器工場から量産されるAI自動殺人兵器がAI自動政治家の指示で自動的に人間を虐殺するようになるよ。無料で。
だからそうならいように規制するにはどうしたらいいのかなって話題。
Re: (スコア:0)
まずは人間の製造を禁止だなｗ
規制はいいが禁止はどうよ (スコア:0)
規制はいい。AIが「非人道的行為」をしたら、使用者が国際法に照らして罰を受ければいい。
でも禁止したら、そういう規制もできず、使ったもの勝ちになる。
科学者なら、「こういう使い方をしたら罰せられる」という基準の作成に協力すればいい。
戦争反対に凝り固まって自国だけ武装放棄すれば平和だ何故なら９条がとか、
そんな連中の真似をすることはない。
Re:規制はいいが禁止はどうよ (スコア:1)
まず、「人道的」もしくは「非人道的」とは何か？という事から詰めるべきなんかな。
まあ、静的な定義なんかできるわけがないけど、
それを認識した「人」が「人道的/非人道的」と認めれば（ある程度の合意が得られれば）
それは「人道的/非人道的」と判断されるのだと思う。
#個々の事例は文化的背景の違いでもめるけど、共通点はあると思いたい
##逆に文化の浸透によって共通点がつくられるのか？
###ただの修辞だとするのはちょっとねー
今のところ、人道的である事の参考になるものとして「法」があるので、
かなり特殊な「法人」として考えるべきか
それとも、AIが守るべき、そして裁くための「法」を考えた方がいい？
#でも、人間の法を参考にしようとすると、AIに人権を与える事になるような
#存在自体がホラー
Re: (スコア:0)
医者が命を救うには、まず殺人の実践をしなければできない、みたいな雑な議論は結構です。
現実効果を上げている法律を根拠無く意味が無いと強弁しなきゃその理屈を補強できないならなおさらです。
医者に限っては殺人を認めるべきで、人命第一に凝り固まって殺人を禁止すれば平和だとか言う法律は意味が無い、みたいな？
馬鹿じゃないでしょうか。
Re: (スコア:0)
AI殺人兵器が核兵器以上に安価に量産できて核兵器以上に効果的に人を殺傷できるなら、どこかの誰かはそれを持って運用できるようにしとかないと、テロリスト等がAI殺人兵器を入手したとき対抗できる人がいなくなる。
Re:規制はいいが禁止はどうよ (スコア:1)
なんだか雑な脊髄反射に見えます。
＞AI殺人兵器が核兵器以上に安価に量産できて核兵器以上に効果的に人を殺傷できるなら、どこかの誰かはそれを持って運用できるようにしとかないと、テロリスト等がAI殺人兵器を入手したとき対抗できる人がいなくなる。
「AI殺人兵器」への対抗手段は「AI殺人兵器」自体の破壊ないしは無力化でよくて、「AI殺人兵器」の使用者を殺傷することではないでしょう。
文字通り自動の「AI殺人兵器」なら、使用者の殺傷では「AI殺人兵器」の無力化が出来ない可能性があるし、その場合は別途「AI殺人兵器」の無力化をしなくてはならないのだから、結局後者の手段も必要だし、もし後者の手段があるなら、政府機関等はそれだけを保持していればいいでしょう。
Re:規制はいいが禁止はどうよ (スコア:2)
え？だれもAIの開発を禁止するなんて話してないと思うのですが。
「AI自律兵器」の開発を禁止する話ですよね。
今回、「化学兵器禁止条約」にあたることをやろうって話でしょ。
化学兵器禁止条約では、化学兵器の開発は禁止されていますよ。
それでも化学が発展するなら、「AI自律兵器」の開発を禁止してもAIは発達するんじゃないの？
Re:規制はいいが禁止はどうよ (スコア:2)
＞「AI殺人兵器」を最も有効な対抗手段はおそらく「AI殺人兵器」だろう。
なんで？
EMP爆弾とか、高エネルギーレーザーとかのほうが有効かもよ。
実際、戦車には空爆、ヘリにはRPMとか、同種の兵器が一番効率的ってわけじゃないでしょ。
Re: (スコア:0)
誰もそういう意味で言ってないのに「そういう意味では」などと勝手に付け加えなきゃ議論を維持出来ないんですか。
本当に雑ですね。
Re: (スコア:0)
それを即座に誤読だと言わず「そういう意味では」と付け加えて、藁人形論法（誰も言ってないことを勝手に付け加えてレッテルを貼る詭弁の一種）を試みて失敗した後に言われても説得力無いですよ。
Re: (スコア:0)
議論はどうしたのさ
Re: (スコア:0)
そんなところで部屋に引きこもってネットなんかせずに、自衛隊に入隊して社会に貢献してきてください。
まだ学生だというなら自衛隊入隊に備えて体を鍛えてください。
ネット弁慶で勤まるような簡単な職場ではないです。
対人地雷禁止条約とかクラスター弾禁止条約とかの愚を、二度と繰り返さないで欲しい (スコア:0)
AI＋遠隔操縦兵器なら、部屋に引きこもってネットなんかしているネット弁慶をオペレーターにした民間軍事会社が自衛隊と契約出来ますから。
# 頭お花畑はもう御免
Re: (スコア:0)
対人地雷禁止条約やクラスター弾禁止条約は十分に効力を発揮しており、
またそれら禁止条約が存在しても地雷除去や、クラスター爆弾に対抗する技術は開発され、
使用した国は国際的に非難が来て経済制裁他が発動していますし
テロリストなど国家などの組織で無い場合も、入手経路が建たれ、国際的な包囲網ができる事で使用は減っていますよね。
「愚」ってなんの事ですか。
実際に効力を発揮し、条約が存在しない場合に比べて被害を抑えられているであろう案件に対して、完璧ではない事を理由にして武装を肯定する理由にするなんてのは議論じゃないですよ。たんなる思い込みの開チンに過ぎない。
Re: (スコア:0)
Re: (スコア:0)
禁止条約が発効してから紛争が増えたと言う話は聞かないんだが
一体どこの世界の話をしているのか。
Re: (スコア:0)
Re: (スコア:0)
AIで自律行動できるのに、なぜド素人のネット弁慶なんかオペレータとして雇わなきゃならないんだ？
自衛隊はなぜ自分でAI兵器を運用できるのに民間軍事会社なんかと契約する必要があるんだ？
「そんなところで部屋に引きこもってネットなんかせずに、自衛隊に入隊して社会に貢献してきてください」という#2855712の煽りも幼稚極まりないが、
#2855740の返しも意味不明すぎてまるで議論が成り立っていない
基準は既にあるよ。 (スコア:0)
●第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
●第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
●第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
Re:基準は既にあるよ。 (スコア:1)
ロボット「彼らは人間なので攻撃できません！」
独裁者 「反対派は人間ではない！」
ロボット「了解いたしました！攻撃します！」
ロボット「民間人がいるので攻撃を中止しました！！」
独裁者 「・・・・えぇい！俺以外は人間ではない！」
ロボット「了解いたしました！やっちゃいます！！」
Re: (スコア:0)
ネタのつもりなんだと思いたいが、小説の設定を真に受けてる可能性が排除できない
Re: (スコア:0)
>規制はいい。AIが「非人道的行為」をしたら、使用者が国際法に照らして罰を受ければいい。
>でも禁止したら、そういう規制もできず、使ったもの勝ちになる。
これの意味がよくわからないんだが。そもそも禁止したら「AIが非人道的行為をしたら」ということが起きないはず。もちろん、皆無にはできないが、禁止を破ったら罰則をつけることも可能だろ。
結局、銃と一緒。
日本は禁止してるから、ほぼ銃犯罪は起きない。でも、アメリカでは認められてて、頻繁に悪用され無実の人が殺されてる。
アメリカは規制、日本は禁止。現状どっちが良い状態だと思う？
Re: (スコア:0)
例えば原爆禁止にしただけならコッソリ原爆作った勢力の一人勝ちになっちゃうワケです。
なので互いに原爆作って睨み合いしている。
という事じゃないかな？
Re: (スコア:0)
この「禁止」は、毒ガス兵器や生物兵器の禁止と同様のものです。
防御方法の研究目的に少量作られることもあるでしょうし、秘密裏に研究する国や組織が出てくる可能性はありますが、規制の範囲内だからと大手を振って研究や製造・備蓄されるより、遥かにましです。
アメリカが極秘で研究している毒ガスがどのくらい凄いかわかりませんが、危険な国家やテロリストが用意できるのは、ずいぶん以前から既知の毒ガスや細菌です。
表だって何人もの科学者や複数の国や企業が規制の範囲内で自由に開発を行うのと、開発していることすら全くの
Re: (スコア:0)
誰もそんな話してないけど……
なぜ「すべての国がAI兵器の開発をやめよう」という話題で「自国だけ武装放棄」なんて人たちの話が出てくるのか意味がわからない。
こういう無関係の物を持ちだして結びつけると一気に面倒になるからやめて欲しい。
使ったもの勝ちにならないように規制しようとしているのに、ここも意味がわからないな。
この公開書簡の意図は、「AIが非人道的行為をしかねないから禁止し
今頃こんなこと言うなよ (スコア:0)
どうせなら70年前のVT信管から禁止にしといて欲しい。
日本から見ると、あれはチート以外の何者でもない。
Re: (スコア:0)
禁止していい物か？ (スコア:0)
兵士だけを殺す兵器や、機械だけを壊す兵器
AI無しに作れるのだろうか？
Re: (スコア:0)
そんな器用な兵器はAIあっても作れないよ
逆転の発想！AI自律・遠隔平気同士以外禁止！ (スコア:0)
いっそのこと逆転の発想で、AIや遠隔自律兵器通しでないと戦争は禁止したらいいんじゃね？
そんで安全なフィールドで戦って勝った方は負けた方に従う！
どうよ！
#そして宇宙戦艦ヤマモトヨーコの世界へ