アカウント名:
パスワード:
AIが人間を殺そうとする意志を自発的に持つことはたぶんない。でも、人間を殺すようにAIを仕込む人間はたぶん出てくる。
技術は誰にでも分け隔てなく、テロリストにも恩恵を与えるわけで、そういう連中がAIを使った自動運転兵器を開発して運用することは当然予想される。
そういう事態を想定してやるべきは、たぶん開発の制限や規制ではない。下手に規制してもアングラな連中はそんなの気にしないし、むしろ対抗するための技術開発が制限されて事態を悪化させることになる。たぶん、ザッカーバーグ氏の意見が正しいと思う。
＞AIが人間を殺そうとする意志を自発的に持つことはたぶんない。マジレスすると、まずは「未来の二つの顔」を読もうな。その議論は既に周回遅れ。
共産主義を嫌うあまりに共産主義を発明する人だからなあ、どこのトラックを走ってんだか
マービン・ミンスキー博士が？
寝言は寝てから言えと
それを言ったらイーロンマスクとザッカーバーグの議論の内容なんか語り尽くされたネタで今更感満載だな。こいつらが金持ちの有名人だからニュースになるだけで。
そうそうギークとかナード自覚あるけど所詮は一般人な/.Jerがスラドで語っててもな〜暇つぶしにしかなんねーwww
認識・判断と実行を分けて作ってる、あるいは連動するケースを制限してるうちはそうだろうね。「人類は滅ぶべき」て判断になっても実行に移せなければいいわけで。
ただまあ規制しても無駄なのはわかるがリミッターがほしいという気持ちもわかる。PONANZAが敗着を認識して電王手さんが対戦相手を殴り倒すことにならないのは関係者が将棋の枠からはみ出ないように作成・運用しているだけだからね。もし将棋ボクシング用に作られてたらいきなり殴ってくるかもという恐怖は感じると思うよ。多分。おそらく。もしかしたら。
必要なのは適切な要件設定（を行える頭の良い"AIの顧客"）と、AIが導き出した回答or指針を現実に適用する際のフェールセーフシステムですかね。
「人類存続」を命題にしたらごく一部の個体のみを保存し他を滅ぼし、「自然回復」を命題にしたら人類を滅ぼし、「人という種の存続」を命題にしたら遺伝子異常を片っ端からBEAMするAIに対し、「なんか人類がいい感じに存続したり発展していけるよううまくやる」ことをどれだけ誤解なく命令できるか、だもんな。
「カメラを持ってこい」と言ってれえざあ光線で被写体を破壊する奴にはプロレス技をかけて阻止する以外の手段はないのだが。
ドローンが戦場で自動的に敵の兵士を認識して自律的に攻撃するなんてのは密かに運用されてても不思議ではない
無差別なセンサー反応式地雷がよくて、センサーで敵兵と民間人を(完璧ではないとはいえ)識別して作動する自動兵器が何故NGなのか本気で理解できない。
地雷が良いと聞いたことがないのだが、どこから来たの？
そりゃ民間人を殺しまくる自動兵器が新たに誕生しそうだ、となれば問題視されるだろうし
無差別な地雷は「戦闘後に仕掛けた側が撤去するはず、場所とかの記録もしっかり残っているはず」という事が前提である兵器だからだろう。本来は。
でも記録とかグダグダになっちゃうから、ヨーロッパの連中はNGにしようと言ってるとか、人海戦術で押された経験が豊富で戦争ばかりやってる米軍は使い続けると言ってる訳で
そこで区別しない自動兵器はどうだろう。https://en.wikipedia.org/wiki/Sentry_gun [wikipedia.org]
人類同士が絶滅戦争起こす確率のほうが高い気がしないでもない。
AIが人類を脅かすのなら、AIをフルに活用した社会なんてものは、核兵器によって平和が保たれている社会と変わらず、いつかはAIに人類は負けるでしょうな。
とすれば宇宙人もAIということになりそうですねえ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson
滅ぼすのは人間 (スコア:2)
AIが人間を殺そうとする意志を自発的に持つことはたぶんない。
でも、人間を殺すようにAIを仕込む人間はたぶん出てくる。
技術は誰にでも分け隔てなく、テロリストにも恩恵を与えるわけで、そういう連中がAIを使った自動運転兵器を開発して運用することは当然予想される。
そういう事態を想定してやるべきは、たぶん開発の制限や規制ではない。下手に規制してもアングラな連中はそんなの気にしないし、むしろ対抗するための技術開発が制限されて事態を悪化させることになる。
たぶん、ザッカーバーグ氏の意見が正しいと思う。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:滅ぼすのは人間 (スコア:1)
＞AIが人間を殺そうとする意志を自発的に持つことはたぶんない。
マジレスすると、まずは「未来の二つの顔」を読もうな。その議論は既に周回遅れ。
Re: (スコア:0)
共産主義を嫌うあまりに共産主義を発明する人だからなあ、どこのトラックを走ってんだか
Re: (スコア:0)
マービン・ミンスキー博士が？
寝言は寝てから言えと
Re: (スコア:0)
それを言ったらイーロンマスクとザッカーバーグの議論の内容なんか語り尽くされたネタで今更感満載だな。
こいつらが金持ちの有名人だからニュースになるだけで。
Re: (スコア:0)
そうそうギークとかナード自覚あるけど所詮は一般人な/.Jerがスラドで語っててもな〜
暇つぶしにしかなんねーwww
Re: (スコア:0)
認識・判断と実行を分けて作ってる、あるいは連動するケースを制限してるうちはそうだろうね。
「人類は滅ぶべき」て判断になっても実行に移せなければいいわけで。
ただまあ規制しても無駄なのはわかるがリミッターがほしいという気持ちもわかる。
PONANZAが敗着を認識して電王手さんが対戦相手を殴り倒すことにならないのは
関係者が将棋の枠からはみ出ないように作成・運用しているだけだからね。
もし将棋ボクシング用に作られてたらいきなり殴ってくるかもという恐怖は感じると思うよ。多分。おそらく。もしかしたら。
Re: (スコア:0)
必要なのは適切な要件設定（を行える頭の良い"AIの顧客"）と、AIが導き出した回答or指針を現実に適用する際のフェールセーフシステムですかね。
「人類存続」を命題にしたらごく一部の個体のみを保存し他を滅ぼし、
「自然回復」を命題にしたら人類を滅ぼし、
「人という種の存続」を命題にしたら遺伝子異常を片っ端からBEAMするAIに対し、
「なんか人類がいい感じに存続したり発展していけるよううまくやる」ことをどれだけ誤解なく命令できるか、だもんな。
「カメラを持ってこい」と言ってれえざあ光線で被写体を破壊する奴にはプロレス技をかけて阻止する以外の手段はないのだが。
Re: (スコア:0)
ドローンが戦場で自動的に敵の兵士を認識して自律的に攻撃するなんてのは密かに運用されてても不思議ではない
Re: (スコア:0)
無差別なセンサー反応式地雷がよくて、センサーで敵兵と民間人を(完璧ではないとはいえ)識別して作動する自動兵器が何故NGなのか本気で理解できない。
Re: (スコア:0)
インテリジェント地雷は先進国でしか作ってない
Re: (スコア:0)
地雷が良いと聞いたことがないのだが、どこから来たの？
Re: (スコア:0)
そりゃ
民間人を殺しまくる自動兵器が新たに誕生しそうだ、となれば問題視されるだろうし
無差別な地雷は「戦闘後に仕掛けた側が撤去するはず、場所とかの記録もしっかり残っているはず」
という事が前提である兵器だからだろう。本来は。
でも記録とかグダグダになっちゃうから、ヨーロッパの連中はNGにしようと言ってるとか、
人海戦術で押された経験が豊富で戦争ばかりやってる米軍は使い続けると言ってる
訳で
そこで区別しない自動兵器はどうだろう。
https://en.wikipedia.org/wiki/Sentry_gun [wikipedia.org]
Re: (スコア:0)
人類同士が絶滅戦争起こす確率のほうが高い気がしないでもない。
Re: (スコア:0)
AIが人類を脅かすのなら、AIをフルに活用した社会なんてものは、核兵器によって平和が保たれている社会と変わらず、いつかはAIに人類は負けるでしょうな。
とすれば宇宙人もAIということになりそうですねえ。