アカウント名:
パスワード:
AIが人間を殺そうとする意志を自発的に持つことはたぶんない。でも、人間を殺すようにAIを仕込む人間はたぶん出てくる。
技術は誰にでも分け隔てなく、テロリストにも恩恵を与えるわけで、そういう連中がAIを使った自動運転兵器を開発して運用することは当然予想される。
そういう事態を想定してやるべきは、たぶん開発の制限や規制ではない。下手に規制してもアングラな連中はそんなの気にしないし、むしろ対抗するための技術開発が制限されて事態を悪化させることになる。たぶん、ザッカーバーグ氏の意見が正しいと思う。
認識・判断と実行を分けて作ってる、あるいは連動するケースを制限してるうちはそうだろうね。「人類は滅ぶべき」て判断になっても実行に移せなければいいわけで。
ただまあ規制しても無駄なのはわかるがリミッターがほしいという気持ちもわかる。PONANZAが敗着を認識して電王手さんが対戦相手を殴り倒すことにならないのは関係者が将棋の枠からはみ出ないように作成・運用しているだけだからね。もし将棋ボクシング用に作られてたらいきなり殴ってくるかもという恐怖は感じると思うよ。多分。おそらく。もしかしたら。
必要なのは適切な要件設定(を行える頭の良い"AIの顧客")と、AIが導き出した回答or指針を現実に適用する際のフェールセーフシステムですかね。
「人類存続」を命題にしたらごく一部の個体のみを保存し他を滅ぼし、「自然回復」を命題にしたら人類を滅ぼし、「人という種の存続」を命題にしたら遺伝子異常を片っ端からBEAMするAIに対し、「なんか人類がいい感じに存続したり発展していけるよううまくやる」ことをどれだけ誤解なく命令できるか、だもんな。
「カメラを持ってこい」と言ってれえざあ光線で被写体を破壊する奴にはプロレス技をかけて阻止する以外の手段はないのだが。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
アレゲは一日にしてならず -- アレゲ研究家
滅ぼすのは人間 (スコア:2)
AIが人間を殺そうとする意志を自発的に持つことはたぶんない。
でも、人間を殺すようにAIを仕込む人間はたぶん出てくる。
技術は誰にでも分け隔てなく、テロリストにも恩恵を与えるわけで、そういう連中がAIを使った自動運転兵器を開発して運用することは当然予想される。
そういう事態を想定してやるべきは、たぶん開発の制限や規制ではない。下手に規制してもアングラな連中はそんなの気にしないし、むしろ対抗するための技術開発が制限されて事態を悪化させることになる。
たぶん、ザッカーバーグ氏の意見が正しいと思う。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
認識・判断と実行を分けて作ってる、あるいは連動するケースを制限してるうちはそうだろうね。
「人類は滅ぶべき」て判断になっても実行に移せなければいいわけで。
ただまあ規制しても無駄なのはわかるがリミッターがほしいという気持ちもわかる。
PONANZAが敗着を認識して電王手さんが対戦相手を殴り倒すことにならないのは
関係者が将棋の枠からはみ出ないように作成・運用しているだけだからね。
もし将棋ボクシング用に作られてたらいきなり殴ってくるかもという恐怖は感じると思うよ。多分。おそらく。もしかしたら。
Re:滅ぼすのは人間 (スコア:0)
必要なのは適切な要件設定(を行える頭の良い"AIの顧客")と、AIが導き出した回答or指針を現実に適用する際のフェールセーフシステムですかね。
「人類存続」を命題にしたらごく一部の個体のみを保存し他を滅ぼし、
「自然回復」を命題にしたら人類を滅ぼし、
「人という種の存続」を命題にしたら遺伝子異常を片っ端からBEAMするAIに対し、
「なんか人類がいい感じに存続したり発展していけるよううまくやる」ことをどれだけ誤解なく命令できるか、だもんな。
「カメラを持ってこい」と言ってれえざあ光線で被写体を破壊する奴にはプロレス技をかけて阻止する以外の手段はないのだが。