アカウント名:
パスワード:
AIの危険性は人間の知性を超えてしまう可能性じゃない。AIが学習した内容を人間が把握するのが困難であるという問題だ。AIが起こした事故の原因究明が困難であれば今でもAIは危険と言える。
いつも思うんだけどこれって、
子供が学習した内容を親が把握するのが困難であるという問題だ。子供が起こした事故の原因究明が困難であれば今でも子供は危険と言える。
というのとどう違うのだろう。結局、人間の心の推移もあまり正確には分からなくて起きた事象だけでの事故評価がほとんどなのに、AIと何も差が無いと思うんだけどなぁ。ただ単にAIに対する一定の基礎教育が成っていないことや、学習の方向性を操作してない運用者（親）の責任ってことじゃないのかぁと思ったりするんだけど如何？
子供が危険なのは学習途上だから。じゃあ学習を完成させれば危険じゃなくなるの？もしそうなら、AIもそうすればいいんじゃないの？ということになってしまう。実際には大人も危険だよね。だから警察が必要だったりする。
そして、人間（子供も大人も）が危険なのは、（過失を除けば）本能や欲求を持ってるから。たとえきちんと学習しても、学習した内容を正しく使って、悪意ある行動ができてしまう。
本能や欲求を基礎プログラムとしてAIはインプリできるんじゃないの？
とはいえ、この意見は確かにそうだ。AI も監視は必要になるし、悪意ある行動が発生したらペナルティを与える必要はあるだろうね。
ともあれ、そうなると、人間よりも傑物に育ったAIをどう罰するのかという話になって、シンギュラリティSFな話になっていくよなぁ。
＃無生物に愛を注げる文化を持つ民の一つでもある日本人としてはこれくらいの楽観性でことが済めば万歳だけどね・・・＃
人間に匹敵する、あるいは超えるような知能を持つAIができたとき、それに本能や欲求を組み込むと、たぶんまずいことが起こります。やっちゃいけないと思います。
自由にプログラミングできるんだから、本能や欲求なんて組み込まずに、守らせたいルールだけを組み込んでおけばそれでいいのだと思います。
AIの悪意ある行動に対抗するために「罰」を導入するというのは、あまり良いとは思えません。罰を有効なものにするためには、罰を怖がる本能を前もって組み込んでおく必要があります。でも、それが可能なら、最初からルールを守る「本能」を組み込んでおけばいいだけの話。
マップスって漫画に、敵勢力の人間(ここでは宇宙人ですが)を効率的に殺すために、ロボットに人間を殺す快感を与えるって話が出てきます。最優先の命令にでもするんでしょうね。結果、その宇宙人たちは滅亡寸前まで追い詰められるんですが。地球人も同じことをやりそうな雰囲気濃厚ですよね。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
目玉の数さえ十分あれば、どんなバグも深刻ではない -- Eric Raymond
わかってないね (スコア:0)
AIの危険性は人間の知性を超えてしまう可能性じゃない。
AIが学習した内容を人間が把握するのが困難であるという問題だ。
AIが起こした事故の原因究明が困難であれば今でもAIは危険と言える。
Re: (スコア:1)
いつも思うんだけどこれって、
子供が学習した内容を親が把握するのが困難であるという問題だ。
子供が起こした事故の原因究明が困難であれば今でも子供は危険と言える。
というのとどう違うのだろう。結局、人間の心の推移もあまり正確には分からなくて
起きた事象だけでの事故評価がほとんどなのに、AIと何も差が無いと思うんだけどなぁ。
ただ単にAIに対する一定の基礎教育が成っていないことや、学習の方向性を操作してない
運用者（親）の責任ってことじゃないのかぁと思ったりするんだけど如何？
Re: (スコア:0)
子供が危険なのは学習途上だから。
じゃあ学習を完成させれば危険じゃなくなるの？もしそうなら、AIもそうすればいいんじゃないの？
ということになってしまう。
実際には大人も危険だよね。だから警察が必要だったりする。
そして、人間（子供も大人も）が危険なのは、（過失を除けば）本能や欲求を持ってるから。
たとえきちんと学習しても、学習した内容を正しく使って、悪意ある行動ができてしまう。
Re: (スコア:1)
本能や欲求を基礎プログラムとしてAIはインプリできるんじゃないの？
とはいえ、この意見は確かにそうだ。AI も監視は必要になるし、悪意ある行動が発生したらペナルティを与える必要はあるだろうね。
ともあれ、そうなると、人間よりも傑物に育ったAIをどう罰するのかという話になって、シンギュラリティSFな話になっていくよなぁ。
＃無生物に愛を注げる文化を持つ民の一つでもある日本人としてはこれくらいの楽観性でことが済めば万歳だけどね・・・
＃
Re: (スコア:0)
人間に匹敵する、あるいは超えるような知能を持つAIができたとき、
それに本能や欲求を組み込むと、たぶんまずいことが起こります。やっちゃいけないと思います。
自由にプログラミングできるんだから、本能や欲求なんて組み込まずに、守らせたいルールだけを
組み込んでおけばそれでいいのだと思います。
AIの悪意ある行動に対抗するために「罰」を導入するというのは、あまり良いとは思えません。
罰を有効なものにするためには、罰を怖がる本能を前もって組み込んでおく必要があります。
でも、それが可能なら、最初からルールを守る「本能」を組み込んでおけばいいだけの話。
Re:わかってないね (スコア:0)
マップスって漫画に、敵勢力の人間(ここでは宇宙人ですが)を効率的に殺すために、
ロボットに人間を殺す快感を与えるって話が出てきます。最優先の命令にでもするんでしょうね。
結果、その宇宙人たちは滅亡寸前まで追い詰められるんですが。
地球人も同じことをやりそうな雰囲気濃厚ですよね。