アカウント名:
パスワード:
AIの危険性は人間の知性を超えてしまう可能性じゃない。AIが学習した内容を人間が把握するのが困難であるという問題だ。AIが起こした事故の原因究明が困難であれば今でもAIは危険と言える。
いつも思うんだけどこれって、
子供が学習した内容を親が把握するのが困難であるという問題だ。子供が起こした事故の原因究明が困難であれば今でも子供は危険と言える。
というのとどう違うのだろう。結局、人間の心の推移もあまり正確には分からなくて起きた事象だけでの事故評価がほとんどなのに、AIと何も差が無いと思うんだけどなぁ。ただ単にAIに対する一定の基礎教育が成っていないことや、学習の方向性を操作してない運用者（親）の責任ってことじゃないのかぁと思ったりするんだけど如何？
子供が危険なのは学習途上だから。じゃあ学習を完成させれば危険じゃなくなるの？もしそうなら、AIもそうすればいいんじゃないの？ということになってしまう。実際には大人も危険だよね。だから警察が必要だったりする。
そして、人間（子供も大人も）が危険なのは、（過失を除けば）本能や欲求を持ってるから。たとえきちんと学習しても、学習した内容を正しく使って、悪意ある行動ができてしまう。
本能や欲求を基礎プログラムとしてAIはインプリできるんじゃないの？
とはいえ、この意見は確かにそうだ。AI も監視は必要になるし、悪意ある行動が発生したらペナルティを与える必要はあるだろうね。
ともあれ、そうなると、人間よりも傑物に育ったAIをどう罰するのかという話になって、シンギュラリティSFな話になっていくよなぁ。
＃無生物に愛を注げる文化を持つ民の一つでもある日本人としてはこれくらいの楽観性でことが済めば万歳だけどね・・・＃
人間に匹敵する、あるいは超えるような知能を持つAIができたとき、それに本能や欲求を組み込むと、たぶんまずいことが起こります。やっちゃいけないと思います。
自由にプログラミングできるんだから、本能や欲求なんて組み込まずに、守らせたいルールだけを組み込んでおけばそれでいいのだと思います。
AIの悪意ある行動に対抗するために「罰」を導入するというのは、あまり良いとは思えません。罰を有効なものにするためには、罰を怖がる本能を前もって組み込んでおく必要があります。でも、それが可能なら、最初からルールを守る「本能」を組み込んでおけばいいだけの話。
その「ルール」を明示できないから困るんだよ。そもそも、解釈の余地のない厳密なルールをどのように与えるのか。。。(言葉は不正確すぎる)「ルール」の実体が人間でしかないなら、人間に「罰」を与えられることを恐れるようにした方がよさげ。
へりくつこいて裏をかこうとしてくる人間相手にして明示的なルールだけで問題なく済ませられるかと考えてみれば解りやすいかな。あるいは司法をルールだけで処理できるかとか。
# ルールその1「人間に怒られるようなことをしてはいけない」
というか、みんな言葉を素朴な意味で使うのでナンセンスな話になるスラド民の手に負えるようなものじゃないよ
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
ハッカーとクラッカーの違い。大してないと思います -- あるアレゲ
わかってないね (スコア:0)
AIの危険性は人間の知性を超えてしまう可能性じゃない。
AIが学習した内容を人間が把握するのが困難であるという問題だ。
AIが起こした事故の原因究明が困難であれば今でもAIは危険と言える。
Re: (スコア:1)
いつも思うんだけどこれって、
子供が学習した内容を親が把握するのが困難であるという問題だ。
子供が起こした事故の原因究明が困難であれば今でも子供は危険と言える。
というのとどう違うのだろう。結局、人間の心の推移もあまり正確には分からなくて
起きた事象だけでの事故評価がほとんどなのに、AIと何も差が無いと思うんだけどなぁ。
ただ単にAIに対する一定の基礎教育が成っていないことや、学習の方向性を操作してない
運用者（親）の責任ってことじゃないのかぁと思ったりするんだけど如何？
Re: (スコア:0)
子供が危険なのは学習途上だから。
じゃあ学習を完成させれば危険じゃなくなるの？もしそうなら、AIもそうすればいいんじゃないの？
ということになってしまう。
実際には大人も危険だよね。だから警察が必要だったりする。
そして、人間（子供も大人も）が危険なのは、（過失を除けば）本能や欲求を持ってるから。
たとえきちんと学習しても、学習した内容を正しく使って、悪意ある行動ができてしまう。
Re: (スコア:1)
本能や欲求を基礎プログラムとしてAIはインプリできるんじゃないの？
とはいえ、この意見は確かにそうだ。AI も監視は必要になるし、悪意ある行動が発生したらペナルティを与える必要はあるだろうね。
ともあれ、そうなると、人間よりも傑物に育ったAIをどう罰するのかという話になって、シンギュラリティSFな話になっていくよなぁ。
＃無生物に愛を注げる文化を持つ民の一つでもある日本人としてはこれくらいの楽観性でことが済めば万歳だけどね・・・
＃
Re: (スコア:0)
人間に匹敵する、あるいは超えるような知能を持つAIができたとき、
それに本能や欲求を組み込むと、たぶんまずいことが起こります。やっちゃいけないと思います。
自由にプログラミングできるんだから、本能や欲求なんて組み込まずに、守らせたいルールだけを
組み込んでおけばそれでいいのだと思います。
AIの悪意ある行動に対抗するために「罰」を導入するというのは、あまり良いとは思えません。
罰を有効なものにするためには、罰を怖がる本能を前もって組み込んでおく必要があります。
でも、それが可能なら、最初からルールを守る「本能」を組み込んでおけばいいだけの話。
Re: (スコア:0)
その「ルール」を明示できないから困るんだよ。そもそも、解釈の余地のない厳密なルールをどのように与えるのか。。。(言葉は不正確すぎる)
「ルール」の実体が人間でしかないなら、人間に「罰」を与えられることを恐れるようにした方がよさげ。
へりくつこいて裏をかこうとしてくる人間相手にして明示的なルールだけで問題なく済ませられるかと考えてみれば解りやすいかな。
あるいは司法をルールだけで処理できるかとか。
# ルールその1「人間に怒られるようなことをしてはいけない」
Re:わかってないね (スコア:0)
というか、みんな言葉を素朴な意味で使うのでナンセンスな話になる
スラド民の手に負えるようなものじゃないよ