アカウント名:
パスワード:
これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。
そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。
つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。
私も「怖い」ですね。
これは人工知能に限った話ではないけれど、「何を考えているか想像すらできないもの」に、「暴走を止める手立てなく」大きなことを任せるのは、怖いって意味で。
うまくいっているなら信頼をして「大きなことを任せる」ようになる。盲目に任せるよう推進する人も多くなる。しかし「何を考えているかわからんもの」が、信頼したあとも「信頼する人にとって都合がよい行動をとりつづけるか?」は未知でしかない。
都合の悪い行動をするようになったとき、それを力押しでも何でも止めることができるか?
人なら、非道と言われても、止める方法がある。生きた人間の限界があるから。
では、「止まっては困るとされ、対策をされたコンピューター」ではどうだろうか?そのとき、その人工頭脳に「人間がどの程度依存しているか」によるけど、依存しまくっていたなら、怖いですね。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
人生unstable -- あるハッカー
普遍的命題 (スコア:2, 興味深い)
これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。
で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。
そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。
たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。
ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。
つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。
Re:普遍的命題 (スコア:2)
私も「怖い」ですね。
これは人工知能に限った話ではないけれど、
「何を考えているか想像すらできないもの」
に、「暴走を止める手立てなく」大きなことを任せるのは、
怖いって意味で。
うまくいっているなら信頼をして「大きなことを任せる」ようになる。
盲目に任せるよう推進する人も多くなる。
しかし「何を考えているかわからんもの」が、
信頼したあとも「信頼する人にとって都合がよい行動をとりつづけるか?」
は未知でしかない。
都合の悪い行動をするようになったとき、
それを力押しでも何でも止めることができるか?
人なら、非道と言われても、止める方法がある。
生きた人間の限界があるから。
では、「止まっては困るとされ、対策をされたコンピューター」
ではどうだろうか?
そのとき、その人工頭脳に「人間がどの程度依存しているか」によるけど、
依存しまくっていたなら、怖いですね。