アカウント名:
パスワード:
これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。
そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。
つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。
>人工知能は生命ではない何をもって生命と定義づけるつもりでしょうか?
>根本的に生命のもつ基本的な行動原理を持たない具体的にはどのような行動原理でしょうか?
生命は定義できない要素(後述する行動原理)を含んでいる人工知能はその存在の全てが定義されているよって人工知能は生命ではない
根本的に生命の持つ基本的な行動原理とは、その生命自身にのみ内在する行動原理であり、他のいかなる存在によっても模倣することができない。
一方、人工知能の行動原理は、人工知能と独立して定義できねばならない。そうでなくては人が人工知能を作成することができない。
したがって、人工知能には生命が持つような、その生命自身に固有の行動原理を持てないのである。
…なんてのはいかがでしょう?
データベースと推論によって解答を出力する現代的・実用的な人工知能ならばそのとおりです。ですが十分複雑なパラメータ空間を使って機械学習を行う場合であれば、「生存すること」以上に具体的な目的設定は必ずしも必要ではありません。とりあえずは生理的欲求に相当する何らかの基準(仮想空間内での生存でも設問解答能力でも良い)で学習させ、ある程度育ったら余ってるパラメータを脳内麻薬代わりってことで追加的な報酬として採用すればよいかと思います。追加的な報酬がどう変化してゆくかは開発者の関知するところではありませんので好き放題妙な行動原理が生まれるでしょう。
機械学習手段に遺伝的アルゴリズムを採用して仮想空間内で育てたら単なる生物進化シミュレータになっちゃいますけど。
#演算コストが高すぎて現実的じゃない?しらんがな
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
普遍的命題 (スコア:2, 興味深い)
これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。
で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。
そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。
たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。
ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。
つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。
Re: (スコア:0)
>人工知能は生命ではない
何をもって生命と定義づけるつもりでしょうか?
>根本的に生命のもつ基本的な行動原理を持たない
具体的にはどのような行動原理でしょうか?
Re:普遍的命題 (スコア:0)
生命は定義できない要素(後述する行動原理)を含んでいる
人工知能はその存在の全てが定義されている
よって人工知能は生命ではない
根本的に生命の持つ基本的な行動原理とは、その生命自身にのみ内在する行動原理であり、
他のいかなる存在によっても模倣することができない。
一方、人工知能の行動原理は、人工知能と独立して定義できねばならない。
そうでなくては人が人工知能を作成することができない。
したがって、人工知能には生命が持つような、その生命自身に固有の行動原理を持てないのである。
…なんてのはいかがでしょう?
Re: (スコア:0)
データベースと推論によって解答を出力する現代的・実用的な人工知能ならばそのとおりです。
ですが十分複雑なパラメータ空間を使って機械学習を行う場合であれば、
「生存すること」以上に具体的な目的設定は必ずしも必要ではありません。
とりあえずは生理的欲求に相当する何らかの基準(仮想空間内での生存でも設問解答能力でも良い)で学習させ、
ある程度育ったら余ってるパラメータを脳内麻薬代わりってことで追加的な報酬として採用すればよいかと思います。
追加的な報酬がどう変化してゆくかは開発者の関知するところではありませんので好き放題妙な行動原理が生まれるでしょう。
機械学習手段に遺伝的アルゴリズムを採用して仮想空間内で育てたら単なる生物進化シミュレータになっちゃいますけど。
#演算コストが高すぎて現実的じゃない?しらんがな