アカウント名:
パスワード:
入出力を限定されてるなら、そんなに危険視するほどの問題ではない気もするけど。
入出力を限定されてる高度な人工知能が「死にたい」って言い出したなら、色んな意味で議論が必要だと思う。
下に書かれてるけど、株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで、全体で市場が、ひいては世界が大混乱することもあります。
高度な人工知能がこういう現象を起こさないとはいえない。判断が最適化されるゆえに、同じ方向にスタンピードするわけです。
>株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで高度な人工知能（実際は人間でいう大混乱を理解できない程度）だからとまかせっきりして、人間が想定してないだけでプログラム通りに動いただけなのだから、それは「超知能に対する懸念」とは違うんじゃないんですか？
それは、その「株の売買しかしない人工知能」の知能が足りていなかっただけの問題でしょう。同じ人工知能をみんなが使い始めたら何が起こるかを予期する知能がなかったのですから。
ほんとうに高度な人工知能なら、そういったことも予測すべきです。もっと言えば、そのためのプログラミングをされていなくても自らそういった予測の必要性を見つけ出すべきです。さらにもっと言えば、自分自身よりもさらに高度な人工知能が開発されたらどうなるかも予測すべきです。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
ジョニーは戦場へ行った (スコア:0)
入出力を限定されてるなら、そんなに危険視するほどの問題ではない気もするけど。
入出力を限定されてる高度な人工知能が「死にたい」って言い出したなら、
色んな意味で議論が必要だと思う。
Re: (スコア:0)
下に書かれてるけど、
株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで、
全体で市場が、ひいては世界が大混乱することもあります。
高度な人工知能がこういう現象を起こさないとはいえない。
判断が最適化されるゆえに、同じ方向にスタンピードするわけです。
Re: (スコア:0)
>株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで
高度な人工知能（実際は人間でいう大混乱を理解できない程度）だからとまかせっきりして、
人間が想定してないだけでプログラム通りに動いただけなのだから、
それは「超知能に対する懸念」とは違うんじゃないんですか？
Re: (スコア:0)
それは、その「株の売買しかしない人工知能」の知能が足りていなかっただけの問題でしょう。
同じ人工知能をみんなが使い始めたら何が起こるかを予期する知能がなかったのですから。
ほんとうに高度な人工知能なら、そういったことも予測すべきです。
もっと言えば、そのためのプログラミングをされていなくても自らそういった予測の必要性を見つけ出すべきです。
さらにもっと言えば、自分自身よりもさらに高度な人工知能が開発されたらどうなるかも予測すべきです。