アカウント名:
パスワード:
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
そうだよね。人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。
物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね(スピードの差を危惧しているのかもしれないが)。心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。
(核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい)
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
※ただしPHPを除く -- あるAdmin
カール・フェルナンデス氏ってだれやねん。 (スコア:3, すばらしい洞察)
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。
問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。
ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。
AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、
それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。
アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、
「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:1)
そうだよね。
人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。
目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。
目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。
物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね(スピードの差を危惧しているのかもしれないが)。
心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。
(核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい)