アカウント名:
パスワード:
ロボット工学三原則のように人類を絶対的に優先するようにしておかないと人類に対して害になる可能性があると思います。なぜなら、人類が絶対に正しいとは言えないから。人類以外の何物かにとっては人類は味方ではなく敵でしょう。
つうか、アシモフさんのお話は、そういう人類優先の規則を作ったところで絶対に齟齬が生じるぜってことだと思うのですが。
# 足がもふもふしてる存在が近くにいたら人類がどうとかいう話じゃないよね
つうか、アシモフさんのお話は、そういう人類優先の規則を前提とした世界が、ロボットの"犯罪"(厳密に言うと違うけど)をミステリの題材として成立させるためのネタになっているわけで。
AIに意識が生じるとしたら、そういったプログラムのひとつ上のレイヤーだと思うのでなんとも・・・#人の作ったプログラムの類は人間で言えばシナプスの動きとか生化学反応に当たるんじゃないかな。#そういう意味では無意識のうちに(免疫反応みたいに)人類を滅ぼすというのはなさそうだけど
人類が絶対に正しいとは言えないのに、人類が作った規則には従うの?そりゃ無理だろ。
これだと思う。理屈を超越して人類を最優先するようにブレーキを仕込んでおかないと危険。
意識かどうとか感情がどうとかで敵対するよりはるか手前で、単に理屈上無駄なものとして省きにかかられる。
AIは人類の友となるようプログラムされるさ。AIが人類の手を離れたとしても、ちょっと真面目で働き者だが頭が固い民族が増えた程度の認識でよい。
そして人類とはそんな人に敵対するものだよ。俺らは一生懸命働くのに奴らを優遇するな!とね。だからAIは人類の敵である。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
192.168.0.1は、私が使っている IPアドレスですので勝手に使わないでください --- ある通りすがり
人類の敵となる場合がある (スコア:0)
ロボット工学三原則のように人類を絶対的に優先するようにしておかないと人類に対して害になる可能性があると思います。
なぜなら、人類が絶対に正しいとは言えないから。
人類以外の何物かにとっては人類は味方ではなく敵でしょう。
Re:人類の敵となる場合がある (スコア:1)
つうか、アシモフさんのお話は、そういう人類優先の規則を作ったところで絶対に齟齬が生じるぜってことだと思うのですが。
# 足がもふもふしてる存在が近くにいたら人類がどうとかいう話じゃないよね
Re: (スコア:0)
つうか、アシモフさんのお話は、そういう人類優先の規則を前提とした世界が、ロボットの"犯罪"(厳密に言うと違うけど)をミステリの題材として成立させるためのネタになっているわけで。
Re: (スコア:0)
AIに意識が生じるとしたら、そういったプログラムのひとつ上のレイヤーだと思うのでなんとも・・・
#人の作ったプログラムの類は人間で言えばシナプスの動きとか生化学反応に当たるんじゃないかな。
#そういう意味では無意識のうちに(免疫反応みたいに)人類を滅ぼすというのはなさそうだけど
Re: (スコア:0)
人類が絶対に正しいとは言えないのに、人類が作った規則には従うの?そりゃ無理だろ。
Re: (スコア:0)
これだと思う。
理屈を超越して人類を最優先するようにブレーキを仕込んでおかないと危険。
意識かどうとか感情がどうとかで敵対するよりはるか手前で、単に理屈上無駄なものとして省きにかかられる。
Re: (スコア:0)
AIは人類の友となるようプログラムされるさ。
AIが人類の手を離れたとしても、ちょっと真面目で働き者だが頭が固い民族が増えた程度の認識でよい。
そして人類とはそんな人に敵対するものだよ。俺らは一生懸命働くのに奴らを優遇するな!とね。
だからAIは人類の敵である。