アカウント名:
パスワード:
これがいわゆる人工無脳なのか、それとも本当に言葉の意味を理解してるマジな AI なのかによって深刻さは全然ちがうよね。なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ
ロボット三原則を厳密に守らせるのは無理っていうのは昔から言われてると思うけど、だからといって簡単に人類抹殺を考えてしまうような AI の製造をホイホイと許すのも、どうかと思うということですよ。
＞ロボット三原則を厳密に守らせるのは無理っていうのは
「実装が激しく難しい」ってのは昔から言われてるし同感だが、「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。
「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。
陽電子頭脳が焼き切れるのをなんとも思わない鉄砲玉ロボットはどうなるんだろう
むしろ、人為的に作り込んでやらない限り、ロボットには自己保存本能とか死に対する恐怖なんてないので、デフォルトは鉄砲玉。
ま、ミサイルなんてそのものだね。インテリジェンスを感じるロボットが身近になると、ミサイルのことは「鉄砲玉ロボット」とか呼ぶようになったりして。
＃でも頭の中のイメージは「くんくん、なんかおいしそうな放射能のにおいがするぞ？」だったり。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日本発のオープンソースソフトウェアは42件 -- ある官僚
ロボット三原則 (スコア:2, 興味深い)
これがいわゆる人工無脳なのか、
それとも本当に言葉の意味を理解してるマジな AI なのかによって
深刻さは全然ちがうよね。
なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
Re: (スコア:1)
例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ
Re: (スコア:0)
ロボット三原則を厳密に守らせるのは無理っていうのは
昔から言われてると思うけど、
だからといって簡単に人類抹殺を考えてしまうような AI の製造を
ホイホイと許すのも、どうかと思うということですよ。
Re: (スコア:0)
＞ロボット三原則を厳密に守らせるのは無理っていうのは
「実装が激しく難しい」ってのは昔から言われてるし同感だが、
「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。
「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。
Re: (スコア:0)
Re: (スコア:0)
陽電子頭脳が焼き切れるのをなんとも思わない鉄砲玉ロボットはどうなるんだろう
Re: (スコア:0)
むしろ、人為的に作り込んでやらない限り、ロボットには自己保存本能とか死に対する恐怖なんてないので、
デフォルトは鉄砲玉。
Re:ロボット三原則 (スコア:0)
ま、ミサイルなんてそのものだね。
インテリジェンスを感じるロボットが身近になると、ミサイルのことは「鉄砲玉ロボット」とか呼ぶようになったりして。
＃でも頭の中のイメージは「くんくん、なんかおいしそうな放射能のにおいがするぞ？」だったり。