アカウント名:
パスワード:
これがいわゆる人工無脳なのか、それとも本当に言葉の意味を理解してるマジな AI なのかによって深刻さは全然ちがうよね。なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ
ロボット三原則を厳密に守らせるのは無理っていうのは昔から言われてると思うけど、だからといって簡単に人類抹殺を考えてしまうような AI の製造をホイホイと許すのも、どうかと思うということですよ。
>ロボット三原則を厳密に守らせるのは無理っていうのは
「実装が激しく難しい」ってのは昔から言われてるし同感だが、「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。
「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。
ロボットにとっての自発的という言葉を定義しないとな人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?
人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?
実際、そういうこともあり得るからね。というかロボット三原則って厳密にすることにより生じる不利益とか、矛盾を回避できないジレンマとか葛藤とか、そういうお話が多いんじゃないっけ?
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
ロボット三原則 (スコア:2, 興味深い)
これがいわゆる人工無脳なのか、
それとも本当に言葉の意味を理解してるマジな AI なのかによって
深刻さは全然ちがうよね。
なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
Re: (スコア:1)
例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ
Re: (スコア:0)
ロボット三原則を厳密に守らせるのは無理っていうのは
昔から言われてると思うけど、
だからといって簡単に人類抹殺を考えてしまうような AI の製造を
ホイホイと許すのも、どうかと思うということですよ。
Re: (スコア:0)
>ロボット三原則を厳密に守らせるのは無理っていうのは
「実装が激しく難しい」ってのは昔から言われてるし同感だが、
「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。
「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。
Re: (スコア:0)
ロボットにとっての自発的という言葉を定義しないとな
人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?
Re:ロボット三原則 (スコア:0)
人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?
実際、そういうこともあり得るからね。
というかロボット三原則って厳密にすることにより生じる不利益とか、矛盾を回避できないジレンマとか葛藤とか、そういうお話が多いんじゃないっけ?