アカウント名:
パスワード:
× 三原則をロボットに守らせることは困難である○ 三原則をロボットに守らせることは"このロボットの作成者にとって"困難である
では>シミュレーションの結果では複数の人間を守る際にどちらかしか助けられないケースなどで判断に迷い、結局どちらも助けられない上記はトロッコ問題 [wikipedia.org]とか冷たい方程式 [wikipedia.org]とかのことだと思いますが、誰もが納得できる答えをあなたは出すことができますか?
それができない限りは、>結局どちらも助けられない誰が作ってもこういう結果になるということになるのではないでしょうか。
映画の方のアイ,ロボットの例なので、ちょっとずれるかもしれないが、ロボットが水に落ちた車から生存率の高い男性を救助するために少女をあっさり見捨てたよね。あのような判断をする方がしっくりきて、迷って答えを出さない方が違和感がある。#あくまでもロボットのようなものに与える判断基準について。
私も映画版のそれ思い出しました三原則でいえば、生存率の高いほうを助けるのが筋なんじゃないかなあ
三原則に痂疲があるのではなく、生存性の判断アルゴリズムが仕上がってないという話のような
原作的にも概ね同じなんだけど、原作のロボットたちは激しく高性能なので、あのくらいだったら両方とも簡単に助けちゃいそう。ただし助けられないと論理的に納得した場合は、ジタバタ無駄な抵抗をしたりはせず、そこでアッサリ諦めます。
この例だと、たとえば男性の方が「自分は泳げるのでこれ以上の危険はない。 しかし彼女はこのままでは死ぬ可能性が高い。 だから君は第一条に従って、私より彼女を助けなければならない。」と説得できていれば、彼女の方を優先して助けたかも知れない。#「鋼鉄都市」で、子供の方が価値が低いから息子を危険にさらした方がいい的な#提案をダニールがするんだけど、それに対してイライジャベイリは反論してたな。#「子供を危険にさらすのは、真っ当な大人のすべきことじゃない」みたいな感じで。
「夜明けのロボット」では雷雨で気分が悪くなって一歩も動けなくなったイライジャベイリが、故障した自動車(エアカー)内に自分を放置してダニールを安全な所に逃がすように命令するんだけど、その時なんかはベイリを助ける(第一条)に対して、ベイリの命令に従う(第二条)を優先させるのに苦労してました。
その時は実はダニールの安全に地球の未来がかかっていたので、もしダニールが捕らえられたら、将来ベイリが受けるであろう精神的金銭的被害は、雷雨の中に放置するどころじゃなかったんだけど、その時はそれを説明する時間も精神的余裕もなかったのです。
説得つーても、あのシーンは水中で、さらにどちらの人間も自分の力では脱出できないという状況だったと思いますが…
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー
ばからしい (スコア:1)
× 三原則をロボットに守らせることは困難である
○ 三原則をロボットに守らせることは"このロボットの作成者にとって"困難である
Re: (スコア:1)
では
>シミュレーションの結果では複数の人間を守る際にどちらかしか助けられないケースなどで判断に迷い、結局どちらも助けられない
上記はトロッコ問題 [wikipedia.org]とか冷たい方程式 [wikipedia.org]とかのことだと思いますが、
誰もが納得できる答えをあなたは出すことができますか?
それができない限りは、
>結局どちらも助けられない
誰が作ってもこういう結果になるということになるのではないでしょうか。
納得は関係なく、答は出すのでは? (スコア:1)
映画の方のアイ,ロボットの例なので、ちょっとずれるかもしれないが、
ロボットが水に落ちた車から生存率の高い男性を救助するために少女をあっさり見捨てたよね。
あのような判断をする方がしっくりきて、迷って答えを出さない方が違和感がある。
#あくまでもロボットのようなものに与える判断基準について。
Re: (スコア:0)
私も映画版のそれ思い出しました
三原則でいえば、生存率の高いほうを助けるのが筋なんじゃないかなあ
三原則に痂疲があるのではなく、生存性の判断アルゴリズムが仕上がってないという話のような
Re:納得は関係なく、答は出すのでは? (スコア:0)
原作的にも概ね同じなんだけど、原作のロボットたちは激しく高性能なので、
あのくらいだったら両方とも簡単に助けちゃいそう。ただし助けられないと論理的に
納得した場合は、ジタバタ無駄な抵抗をしたりはせず、そこでアッサリ諦めます。
この例だと、たとえば男性の方が
「自分は泳げるのでこれ以上の危険はない。
しかし彼女はこのままでは死ぬ可能性が高い。
だから君は第一条に従って、私より彼女を助けなければならない。」
と説得できていれば、彼女の方を優先して助けたかも知れない。
#「鋼鉄都市」で、子供の方が価値が低いから息子を危険にさらした方がいい的な
#提案をダニールがするんだけど、それに対してイライジャベイリは反論してたな。
#「子供を危険にさらすのは、真っ当な大人のすべきことじゃない」みたいな感じで。
「夜明けのロボット」では雷雨で気分が悪くなって一歩も動けなくなったイライジャベイリが、
故障した自動車(エアカー)内に自分を放置してダニールを安全な所に逃がすように
命令するんだけど、その時なんかはベイリを助ける(第一条)に対して、ベイリの命令に従う
(第二条)を優先させるのに苦労してました。
その時は実はダニールの安全に地球の未来がかかっていたので、もしダニールが
捕らえられたら、将来ベイリが受けるであろう精神的金銭的被害は、雷雨の中に放置する
どころじゃなかったんだけど、その時はそれを説明する時間も精神的余裕もなかったのです。
Re: (スコア:0)
説得つーても、あのシーンは水中で、さらにどちらの人間も自分の力では脱出できないという状況だったと思いますが…