アカウント名:
パスワード:
× 三原則をロボットに守らせることは困難である○ 三原則をロボットに守らせることは"このロボットの作成者にとって"困難である
では>シミュレーションの結果では複数の人間を守る際にどちらかしか助けられないケースなどで判断に迷い、結局どちらも助けられない上記はトロッコ問題 [wikipedia.org]とか冷たい方程式 [wikipedia.org]とかのことだと思いますが、誰もが納得できる答えをあなたは出すことができますか？
それができない限りは、>結局どちらも助けられない誰が作ってもこういう結果になるということになるのではないでしょうか。
ロボットなら自らを犠牲にしてトロッコを止めるとか、宇宙船から降りる、が正解でしょう。
ロボットの能力的にトロッコを止められないならロボット内の評価関数でどちらを助けるか選ぶだけです、もちろん評価に時間が掛かり過ぎてはいけませんから、それなりの処理速度を持たせ評価関数のデバッグもちゃんと行って置く必要はあります。
能力的にトロッコが止められる場合： 猛スピードのトロッコを自らを犠牲にして止めた場合。中の人間は、そのスピードで前方へ吹っ飛んで死ぬと思います。
能力的にトロッコが止めれられない場合： どのように原則に反することなく評価するのかが気になります。
トロッコ問題はトロッコに人が乗ってるわけじゃないですよ。
トロッコは止められない前提、路線変更自体は失敗なく意図通りできる前提で、路線を変更するか否か、そのとき「助かる人数の差」「自分が能動的に行動するか否かの差」をどう評価するか、という問題です。自分を犠牲にすればとか他の解決法を考えるとかまで考慮するものではないのです。
「ボタンを押すと1人死ぬが、ボタンを押さなければ5人死ぬ。疑う余地はない」ってのと本質は同じ。
#なおアシモフの作品における一般的なロボットなら「常に三原則に合致した行動がとれる」わけではなく「反する行動について考えたり実行しようとすると止まったり壊れたりする」ので、トロッコ問題なら5人死亡となる可能性が高い。
＞「ボタンを押すと1人死ぬが、ボタンを押さなければ5人死ぬ。疑う余地はない」ってのと本質は同じ。＞「反する行動について考えたり実行しようとすると止まったり壊れたりする」ので、トロッコ問題なら5人死亡となる可能性が高い。
この場合は「５人を助けるためにボタンを押して、一人殺す」が正解のはず。ただしその結果として、それをした陽電子頭脳は焼き切れて機能停止する。＃これについては、さんざん議論されてるはずだが？
たとえば「ロボットと帝国」で、人類の未来を救うために行動した彼のようにね。
>＃これについては、さんざん議論されてるはずだが？覚え違いでしたか、すみません。
ただ、「ロボットと帝国の彼」はちょっと「一般的なロボット」とは言えないかと思います。想定してたのはあの月面だかどこだかでなかなかミッションに成功できなかった話。重み付けや命令をある程度調整しないと行動すらできませんでしたよね。
＞ただ、「ロボットと帝国の彼」はちょっと「一般的なロボット」とは言えないかと思います。一部特殊な能力を有していますが、ロボット三原則に基づくという意味ではあくまで普通の陽電子頭脳ロボットですよ。
＞想定してたのはあの月面だかどこだかでなかなかミッションに成功できなかった話。「堂々めぐり」かな？#水星ステーションだった希ガス。
あれは優先度の低い（しかも時間制限のない）命令による第二条と高価な試作機で強められた第三条が拮抗した事例であって、トロッコ問題とはまた別。またそもそも地球製の旧式モデルだしね。たとえばダニールだったら「このままだと堂々めぐりになるから、イライジャに指示を仰いだ方が良い」と自分で判断できるでしょう。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
Stableって古いって意味だっけ？ -- Debian初級
ばからしい (スコア:1)
× 三原則をロボットに守らせることは困難である
○ 三原則をロボットに守らせることは"このロボットの作成者にとって"困難である
Re: (スコア:1)
では
>シミュレーションの結果では複数の人間を守る際にどちらかしか助けられないケースなどで判断に迷い、結局どちらも助けられない
上記はトロッコ問題 [wikipedia.org]とか冷たい方程式 [wikipedia.org]とかのことだと思いますが、
誰もが納得できる答えをあなたは出すことができますか？
それができない限りは、
>結局どちらも助けられない
誰が作ってもこういう結果になるということになるのではないでしょうか。
Re: (スコア:0)
ロボットなら自らを犠牲にしてトロッコを止めるとか、宇宙船から降りる、が正解でしょう。
ロボットの能力的にトロッコを止められないならロボット内の評価関数でどちらを助けるか選ぶだけです、もちろん評価に時間が掛かり過ぎてはいけませんから、それなりの処理速度を持たせ評価関数のデバッグもちゃんと行って置く必要はあります。
Re: (スコア:0)
能力的にトロッコが止められる場合：
猛スピードのトロッコを自らを犠牲にして止めた場合。中の人間は、そのスピードで前方へ吹っ飛んで死ぬと思います。
能力的にトロッコが止めれられない場合：
どのように原則に反することなく評価するのかが気になります。
Re: (スコア:2)
トロッコ問題はトロッコに人が乗ってるわけじゃないですよ。
トロッコは止められない前提、路線変更自体は失敗なく意図通りできる前提で、
路線を変更するか否か、そのとき「助かる人数の差」「自分が能動的に行動するか否かの差」をどう評価するか、という問題です。
自分を犠牲にすればとか他の解決法を考えるとかまで考慮するものではないのです。
「ボタンを押すと1人死ぬが、ボタンを押さなければ5人死ぬ。疑う余地はない」ってのと本質は同じ。
#なおアシモフの作品における一般的なロボットなら「常に三原則に合致した行動がとれる」わけではなく「反する行動について考えたり実行しようとすると止まったり壊れたりする」ので、トロッコ問題なら5人死亡となる可能性が高い。
Re:ばからしい (スコア:1)
＞「ボタンを押すと1人死ぬが、ボタンを押さなければ5人死ぬ。疑う余地はない」ってのと本質は同じ。
＞「反する行動について考えたり実行しようとすると止まったり壊れたりする」ので、トロッコ問題なら5人死亡となる可能性が高い。
この場合は「５人を助けるためにボタンを押して、一人殺す」が正解のはず。
ただしその結果として、それをした陽電子頭脳は焼き切れて機能停止する。
＃これについては、さんざん議論されてるはずだが？
たとえば「ロボットと帝国」で、人類の未来を救うために行動した彼のようにね。
Re:ばからしい (スコア:1)
>＃これについては、さんざん議論されてるはずだが？
覚え違いでしたか、すみません。
ただ、「ロボットと帝国の彼」はちょっと「一般的なロボット」とは言えないかと思います。
想定してたのはあの月面だかどこだかでなかなかミッションに成功できなかった話。
重み付けや命令をある程度調整しないと行動すらできませんでしたよね。
Re: (スコア:0)
＞ただ、「ロボットと帝国の彼」はちょっと「一般的なロボット」とは言えないかと思います。
一部特殊な能力を有していますが、ロボット三原則に基づくという意味では
あくまで普通の陽電子頭脳ロボットですよ。
＞想定してたのはあの月面だかどこだかでなかなかミッションに成功できなかった話。
「堂々めぐり」かな？
#水星ステーションだった希ガス。
あれは優先度の低い（しかも時間制限のない）命令による第二条と高価な試作機で
強められた第三条が拮抗した事例であって、トロッコ問題とはまた別。またそもそも
地球製の旧式モデルだしね。たとえばダニールだったら「このままだと堂々めぐりに
なるから、イライジャに指示を仰いだ方が良い」と自分で判断できるでしょう。