アカウント名:
パスワード:
# だってあれは矛盾を盛り込むことで物語を展開させるためのギミックですから。# という野暮なことは置いといて、
特に今回は兵器についてなので、必要なルールは「武器を使用する際は必ず人間の許可を求める」だけでは。だから、死角にいた人間を「うっかり」轢いてしまっても良い…んじゃないかな。
現在の「ロボット兵器」にはロボット三原則を導入できるほどに高度なＡＩを搭載した物は一つも無い。だからロボット三原則の導入に関する議論は１００年早いよ。
＞ だってあれは矛盾を盛り込むことで物語を展開させるためのギミックですから。いや違う。矛盾はない。、「素人目には理解不能に見えるけど、専門家にはロボット三原則に従ってるだけですよ」という話だと思う。＃この辺りの事情は、現在のソフトウエア開発でもさほど変わらん。
実際にロボット物で、ロボット三原則の矛盾に関する話なんて一つもなかったでしょ？
＞ 現在の「ロボット兵器」にはロボット三原則を導入できるほどに高度なＡＩを搭載した物は一つも無い。
その解釈の仕方が、すでに落とし穴にハマってるんですよ。例えばソニーはAIBOに「三原則を搭載した」。しかしあなたは言う。「AIが非力すぎて、とても実装できていない。」と。では、三原則を実装できるAIなどあるのか？AIどころか、訓練動物、人間自身にも順守など不可能だ。そして、家電屋に言わせてみば、「アシモフ三原則だの人工知能だの言われなくても、昔から安全、便利、高耐久なハードを作ってきたんだ。舞台がソフトになっても同じだ。」と。三原則とは、人間の果てない願望を皮肉った物なのかもしれない。
『われはロボット』なんか、三原則実装失敗事例集っていうノリだし、なのかもしれないじゃなくてそういうお話です。パラメータを弄ったら平衡状態になって人間が死にかけるとか。パシフィック・リムはかっこいい怪獣映画を見たいという監督の思いの現れだったのかもしれないとか言われても困るかんじ。
＞『われはロボット』なんか、三原則実装失敗事例集っていうノリだし、なのかもしれないじゃなくてそういうお話です。いや違う。
＞パラメータを弄ったら平衡状態になって人間が死にかけるとか。「堂々巡り」だっけ。あれはユーザーが指示を間違えたのが問題なのであって、ロボット三原則の実装には問題は無かった。＃「（修理に必要な材料を）取りに行ってこい」とだけ指示して、＃「なんらかの原因で３０分以内に目的が達成できなかった場合は、是が非でも帰還し、次の指示を仰げ」＃みたいな指示を出していなかった。＃そしてスピーディは前半の命令にそのまま従って、いわば無限ループに嵌まったまま抜け出せなくなった。
プログラマーがコードの書き方間違えたせいで無限ループになってPCが暴走したとしても、それはコンパイラのバグではなくて、プログラマーのミスだというのと同じ。
あ、確かに実装失敗じゃないですね。正しい実装だけど、仕様に行間が多くて動作が人間の想定と異なっているっていう。
＞仕様に行間が多くて動作が人間の想定と異なっているっていう。それも違う。きちんと定義されてる（という設定になってる）。でなければ陽電子頭脳を作ることなどできようはずがない。
コンパイラでいうならば、たとえば文法定義におけるＢＮＦみたいなもんだ。文法はＢＮＦによっって厳密に定義されているが、それを読むのにはそれ相応のスキルが必要で、素人はしばしば誤読するってだけ。人間に読めないわけでも、人間の想定と異なるわけでもない。
とりあえず妄想で語るのはやめて、まずは原作読めよ。
読んではいて、言葉の使い方、定義の解釈の方がイマイチだ、という解釈に立つべきじゃないかと。
「三原則の実装」としては成功してますよね。三原則は重み付けや命令解釈については何も言及していないし。失敗って言いたくなるのは「人が使う道具として扱いづらい」という点で、例えるならRFCの仕様は完璧に満たしているがUIがデキが悪い、みたいな感じ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」
三原則を搭載する必要はない (スコア:1)
# だってあれは矛盾を盛り込むことで物語を展開させるためのギミックですから。
# という野暮なことは置いといて、
特に今回は兵器についてなので、必要なルールは「武器を使用する際は必ず人間の許可を求める」だけでは。
だから、死角にいた人間を「うっかり」轢いてしまっても良い…んじゃないかな。
Re: (スコア:1)
現在の「ロボット兵器」にはロボット三原則を導入できるほどに高度なＡＩを搭載した物は一つも無い。
だからロボット三原則の導入に関する議論は１００年早いよ。
＞ だってあれは矛盾を盛り込むことで物語を展開させるためのギミックですから。
いや違う。矛盾はない。
、「素人目には理解不能に見えるけど、専門家にはロボット三原則に従ってるだけですよ」という話だと思う。
＃この辺りの事情は、現在のソフトウエア開発でもさほど変わらん。
実際にロボット物で、ロボット三原則の矛盾に関する話なんて一つもなかったでしょ？
Re: (スコア:0)
＞ 現在の「ロボット兵器」にはロボット三原則を導入できるほどに高度なＡＩを搭載した物は一つも無い。
その解釈の仕方が、すでに落とし穴にハマってるんですよ。
例えばソニーはAIBOに「三原則を搭載した」。
しかしあなたは言う。「AIが非力すぎて、とても実装できていない。」と。
では、三原則を実装できるAIなどあるのか？
AIどころか、訓練動物、人間自身にも順守など不可能だ。
そして、家電屋に言わせてみば、「アシモフ三原則だの人工知能だの言われなくても、昔から安全、便利、高耐久なハードを作ってきたんだ。舞台がソフトになっても同じだ。」と。
三原則とは、人間の果てない願望を皮肉った物なのかもしれない。
Re: (スコア:2)
『われはロボット』なんか、三原則実装失敗事例集っていうノリだし、なのかもしれないじゃなくてそういうお話です。パラメータを弄ったら平衡状態になって人間が死にかけるとか。パシフィック・リムはかっこいい怪獣映画を見たいという監督の思いの現れだったのかもしれないとか言われても困るかんじ。
Re: (スコア:0)
＞『われはロボット』なんか、三原則実装失敗事例集っていうノリだし、なのかもしれないじゃなくてそういうお話です。
いや違う。
＞パラメータを弄ったら平衡状態になって人間が死にかけるとか。
「堂々巡り」だっけ。
あれはユーザーが指示を間違えたのが問題なのであって、ロボット三原則の実装には問題は無かった。
＃「（修理に必要な材料を）取りに行ってこい」とだけ指示して、
＃「なんらかの原因で３０分以内に目的が達成できなかった場合は、是が非でも帰還し、次の指示を仰げ」
＃みたいな指示を出していなかった。
＃そしてスピーディは前半の命令にそのまま従って、いわば無限ループに嵌まったまま抜け出せなくなった。
プログラマーがコードの書き方間違えたせいで無限ループになってPCが暴走したとしても、
それはコンパイラのバグではなくて、プログラマーのミスだというのと同じ。
Re:三原則を搭載する必要はない (スコア:2)
あ、確かに実装失敗じゃないですね。正しい実装だけど、仕様に行間が多くて動作が人間の想定と異なっているっていう。
Re: (スコア:0)
＞仕様に行間が多くて動作が人間の想定と異なっているっていう。
それも違う。
きちんと定義されてる（という設定になってる）。
でなければ陽電子頭脳を作ることなどできようはずがない。
コンパイラでいうならば、たとえば文法定義におけるＢＮＦみたいなもんだ。
文法はＢＮＦによっって厳密に定義されているが、それを読むのには
それ相応のスキルが必要で、素人はしばしば誤読するってだけ。
人間に読めないわけでも、人間の想定と異なるわけでもない。
とりあえず妄想で語るのはやめて、まずは原作読めよ。
Re: (スコア:0)
読んではいて、言葉の使い方、定義の解釈の方がイマイチだ、という解釈に立つべきじゃないかと。
「三原則の実装」としては成功してますよね。
三原則は重み付けや命令解釈については何も言及していないし。
失敗って言いたくなるのは「人が使う道具として扱いづらい」という点で、
例えるならRFCの仕様は完璧に満たしているがUIがデキが悪い、みたいな感じ。