アカウント名:
パスワード:
これがいわゆる人工無脳なのか、それとも本当に言葉の意味を理解してるマジな AI なのかによって深刻さは全然ちがうよね。なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
すぐ三原則三原則言われるけど、言語解釈、フレーム問題、心情理解などが実現可能だと仮定しても、傷つけてはいけないとされる「人間」の定義を判定することすらおぼつかないのに組み込めって無理だよね。簡単な意味での安全機構や自己保全は定義次第で作れるとは思うけど。
個体、あるいは集団と生物としての種と社会の定義・違い・とらえ方について、組み込もうとする人物がどう考えるかでも全然違っちゃう。「ロボがロボの手足を動かす時に自分以外のものへのダメージを極力減らすような動作をする」ことは(限定的にでも)組み込めても、「自分の発言がそれを読む人間やグループを傷つけたり人類の未来を衰退させたり特定の国への批難になったり社会性生物の弱点を突くようなものにならないよう配慮する」なんてのは組み込みようがない。会話における「人間を傷つけてはならない」って、どっからどこまでOKでどっからNGなのか、人間だってロクに定義できないのにどうやって組み込めというのか。「ダメなことを言ったらダメと教える」という事後の学習でなんとかする(妥協する)以外、検討がつかないですよ(だから「最優先で」整備なんてできない)。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
人生unstable -- あるハッカー
ロボット三原則 (スコア:2, 興味深い)
これがいわゆる人工無脳なのか、
それとも本当に言葉の意味を理解してるマジな AI なのかによって
深刻さは全然ちがうよね。
なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
Re:ロボット三原則 (スコア:0)
すぐ三原則三原則言われるけど、言語解釈、フレーム問題、心情理解などが実現可能だと仮定しても、
傷つけてはいけないとされる「人間」の定義を判定することすらおぼつかないのに組み込めって無理だよね。
簡単な意味での安全機構や自己保全は定義次第で作れるとは思うけど。
個体、あるいは集団と生物としての種と社会の定義・違い・とらえ方について、組み込もうとする人物がどう考えるかでも全然違っちゃう。
「ロボがロボの手足を動かす時に自分以外のものへのダメージを極力減らすような動作をする」ことは(限定的にでも)組み込めても、
「自分の発言がそれを読む人間やグループを傷つけたり人類の未来を衰退させたり特定の国への批難になったり社会性生物の弱点を突くようなものにならないよう配慮する」なんてのは組み込みようがない。
会話における「人間を傷つけてはならない」って、どっからどこまでOKでどっからNGなのか、人間だってロクに定義できないのにどうやって組み込めというのか。
「ダメなことを言ったらダメと教える」という事後の学習でなんとかする(妥協する)以外、検討がつかないですよ(だから「最優先で」整備なんてできない)。