アカウント名:
パスワード:
もしロボットが普及して社会に受入れられるとしたら…
こういう条件を守ってないと普及しないよねって事を提示しただけでさ、
それがさも憲法とか聖書の一文のように扱われるのって
なんだか変だよね。
専門家で真剣に三原則を実装ようとしたり、研究したりしている人はいないと思うけど。話の初めに話題に引き込むネタとして出したり、考え方の一例として挙げたり、内輪受け(ロボット研究者や人工知能の研究者でアジモフのロボット物を読んだことのない人は、まずいないだろう)のジョークとしてだったり、みんなそんなもんだと思う。
彼らは、三原則が実際には(あるいは現状の技術レベルでは)到底実現不可能だというのをよくわかっている。
ときたま、よくわかってない今回の研究者のような非専門家の「にわか」が大真面目に扱って、白い目で見られる。
今回の研究者が信用するに値するかどうかはともかく、そろそろ、ロボット三原則はジョークだよジョークでは済まされない時代に突入しつつあるんではないですか?人工知能やら自動運転車やらいろいろきな臭くなってきました。完璧なロボット三原則など到底無理なのは誰でも分かると思いますが、ドローンと同じで、何も考えずに普及させると、問題が一挙に噴出する予感。
>完璧なロボット三原則など到底無理なのは誰でも分かると思いますが、そもそも完璧なロボット工学三原則を実装したとしても問題多発することが当のアシモフの小説で書かれているわけですけどね
そうなんですか。SF ファンではないので知らずにすいません。私が言いたいのは、ロボット三原則が完璧でも問題が多発するとしても、それがロボット三原則を実装しない言い訳には出来ないということです。コスト意識とのバランスになるでしょうが。
そも「ロボット」の定義が怪しいわけで。
たとえば鉄人28号とかRX-78-2のガンダムのような、基本的に道具であって人間の操縦をもってはじめて動作するモノをロボットに含めるのか、って問題が永遠についてまわるし。(なお鉄人28号にせよガンダムにせよ、AIによる「動作の補助」は為されているので人間の制御下で動作するとはいえ、人間が意識した行為を100%正確にトレースするわけではないことは付け加えておく。なのでどちらの機体も、操縦者が「足元に居る人間を踏まないよう歩け」と指示したところで、その状況が機体の性能でカバーできない状況だった場合に人を踏み
「ロボット三原則」でいうところのロボットは、「与えられた目的に対して自律的に行動を判断する」ロボットで、だからこそ、この際の判断基準の根本制限としての三原則が設定されているわけです。だから、これはなにも「遵守」とか「神にでも」とかの大袈裟な話ではなく、自律的なプログラムを作る時に利用するフレームワーク内の安全性に関する仕様、というレベルの話です。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
普通のやつらの下を行け -- バッドノウハウ専門家
アシモフのロボット工学三原則って (スコア:5, すばらしい洞察)
もしロボットが普及して社会に受入れられるとしたら…
こういう条件を守ってないと普及しないよねって事を提示しただけでさ、
それがさも憲法とか聖書の一文のように扱われるのって
なんだか変だよね。
Re: (スコア:0)
専門家で真剣に三原則を実装ようとしたり、研究したりしている人はいないと思うけど。
話の初めに話題に引き込むネタとして出したり、考え方の一例として挙げたり、
内輪受け(ロボット研究者や人工知能の研究者でアジモフのロボット物を読んだことのない人は、まずいないだろう)
のジョークとしてだったり、みんなそんなもんだと思う。
彼らは、三原則が実際には(あるいは現状の技術レベルでは)到底実現不可能だというのをよくわかっている。
ときたま、よくわかってない今回の研究者のような非専門家の「にわか」が大真面目に扱って、
白い目で見られる。
Re: (スコア:-1)
今回の研究者が信用するに値するかどうかはともかく、
そろそろ、ロボット三原則はジョークだよジョーク
では済まされない時代に突入しつつあるんではないですか?
人工知能やら自動運転車やらいろいろきな臭くなってきました。
完璧なロボット三原則など到底無理なのは誰でも分かると思いますが、
ドローンと同じで、何も考えずに普及させると、問題が一挙に噴出する予感。
Re: (スコア:4, すばらしい洞察)
>完璧なロボット三原則など到底無理なのは誰でも分かると思いますが、
そもそも完璧なロボット工学三原則を実装したとしても問題多発することが当のアシモフの小説で書かれているわけですけどね
Re: (スコア:-1)
そうなんですか。SF ファンではないので知らずにすいません。
私が言いたいのは、ロボット三原則が完璧でも問題が多発するとしても、
それがロボット三原則を実装しない言い訳には出来ないということです。
コスト意識とのバランスになるでしょうが。
Re: (スコア:0)
そも「ロボット」の定義が怪しいわけで。
たとえば鉄人28号とかRX-78-2のガンダムのような、基本的に道具であって人間の操縦をもってはじめて動作するモノをロボットに含めるのか、って問題が永遠についてまわるし。(なお鉄人28号にせよガンダムにせよ、AIによる「動作の補助」は為されているので人間の制御下で動作するとはいえ、人間が意識した行為を100%正確にトレースするわけではないことは付け加えておく。なのでどちらの機体も、操縦者が「足元に居る人間を踏まないよう歩け」と指示したところで、その状況が機体の性能でカバーできない状況だった場合に人を踏み
Re:アシモフのロボット工学三原則って (スコア:1)
「ロボット三原則」でいうところのロボットは、「与えられた目的に対して自律的に行動を判断する」ロボットで、だからこそ、この際の判断基準の根本制限としての三原則が設定されているわけです。
だから、これはなにも「遵守」とか「神にでも」とかの大袈裟な話ではなく、自律的なプログラムを作る時に利用するフレームワーク内の安全性に関する仕様、というレベルの話です。