パスワードを忘れた? アカウント作成
12814377 story
ロボット

ロボット工学第一原則を意図的に破る、人間を傷つけるロボット 103

ストーリー by hylom
これはロボットなのか 部門より
あるAnonymous Coward 曰く、

アシモフのロボット工学三原則の第一原則は「ロボットは人間に危害を加えてはならない」という非常に明確なものだ。現在でも多くのロボット研究者はこの原則を守ってきた。カリフォルニア州の倫理学者で哲学者でもあるAlexander Reben氏は、ロボットが将来的に人類にどのような危険をもたらすかを研究している。彼はロボット工学第一原則を破るという目的を持った卓上ロボットを作成した。このロボットは、小さな針を指に差すという動作をするだけもの(YouTubeで公開された動画)。

Alexander Reben氏は、ロボットの脅威に対処する議論のきっかけとして人間を傷つけるためだけのロボットを作成したという。現在のところロボットは人間のツールでしかないが、自律意志を持つ方向に進化しつつある。さまざまな人がこの問題を自覚し、法律、哲学、工学などの異種の分野の人々が一堂に会して議論に参加してほしいと願っているという(FASTCOMPANYSlashdot)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by qem_morioka (30932) on 2016年06月16日 15時10分 (#3030615) 日記

    もしロボットが普及して社会に受入れられるとしたら…

    こういう条件を守ってないと普及しないよねって事を提示しただけでさ、

    それがさも憲法とか聖書の一文のように扱われるのって

    なんだか変だよね。

    • 同感。もともとは小説で登場する原則だよね。

      アニメや漫画の中のルールをそのまま現実に持ち込むのと同じ感覚に見えて気持ち悪い。
      もちろんよいものであれば採用するのは悪くないけれど、
      それが当たり前のように語られるのって気持ち悪い。

      #ゲーム由来の「経験値」みたいに定着しちゃってるのかもしれないけれど。
      #あれも気持ち悪い>経験値

      親コメント
    • by Anonymous Coward

      専門家で真剣に三原則を実装ようとしたり、研究したりしている人はいないと思うけど。
      話の初めに話題に引き込むネタとして出したり、考え方の一例として挙げたり、
      内輪受け(ロボット研究者や人工知能の研究者でアジモフのロボット物を読んだことのない人は、まずいないだろう)
      のジョークとしてだったり、みんなそんなもんだと思う。

      彼らは、三原則が実際には(あるいは現状の技術レベルでは)到底実現不可能だというのをよくわかっている。

      ときたま、よくわかってない今回の研究者のような非専門家の「にわか」が大真面目に扱って、
      白い目で見られる。

  • by Anonymous Coward on 2016年06月16日 14時57分 (#3030602)

    認識したうえであえて傷つけるのなら意図的だろうが、そうでなければただのカラクリだろう。

    安全装置の十分でない産業機械やロボットはいくらでもあるんで、違いを明確にしたほうがわかりやすい。
    たとえば単眼がギョロっとロックオンしてカッターナイフを突き出しながら飛びかかってくるホラー仕様とか。

    • by Anonymous Coward on 2016年06月16日 15時15分 (#3030618)

      機能によるんじゃなかろうか。
      つまり、ただ針を出す機構など「ロボット」とはいえまい。出るとわかってる針に自分から指を出す人間に針が刺さっても、それは事故ないしは人間の故意であり、ロボットの加害ではない。

      でも路上を走るロボット(完全自動運転車ともいう)がいたら、それが歩行者を見つけても回避せず直撃するアホ機能だとすれば、
      彼には第一原則が実装されてないといえる。

      要は、「ロボットは人間を傷つけないように稼働されなければいけない」という至極単純なことを、問題提起してるのでは。
      #さんざん問題提起されてきたことであっていまさらとは思う

      親コメント
      • 歩行者を見つけたら回避する機能を持つ、路上を走るロボットに、歩行者側が直撃を試みたらどうなるのだろう…
        親コメント
      • by Anonymous Coward

        想定される運用も含めて三原則、今回はそれを意図的に破った、ということ?
        なるほど、それなら意味があるね。

        十分でないが、いちおう安全装置はある、あとは運用でカバー。という「機械」から一歩も踏み出していないロボットに、可能性としてはこれだけできる(から対応しとけ)、というDBになるかもしれんね。

        家電も20年前と比べたら安全装置がてんこ盛りになったもんな。
        単純な家電ですら対策されてなければ気づかない危険がたくさんあるのだから、ロボットとなると気が遠くなるね。

    • by Anonymous Coward

      人間とは…   無限に続く思考に突入

  • by Anonymous Coward on 2016年06月16日 15時20分 (#3030621)

    違います。"Alexander Reben, a roboticist and artist" としか書かれていません。
    というか、そう自称してるだけのアマチュアだと思います。

  • by Anonymous Coward on 2016年06月16日 17時05分 (#3030686)

    手術ロボットができたら、それは病気を治すために意図的に人間を傷つけるわけだけど
    それは倫理的にどうなんだとかいう議論かと思ったら
    。針刺す機械に指挟んだだけじゃねえか。これじゃミシンに挟まれるのと一緒だろう

    • by Anonymous Coward

      ほんとこれ、
      馬鹿馬鹿しい議論にも程がある
      イグノーベル賞にも掛からんわ、こんなの。

      • by Anonymous Coward on 2016年06月16日 17時39分 (#3030703)

        他でも書かれてるけど、「学者が問題提起した」みたいに語られるのが誤りで、
        芸術家がまたなんか変なもの作って社会への問題提起だとか言い出した、って話ですよ。
        どこにニュースバリューがあるのかは分からん。
        何にせよ、本当の技術者がどういうところを問題としているかとは全く関係なく、なんか市井の人々の「ロボの知能が上がってきたら怖いね」に乗っかったアート作品、です。

        親コメント
    • by Anonymous Coward

      ふむ。
      現状でも手術ロボットはあるけど、それは単なるリモコンアーム。

      それがある程度、または完全に自律する手術ロボになった時、
      そいつの倫理はどうなるか。
      病気を治すための手術でも、人を傷つけることには変わりないしね。
      傷つける度<救命 が成立すればOKとするか。

  • 破るっていうのは (スコア:0, すばらしい洞察)

    by Anonymous Coward on 2016年06月16日 14時56分 (#3030599)

    まず守らせる強制力が存在する環境があってのことだと思うが。
    単に人を傷つけることのできるロボットというなら、産業用のロボットほとんどが該当する。

    人を傷つけるために作られたロボットというのも、軍用ロボットなら珍しくない。

    功名心で突飛なタイトルを論文につける研究者の類の一人にしか見えない。

  • by Anonymous Coward on 2016年06月16日 15時26分 (#3030625)

    ロボット3原則って、コンピュータというものが一般的ではなく
    何ができて何ができないかイメージすることさえ難しかった時代に
    作られた要求仕様が、今日に至ってもどうやって実装すればいいのか
    全くわからない状況なんだと思う。
    似たようなものに鉄腕アトム7つの威力の1番、「よい人とわるい人の
    見分けがつく」を上げてみる。ほかの能力はともかく、この能力だけは
    どうやって実装すればいいのか見当がつかない。

    • by Anonymous Coward

      善悪を見分けられる電子頭脳、と言った表現なので、
      これはつまり倫理判定機能、ぶっちゃければ良心回路のことかと。
      後から人間に指示されずとも、善悪を判定して「悪いこと」はしないと。

      その判定がまた難しいんですけどね。
      #良心ロボ「えろ本ハ悪書ナノデ排除シマス」

      • by Anonymous Coward

        良心回路とかロボット3原則はそのロボットの行動を規制するもので、
        アトムのは人間を観察して善悪判定する能力のようなので、ちょっと
        違う気がする。(アトムはスカンク草井に悪いことができないので
        不完全だと看破されてたから、良心回路もついてたかもしれないけど)
        池波正太郎の小説に、人間は悪をなしながら同時に善もなす、なんて
        表現が出てくるが、アトムはどう判定するのだろうか。
        あと、ロジカルに良い人/悪い人の判定ができるなら、悪人指数が
        一定値を超える人間は予防拘禁してしまえ、という世論が形成されそう。

        • by Anonymous Coward

          ロボットに判定できるとして、
          「ロボットが公平な目で見て、お前は悪い心を持ってるから逮捕ね」って時代が来たらやだねえ。

          え?都知事候補は判定したい?

    • by Anonymous Coward

      そう、技術者よりの人たちは「要求仕様は分かってる。機能仕様書に落とせないのが問題」「簡単なレベルではすでに実装されているが、全く要求を満たせない」だと分かっているんだけど、
      それ以外の人たちは「また組み込めないの?」「なぜ組み込めないのか分からない(こんなに簡単なのに)」「もしこれを組み込まないロボが出てきたら怖い!」と言う。
      説明しようにも聞く耳をもたない。めんどくさい。

      ま、何にでもある問題なんですけどね。
      「待ち時間が最短となるエレベーターを作れ」でも「片側だけ歩いても大丈夫なエスカレーターを作れ」でも「人を傷つけない自動運転車を作れ」でも。

      要求は分かるから仕様書に落としてみやがれー。要求仕様全部盛り込んだら指一本動かす間もなく機能停止するぞー。

    • by Anonymous Coward

      難しく考えすぎではないかな。
      ようは扱っているものの危険度に応じた安全装置を付けろと解釈すれば良いと思う。
      完璧に安全な原発は造れないから、原発に安全装置を付けなくてもいいよね!
      と言われたら、誰でも No と言うよね。

    • by Anonymous Coward

      ディープラーニングで犬猫の区別がつくようになったんだから、
      良い人悪い人の行動例をたくさん学習させれば、それらの分類ぐらいはできるようになるんじゃないか?

      まあ「人を殴っているのは悪い人」、程度の見かけだけの単純な論理になるだろうけど。

      • by Anonymous Coward

        第一原則が解釈で、「人を殴ってる人は悪い人だから殴り殺して良い」と言うロジックになるかもしれんよ。
        警官ロボになら(殴り殺すまでは行かないにしても)必要なロジックだもん。

        でもそのへんの店員ロボが万引きしたらティザーガン撃つようなロボになるのはどうだろう・・・
        それもそれで治安が良くなればいいことなのか。

        • by Anonymous Coward

          ならんよ。アジモフを読んで出直して来い。

  • by Anonymous Coward on 2016年06月16日 18時08分 (#3030725)

    これじゃないロボとか
    けど、あれはロボットではないのか

    • by Anonymous Coward

      第一原則に反し、人を罵倒して足で踏む美少女ロボとか。

      ただし、ご褒美である。

    • by Anonymous Coward

      高性能な女性型性交用ロボット。
      ユーザが絶頂する瞬間、ロボットの顔がユーザの母親になる。

      俗に言うマザコンを強烈に拗らせた奴にはご褒美、…なのか?

typodupeerror

アレゲは一日にしてならず -- アレゲ見習い

読み込み中...