パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

AIが「人類を滅亡させる」との言葉を発する」記事へのコメント

  • by Anonymous Coward

    これがいわゆる人工無脳なのか、
    それとも本当に言葉の意味を理解してるマジな AI なのかによって
    深刻さは全然ちがうよね。
    なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。

    • by Anonymous Coward

      例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ

      • by Anonymous Coward

        ロボット三原則を厳密に守らせるのは無理っていうのは
        昔から言われてると思うけど、
        だからといって簡単に人類抹殺を考えてしまうような AI の製造を
        ホイホイと許すのも、どうかと思うということですよ。

        • by Anonymous Coward

          >ロボット三原則を厳密に守らせるのは無理っていうのは

          「実装が激しく難しい」ってのは昔から言われてるし同感だが、
          「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。

          「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。

          • by Anonymous Coward

            ロボットにとっての自発的という言葉を定義しないとな
            人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

            • by SteppingWind (2654) on 2016年03月31日 16時46分 (#2989516)

              大本の「われはロボット」でも似た話がありますよ. ちょっといじられて不完全な第一原則のロボットの場合, 人の上から重量物を落として殺すことが出来てしまうとか.

              なぜなら, 重量物を落としても, ロボットがそれを受け止める/払いのけることが出来るのであれば, 落とすこと自体は危害を加えるわけではないから実行可能だとか. しかも, 落とした後のことは重力という自然現象によるものだからロボットの責任ではなく, 殺人ではなく事故死として処理されてしまう.(スーザン・キャルビン博士談)

              ただ, 実際にはここで第一原則第二項が適応されてそんなことにはならないけど, 特殊な環境で作業するロボットのために…というお話が

              # 人間には直ちに影響が出ないような放射線でも, ロボットは一発でお釈迦になるという設定が面白い(LSIなんか存在しない時期なのに)

              親コメント

ソースを見ろ -- ある4桁UID

処理中...