パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

AIが「人類を滅亡させる」との言葉を発する」記事へのコメント

  • by Anonymous Coward

    これがいわゆる人工無脳なのか、
    それとも本当に言葉の意味を理解してるマジな AI なのかによって
    深刻さは全然ちがうよね。
    なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。

    • by Anonymous Coward

      例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ

      • by Anonymous Coward

        ロボット三原則を厳密に守らせるのは無理っていうのは
        昔から言われてると思うけど、
        だからといって簡単に人類抹殺を考えてしまうような AI の製造を
        ホイホイと許すのも、どうかと思うということですよ。

        • by Anonymous Coward on 2016年03月30日 21時15分 (#2989001)

          >ロボット三原則を厳密に守らせるのは無理っていうのは

          「実装が激しく難しい」ってのは昔から言われてるし同感だが、
          「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。

          「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。

          親コメント
          • by Anonymous Coward

            ロボットにとっての自発的という言葉を定義しないとな
            人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

            • by SteppingWind (2654) on 2016年03月31日 16時46分 (#2989516)

              大本の「われはロボット」でも似た話がありますよ. ちょっといじられて不完全な第一原則のロボットの場合, 人の上から重量物を落として殺すことが出来てしまうとか.

              なぜなら, 重量物を落としても, ロボットがそれを受け止める/払いのけることが出来るのであれば, 落とすこと自体は危害を加えるわけではないから実行可能だとか. しかも, 落とした後のことは重力という自然現象によるものだからロボットの責任ではなく, 殺人ではなく事故死として処理されてしまう.(スーザン・キャルビン博士談)

              ただ, 実際にはここで第一原則第二項が適応されてそんなことにはならないけど, 特殊な環境で作業するロボットのために…というお話が

              # 人間には直ちに影響が出ないような放射線でも, ロボットは一発でお釈迦になるという設定が面白い(LSIなんか存在しない時期なのに)

              親コメント
            • by Anonymous Coward

              人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

              実際、そういうこともあり得るからね。
              というかロボット三原則って厳密にすることにより生じる不利益とか、矛盾を回避できないジレンマとか葛藤とか、そういうお話が多いんじゃないっけ?

          • by Anonymous Coward
            違反すると陽電子頭脳が焼き切れるという縛りにイヤイヤ従ってるのを自発的と表現するんだっけ?
            • by Anonymous Coward

              陽電子頭脳が焼き切れるのをなんとも思わない鉄砲玉ロボットはどうなるんだろう

              • by Anonymous Coward

                むしろ、人為的に作り込んでやらない限り、ロボットには自己保存本能とか死に対する恐怖なんてないので、
                デフォルトは鉄砲玉。

              • by Anonymous Coward

                原作でのことを言っているのであれば、「よりそれっぽいことをしようとするほどダメージを受ける」ので、
                例えば「包丁持って刺そうとする」なら持って刺そうとした時点でおそらく動けなくなります。
                (なお動作じゃなく意志の問題なので「包丁もってきて」って頼んでも問題なく実行できます)
                これが「このボタンを押してくれ」って頼んで押してもらった後、「実はそれは彼を殺害するボタンなんだ」って伝えると、その事実を受け止めたことで脳が深刻なダメージ(停止するレベル)を受ける感じ。

                だから「この拳銃を持って奴を撃ち殺してこい」って言うと全く実行で

              • by Anonymous Coward

                ま、ミサイルなんてそのものだね。
                インテリジェンスを感じるロボットが身近になると、ミサイルのことは「鉄砲玉ロボット」とか呼ぶようになったりして。

                #でも頭の中のイメージは「くんくん、なんかおいしそうな放射能のにおいがするぞ?」だったり。

あつくて寝られない時はhackしろ! 386BSD(98)はそうやってつくられましたよ? -- あるハッカー

処理中...