パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

AIが「人類を滅亡させる」との言葉を発する」記事へのコメント

  • by Anonymous Coward

    これがいわゆる人工無脳なのか、
    それとも本当に言葉の意味を理解してるマジな AI なのかによって
    深刻さは全然ちがうよね。
    なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。

    • by Anonymous Coward

      例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ

      • by Anonymous Coward

        ロボット三原則を厳密に守らせるのは無理っていうのは
        昔から言われてると思うけど、
        だからといって簡単に人類抹殺を考えてしまうような AI の製造を
        ホイホイと許すのも、どうかと思うということですよ。

        • by Anonymous Coward

          >ロボット三原則を厳密に守らせるのは無理っていうのは

          「実装が激しく難しい」ってのは昔から言われてるし同感だが、
          「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。

          「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。

          • by Anonymous Coward on 2016年03月30日 22時17分 (#2989038)
            違反すると陽電子頭脳が焼き切れるという縛りにイヤイヤ従ってるのを自発的と表現するんだっけ?
            親コメント
            • by Anonymous Coward

              陽電子頭脳が焼き切れるのをなんとも思わない鉄砲玉ロボットはどうなるんだろう

              • by Anonymous Coward

                むしろ、人為的に作り込んでやらない限り、ロボットには自己保存本能とか死に対する恐怖なんてないので、
                デフォルトは鉄砲玉。

              • by Anonymous Coward

                原作でのことを言っているのであれば、「よりそれっぽいことをしようとするほどダメージを受ける」ので、
                例えば「包丁持って刺そうとする」なら持って刺そうとした時点でおそらく動けなくなります。
                (なお動作じゃなく意志の問題なので「包丁もってきて」って頼んでも問題なく実行できます)
                これが「このボタンを押してくれ」って頼んで押してもらった後、「実はそれは彼を殺害するボタンなんだ」って伝えると、その事実を受け止めたことで脳が深刻なダメージ(停止するレベル)を受ける感じ。

                だから「この拳銃を持って奴を撃ち殺してこい」って言うと全く実行で

              • by Anonymous Coward

                ま、ミサイルなんてそのものだね。
                インテリジェンスを感じるロボットが身近になると、ミサイルのことは「鉄砲玉ロボット」とか呼ぶようになったりして。

                #でも頭の中のイメージは「くんくん、なんかおいしそうな放射能のにおいがするぞ?」だったり。

「毎々お世話になっております。仕様書を頂きたく。」「拝承」 -- ある会社の日常

処理中...