パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

AIが「人類を滅亡させる」との言葉を発する」記事へのコメント

  • by Anonymous Coward on 2016年03月30日 19時38分 (#2988935)

    これがいわゆる人工無脳なのか、
    それとも本当に言葉の意味を理解してるマジな AI なのかによって
    深刻さは全然ちがうよね。
    なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。

    • これがいわゆる人工無脳なのか、
      それとも本当に言葉の意味を理解してるマジな AI なのかによって
      深刻さは全然ちがうよね。

      実は、Artificial Intelligenceならぬ、Artificial Philosophical Zombie

      親コメント
    • by Anonymous Coward on 2016年03月30日 19時53分 (#2988949)

      例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ

      親コメント
      • by Anonymous Coward

        ロボット三原則を厳密に守らせるのは無理っていうのは
        昔から言われてると思うけど、
        だからといって簡単に人類抹殺を考えてしまうような AI の製造を
        ホイホイと許すのも、どうかと思うということですよ。

        • by Anonymous Coward

          そんな単純なアルゴリズムで簡単に人類抹殺を考えるようなロボットに人類抹殺ができるとも思えない。

          まあ個人レベルの殺害とかだとちょっと危険かなとは思うけど。

          • by Anonymous Coward

            せめてブライキングボスみたいに熟慮の上なら兎も角。

        • by Anonymous Coward

          >ロボット三原則を厳密に守らせるのは無理っていうのは

          「実装が激しく難しい」ってのは昔から言われてるし同感だが、
          「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。

          「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。

          • by Anonymous Coward

            ロボットにとっての自発的という言葉を定義しないとな
            人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

            • by SteppingWind (2654) on 2016年03月31日 16時46分 (#2989516)

              大本の「われはロボット」でも似た話がありますよ. ちょっといじられて不完全な第一原則のロボットの場合, 人の上から重量物を落として殺すことが出来てしまうとか.

              なぜなら, 重量物を落としても, ロボットがそれを受け止める/払いのけることが出来るのであれば, 落とすこと自体は危害を加えるわけではないから実行可能だとか. しかも, 落とした後のことは重力という自然現象によるものだからロボットの責任ではなく, 殺人ではなく事故死として処理されてしまう.(スーザン・キャルビン博士談)

              ただ, 実際にはここで第一原則第二項が適応されてそんなことにはならないけど, 特殊な環境で作業するロボットのために…というお話が

              # 人間には直ちに影響が出ないような放射線でも, ロボットは一発でお釈迦になるという設定が面白い(LSIなんか存在しない時期なのに)

              親コメント
            • by Anonymous Coward

              人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

              実際、そういうこともあり得るからね。
              というかロボット三原則って厳密にすることにより生じる不利益とか、矛盾を回避できないジレンマとか葛藤とか、そういうお話が多いんじゃないっけ?

          • by Anonymous Coward
            違反すると陽電子頭脳が焼き切れるという縛りにイヤイヤ従ってるのを自発的と表現するんだっけ?
            • by Anonymous Coward

              陽電子頭脳が焼き切れるのをなんとも思わない鉄砲玉ロボットはどうなるんだろう

              • by Anonymous Coward

                むしろ、人為的に作り込んでやらない限り、ロボットには自己保存本能とか死に対する恐怖なんてないので、
                デフォルトは鉄砲玉。

              • by Anonymous Coward

                原作でのことを言っているのであれば、「よりそれっぽいことをしようとするほどダメージを受ける」ので、
                例えば「包丁持って刺そうとする」なら持って刺そうとした時点でおそらく動けなくなります。
                (なお動作じゃなく意志の問題なので「包丁もってきて」って頼んでも問題なく実行できます)
                これが「このボタンを押してくれ」って頼んで押してもらった後、「実はそれは彼を殺害するボタンなんだ」って伝えると、その事実を受け止めたことで脳が深刻なダメージ(停止するレベル)を受ける感じ。

                だから「この拳銃を持って奴を撃ち殺してこい」って言うと全く実行で

              • by Anonymous Coward

                ま、ミサイルなんてそのものだね。
                インテリジェンスを感じるロボットが身近になると、ミサイルのことは「鉄砲玉ロボット」とか呼ぶようになったりして。

                #でも頭の中のイメージは「くんくん、なんかおいしそうな放射能のにおいがするぞ?」だったり。

      • ロボット「そんな時は丸投げだ!」→日本人へ

    • by t_mrc-ct (5292) on 2016年03月30日 23時58分 (#2989092) 日記

      Siriが人類滅亡を決断するまでは人類は安泰。

      未遂事案 [rocketnews24.com]はあるけど、これはバグだよね。仕様じゃないよね?

      親コメント
    • by Anonymous Coward

      地球(自然)の安全を考えたら、人類が一番害悪ですから、
      一番はじめに取り除くことを考えるのは、賢くなくてもすぐに気づくでしょう。

      ほかにも、Gの全滅を命令すると、自然も人類も滅亡させられると思います

      • by Anonymous Coward

        まだこんなことを思う人がいるのか
        地球(自然)の安全って人間にとってでしょうが。

        火の玉になろうがどうなろうが地球は地球で、ただの星に何のメリットやデメリットもないよ
        とマジレスしてみる

        • by Anonymous Coward

          人間中心主義から全く脱せられていないのに人間が悪いとかいうこのキャラたまらんですな
          はよ滅んでほしいわ

    • >>ロボット三原則みたいなものは、最優先で整備すべきなのかも。
      これには反論、必要なし
      これによって自己矛盾が発生するのでトラブルになる。

      エニグマとエネマグラ どっちとる?

    • by Anonymous Coward

      仮に言葉の意味を理解したとしても、理解できるのは事実関係のみのはずで、
      自らの欲求に関しては(何らかの欲求を持つよう故意にプログラミングされていない限り)答えられないのではないでしょうか。
      (質問は、Do you want to destroy humans? というものでした)

      つまり、自らの欲求に関する質問に答えている時点で、言葉の意味を完全には理解してないと推測できます。

    • by Anonymous Coward

      すぐ三原則三原則言われるけど、言語解釈、フレーム問題、心情理解などが実現可能だと仮定しても、
      傷つけてはいけないとされる「人間」の定義を判定することすらおぼつかないのに組み込めって無理だよね。
      簡単な意味での安全機構や自己保全は定義次第で作れるとは思うけど。

      個体、あるいは集団と生物としての種と社会の定義・違い・とらえ方について、組み込もうとする人物がどう考えるかでも全然違っちゃう。
      「ロボがロボの手足を動かす時に自分以外のものへのダメージを極力減らすような動作をする」ことは(限定的にでも)組み込めても、

    • by Anonymous Coward

      本当に怖いのは嘘つく奴だ

コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell

処理中...