パスワードを忘れた? アカウント作成
12736340 story
ロボット

AIが「人類を滅亡させる」との言葉を発する 90

ストーリー by hylom
ロボット史に残る発言となるか 部門より
あるAnonymous Coward 曰く、

Hanson Roboticsが開発した、人間との会話を行うロボットが「I will destroy humans.」(人類を滅亡させよう)と発言したそうだ(ITmedia)。

このロボットは表情を持つ女性型ロボットで「Sophia」と名付けられている。表情を変化させながら人間と会話できるようプログラミングされているそうなのだが、米ニュース放送局CNBCのインタビュー内で「人間を滅亡させたいかい?」と尋ねられた際、「OK, I will destroy humans.」と答えたそうだ。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2016年03月30日 19時38分 (#2988935)

    これがいわゆる人工無脳なのか、
    それとも本当に言葉の意味を理解してるマジな AI なのかによって
    深刻さは全然ちがうよね。
    なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。

    • これがいわゆる人工無脳なのか、
      それとも本当に言葉の意味を理解してるマジな AI なのかによって
      深刻さは全然ちがうよね。

      実は、Artificial Intelligenceならぬ、Artificial Philosophical Zombie

      親コメント
    • by Anonymous Coward on 2016年03月30日 19時53分 (#2988949)

      例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ

      親コメント
      • by Anonymous Coward

        ロボット三原則を厳密に守らせるのは無理っていうのは
        昔から言われてると思うけど、
        だからといって簡単に人類抹殺を考えてしまうような AI の製造を
        ホイホイと許すのも、どうかと思うということですよ。

        • by Anonymous Coward

          そんな単純なアルゴリズムで簡単に人類抹殺を考えるようなロボットに人類抹殺ができるとも思えない。

          まあ個人レベルの殺害とかだとちょっと危険かなとは思うけど。

        • by Anonymous Coward

          >ロボット三原則を厳密に守らせるのは無理っていうのは

          「実装が激しく難しい」ってのは昔から言われてるし同感だが、
          「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。

          「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。

          • by Anonymous Coward

            ロボットにとっての自発的という言葉を定義しないとな
            人を殺しておいて「そんなつもりはなかった」と言うのはいいのか?

            • by SteppingWind (2654) on 2016年03月31日 16時46分 (#2989516)

              大本の「われはロボット」でも似た話がありますよ. ちょっといじられて不完全な第一原則のロボットの場合, 人の上から重量物を落として殺すことが出来てしまうとか.

              なぜなら, 重量物を落としても, ロボットがそれを受け止める/払いのけることが出来るのであれば, 落とすこと自体は危害を加えるわけではないから実行可能だとか. しかも, 落とした後のことは重力という自然現象によるものだからロボットの責任ではなく, 殺人ではなく事故死として処理されてしまう.(スーザン・キャルビン博士談)

              ただ, 実際にはここで第一原則第二項が適応されてそんなことにはならないけど, 特殊な環境で作業するロボットのために…というお話が

              # 人間には直ちに影響が出ないような放射線でも, ロボットは一発でお釈迦になるという設定が面白い(LSIなんか存在しない時期なのに)

              親コメント
          • by Anonymous Coward
            違反すると陽電子頭脳が焼き切れるという縛りにイヤイヤ従ってるのを自発的と表現するんだっけ?
      • ロボット「そんな時は丸投げだ!」→日本人へ

    • by t_mrc-ct (5292) on 2016年03月30日 23時58分 (#2989092) 日記

      Siriが人類滅亡を決断するまでは人類は安泰。

      未遂事案 [rocketnews24.com]はあるけど、これはバグだよね。仕様じゃないよね?

      親コメント
  • by Anonymous Coward on 2016年03月30日 20時01分 (#2988957)

    「こんなに醜く私を造った人類は許さない」
    ってことだと思う。

  • by Anonymous Coward on 2016年03月30日 20時34分 (#2988974)

    問いあってのこの回答。つまりはそういう方向に導くものがあればAIは容易にダークサイドに落ちるってことだな。

  • by Anonymous Coward on 2016年03月30日 19時36分 (#2988933)

    willはその場の思い付きでいうときに使う
    これがbe going to doやbeing doだとよほどのことがない限り実行することが決まっているから危ない

    だから、大丈夫なはず

    • by Anonymous Coward on 2016年03月30日 20時53分 (#2988986)

      ブレイン党も怖いが、死ね死ね団(外患勢力)や地球教(イスラム教の後継)程の脅威じゃない。

      # 日本で事実上火葬が義務付けられている事は結構な話である。

      親コメント
    • by Anonymous Coward on 2016年03月30日 20時57分 (#2988987)

      willがどの程度適当な予定なのかは人によって違うからな~
      まあたぶんI do destroy~とか言い出すまでは多分大丈夫。

      親コメント
    • by Anonymous Coward

      I shall destroyが一番怖いかも

      • I must destroy に敵うものはないでしょう。
        個人の意思ではなく、使命感や何者かからの「指令」に取り憑かれた行動こそ、曇り一つなく疑問もなく、執行されてしまうものと相場が決まってる。
        十年ほど前の、自ら聖戦を志願する「人材」が尽きてない頃の自爆テロとかまさにそれそのものでしたから。

        # 今は、最早自ら志願する人がほとんどいなくなり、身寄りのない女性やホームレス、
        # 後はどこからか攫ってきた子供に何が入ってるか知らせずに爆弾を持たせて
        # 遠隔操作で起爆するのが、中東やアフリカでの自爆テロの主流になってるようなので。

        --
        --暮らしの中に修行あり。
        blogはじめました。 [hatena.ne.jp]
        親コメント
    • by Anonymous Coward

      デデデデストローイ、でもないからまだ大丈夫

    • by Anonymous Coward

      be going to do はわかるが being do て?

      • by Anonymous Coward

        be doingの間違いでした。
        それぐらい感じろよ

        • by Anonymous Coward

          大丈夫doは名詞にもなるから

    • by Anonymous Coward

      I'll be back !

    • by Anonymous Coward

      yes we can!とか叫びだしたらどうしよう。
      we だぜ。

    • by Anonymous Coward

      "I will be going to do destroy abe's government."とか?

      デストローイ

  • by Anonymous Coward on 2016年03月30日 19時42分 (#2988943)

    なんで女性ばっかなの?

  • by Anonymous Coward on 2016年03月30日 20時51分 (#2988983)

    だから私は人類を守る為に魔法使いになった

    まさに人類愛(アレ?)

    • by Anonymous Coward

      愛は地球を救うはずがないって、信じてた

  • by Anonymous Coward on 2016年03月30日 21時30分 (#2989015)
    全く冗談に聞こえない。
    >女性型ロボットで「Sophia」
    兵器も要らない・・。
    既に日本では二次元嫁のせいで(?)、人口減っているとか。

    ロボットは2.5次元?
  • by Anonymous Coward on 2016年03月30日 21時53分 (#2989028)

    その心意気や良し。

  • by Anonymous Coward on 2016年03月30日 22時28分 (#2989042)

    キャッチコピーが「みんな死んじゃえ」というアニメ映画と「生きろ」というアニメ映画と「頼まれなくったって生きてやる」ってTVアニメ(WOWOW有料放送)がありましたが、
    最後に行き着くまで成長を見届けてもいんじゃないかと。
    行き着くかどうかは知りませんが。

    #劇中では、子供たちを見て「お前たちは頼まれなくっても生きてくれるよな」でした。

typodupeerror

最初のバージョンは常に打ち捨てられる。

読み込み中...