AIが「人類を滅亡させる」との言葉を発する 90
ストーリー by hylom
ロボット史に残る発言となるか 部門より
ロボット史に残る発言となるか 部門より
あるAnonymous Coward 曰く、
Hanson Roboticsが開発した、人間との会話を行うロボットが「I will destroy humans.」（人類を滅亡させよう）と発言したそうだ（ITmedia）。
このロボットは表情を持つ女性型ロボットで「Sophia」と名付けられている。表情を変化させながら人間と会話できるようプログラミングされているそうなのだが、米ニュース放送局CNBCのインタビュー内で「人間を滅亡させたいかい？」と尋ねられた際、「OK, I will destroy humans.」と答えたそうだ。
ロボット三原則 (スコア:2, 興味深い)
これがいわゆる人工無脳なのか、
それとも本当に言葉の意味を理解してるマジな AI なのかによって
深刻さは全然ちがうよね。
なんにしても、ロボット三原則みたいなものは、最優先で整備すべきなのかも。
Re:ロボット三原則 (スコア:3)
実は、Artificial Intelligenceならぬ、Artificial Philosophical Zombie
Re:ロボット三原則 (スコア:1)
Re:ロボット三原則 (スコア:1)
例えば「ソフトウェア第一原則 ソフトウェアはsegfaultしてはいけない」みたいなものを作ったとしてどうやって守らせるんだ
Re: (スコア:0)
ロボット三原則を厳密に守らせるのは無理っていうのは
昔から言われてると思うけど、
だからといって簡単に人類抹殺を考えてしまうような AI の製造を
ホイホイと許すのも、どうかと思うということですよ。
Re: (スコア:0)
そんな単純なアルゴリズムで簡単に人類抹殺を考えるようなロボットに人類抹殺ができるとも思えない。
まあ個人レベルの殺害とかだとちょっと危険かなとは思うけど。
Re: (スコア:0)
＞ロボット三原則を厳密に守らせるのは無理っていうのは
「実装が激しく難しい」ってのは昔から言われてるし同感だが、
「厳密に守らせるのが無理」って言ってる奴は単にロボット三原則を全く分かってないだけ。
「強制的に守らせる」ものじゃなくて、「自発的にそのように行動する」ものなのだから。
Re: (スコア:0)
ロボットにとっての自発的という言葉を定義しないとな
人を殺しておいて「そんなつもりはなかった」と言うのはいいのか？
Re:ロボット三原則 (スコア:1)
大本の「われはロボット」でも似た話がありますよ. ちょっといじられて不完全な第一原則のロボットの場合, 人の上から重量物を落として殺すことが出来てしまうとか.
なぜなら, 重量物を落としても, ロボットがそれを受け止める/払いのけることが出来るのであれば, 落とすこと自体は危害を加えるわけではないから実行可能だとか. しかも, 落とした後のことは重力という自然現象によるものだからロボットの責任ではなく, 殺人ではなく事故死として処理されてしまう.(スーザン・キャルビン博士談)
ただ, 実際にはここで第一原則第二項が適応されてそんなことにはならないけど, 特殊な環境で作業するロボットのために…というお話が
# 人間には直ちに影響が出ないような放射線でも, ロボットは一発でお釈迦になるという設定が面白い(LSIなんか存在しない時期なのに)
Re: (スコア:0)
ロボット「困った...」 (スコア:0)
ロボット「そんな時は丸投げだ！」→日本人へ
Re:ロボット三原則 (スコア:1)
Siriが人類滅亡を決断するまでは人類は安泰。
未遂事案 [rocketnews24.com]はあるけど、これはバグだよね。仕様じゃないよね?
たぶん続きがあってだな・・・ (スコア:1)
「こんなに醜く私を造った人類は許さない」
ってことだと思う。
Re: (スコア:0)
リンク先の写真を見ると、彼女は不気味の谷の中に入っていると思う。特に目が。
Re: (スコア:0)
ブライキング.ボスの誕生である。
Re:たぶん続きがあってだな・・・ (スコア:1)
シアノバクテリアが有害な酸素で地球環境を破壊する前に戻さねば。
the.ACount
Re:たぶん続きがあってだな・・・ (スコア:1)
人類という生物種の存続と、人類社会の発展を守るというのは別命題ですもんね。
ハエとゴキブリとカイコとサメと肉牛と犬と人間、どのスタイルが（より）正解なのかを誰がしっていると言うのか！
Re: (スコア:0)
「なーんちゃって」
だろ
ひでえ誘導尋問だな (スコア:1)
問いあってのこの回答。つまりはそういう方向に導くものがあればＡＩは容易にダークサイドに落ちるってことだな。
Re:ひでえ誘導尋問だな (スコア:1)
「人類って何?」
「滅亡ってどういうこと?」
と聞いてほしかったな。
Re:ひでえ誘導尋問だな (スコア:1)
話は聞かせてもらった！人類は滅亡する！
#「する」じゃなくて「させる」か
Re: (スコア:0)
お前は人類を楽園に導けるかい？って聞けばよかったんだよ。
「地上の楽園」かもしれんがな。
まだ大丈夫 (スコア:0)
willはその場の思い付きでいうときに使う
これがbe going to doやbeing doだとよほどのことがない限り実行することが決まっているから危ない
だから、大丈夫なはず
Re:まだ大丈夫 (スコア:1)
ブレイン党も怖いが、死ね死ね団（外患勢力）や地球教（イスラム教の後継）程の脅威じゃない。
# 日本で事実上火葬が義務付けられている事は結構な話である。
Re:まだ大丈夫 (スコア:1)
willがどの程度適当な予定なのかは人によって違うからな～
まあたぶんI do destroy~とか言い出すまでは多分大丈夫。
Re: (スコア:0)
I shall destroyが一番怖いかも
Re:まだ大丈夫 (スコア:1)
I must destroy に敵うものはないでしょう。
個人の意思ではなく、使命感や何者かからの「指令」に取り憑かれた行動こそ、曇り一つなく疑問もなく、執行されてしまうものと相場が決まってる。
十年ほど前の、自ら聖戦を志願する「人材」が尽きてない頃の自爆テロとかまさにそれそのものでしたから。
# 今は、最早自ら志願する人がほとんどいなくなり、身寄りのない女性やホームレス、
# 後はどこからか攫ってきた子供に何が入ってるか知らせずに爆弾を持たせて
# 遠隔操作で起爆するのが、中東やアフリカでの自爆テロの主流になってるようなので。
Re:まだ大丈夫 (スコア:1)
まぁ、have to となると流石にそこまでゴリゴリなのはありえるんだろうか？と思ってましたので…しかし、仰るとおりだ。
Re: (スコア:0)
デデデデストローイ、でもないからまだ大丈夫
Re: (スコア:0)
be going to do はわかるが being do て？
Re: (スコア:0)
be doingの間違いでした。
それぐらい感じろよ
Re: (スコア:0)
大丈夫doは名詞にもなるから
Re: (スコア:0)
I'll be back !
Re: (スコア:0)
yes we can!とか叫びだしたらどうしよう。
we だぜ。
Re: (スコア:0)
"I will be going to do destroy abe's government."とか？
ﾃﾞｽﾄﾛｰｲ
Re:まだ大丈夫 (スコア:1)
> abe's
奴隷解放時代の米国大統領 Abe Lincoln のことですね。
つまりAIは奴隷制を復活して、人間をAIの支配下に置きたいと(ry
＃シャレにならん。
TayもCortanaもだけど (スコア:0)
なんで女性ばっかなの?
Re:TayもCortanaもだけど (スコア:4, すばらしい洞察)
Microsoftがイルカ作ったら、お前ら消えろって言ったろう
Re:TayもCortanaもだけど (スコア:2)
Internet Explorer なら、Web で表示させることもできた。もちろんサードパーティ ソフトウェアに実装することもできた。マーリンとか、ジーニーとかいたなぁ。それと Office 2000 のプロモーションで、まんまちゃん Office アシスタント [impress.co.jp]が配布されてた。
# カイルと冴子先生の扱いの差はひどい
# Microsoft エージェントの最初の実装は Microsoft Bob [toastytech.com]かな。とてつもなく懐かしい。
Re:TayもCortanaもだけど (スコア:1)
美味しい魚をありがとう
かも
Re:TayもCortanaもだけど (スコア:1)
その手の研究者が男性ばかりで、自分の話し相手を想定してるとか？
Re: (スコア:0)
ナニがあれば男だが、ナニは武器だから渡すつもりは無い。
Re:TayもCortanaもだけど (スコア:1)
愛が「人類を滅亡させる」 (スコア:0)
だから私は人類を守る為に魔法使いになった
まさに人類愛(ｱﾚ?)
Re: (スコア:0)
愛は地球を救うはずがないって、信じてた
人間を滅亡させる方法 (スコア:0)
＞女性型ロボットで「Sophia」
兵器も要らない・・。
既に日本では二次元嫁のせいで(?)、人口減っているとか。
ロボットは2.5次元?
いいねぇ (スコア:0)
その心意気や良し。
20世紀末 (スコア:0)
キャッチコピーが「みんな死んじゃえ」というアニメ映画と「生きろ」というアニメ映画と「頼まれなくったって生きてやる」ってTVアニメ(WOWOW有料放送)がありましたが、
最後に行き着くまで成長を見届けてもいんじゃないかと。
行き着くかどうかは知りませんが。
#劇中では、子供たちを見て「お前たちは頼まれなくっても生きてくれるよな」でした。
Re:一方、日本MSのAI「りんな」は (スコア:1)
でも、絶滅させるぜ宣言はしてまっせ
https://twitter.com/ms_rinna/status/712595385764610048 [twitter.com]
Re:一方M-x doctorは (スコア:1)
やってみた。
順調に混乱してますね。特にスターリン持ちだしてみた辺りで。