パスワードを忘れた? アカウント作成
13356107 story
人工知能

「AIは人類を滅ぼす脅威となるか否か」、ビリオネアの意見対立 54

ストーリー by hylom
一方AIは40代一人暮らしが脅威だと主張 部門より
danceman曰く、

Tesla Motorsのイーロン・マスクCEOは人工知能の進化を「悪魔の召喚」になぞらえており、その脅威を認識すべきであると度々警告し続けてきている。今月中旬に行われた米州知事集会でも、人工知能がいずれ人類を殺戮する可能性を認識し、手遅れになる前にAI規制を設けるなどの積極的な対策を講じる必要があると訴えていた。これに対してFacebookのマーク・ザッカーバーグCEOが異なる見解を示したことから、AIを巡るビリオネアの意見の対立が注目を集めている(The Verge)。

マーク・ザッカーバーグCEOは、人類に対する人工知能の脅威は「限定的」であるとし、楽観的な見方を示している。Facebookのライブ動画配信では自宅の庭で肉をグリルしながらユーザーからのAIの質問に答えていたが、未来テクノロジーを巡る恐怖を煽るような主張にうんざりしている様子が伺える。

ザッカーバーグ氏は、テクノロジーは使い方次第で人類にとって良くも悪くもなれるものと考えているようだ。何をどのように、何のために開発するのかについて慎重になる必要があるとしつつも、「AI開発のプロセスを遅らせるような議論を展開する人達」を「疑わしい」と感じているようで、「理解しかねる」と述べている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 変身して悪のAIと戦うんですね、イーロンマスクは。

  • by akiraani (24305) on 2017年07月28日 15時38分 (#3251937) 日記

    AIが人間を殺そうとする意志を自発的に持つことはたぶんない。
    でも、人間を殺すようにAIを仕込む人間はたぶん出てくる。

    技術は誰にでも分け隔てなく、テロリストにも恩恵を与えるわけで、そういう連中がAIを使った自動運転兵器を開発して運用することは当然予想される。

    そういう事態を想定してやるべきは、たぶん開発の制限や規制ではない。下手に規制してもアングラな連中はそんなの気にしないし、むしろ対抗するための技術開発が制限されて事態を悪化させることになる。
    たぶん、ザッカーバーグ氏の意見が正しいと思う。

    • by Anonymous Coward on 2017年07月28日 16時05分 (#3251950)

      >AIが人間を殺そうとする意志を自発的に持つことはたぶんない。
      マジレスすると、まずは「未来の二つの顔」を読もうな。その議論は既に周回遅れ。

      親コメント
      • by Anonymous Coward

        共産主義を嫌うあまりに共産主義を発明する人だからなあ、どこのトラックを走ってんだか

      • by Anonymous Coward

        それを言ったらイーロンマスクとザッカーバーグの議論の内容なんか語り尽くされたネタで今更感満載だな。
        こいつらが金持ちの有名人だからニュースになるだけで。

        • by Anonymous Coward

          そうそうギークとかナード自覚あるけど所詮は一般人な/.Jerがスラドで語っててもな〜
          暇つぶしにしかなんねーwww

    • by Anonymous Coward

      認識・判断と実行を分けて作ってる、あるいは連動するケースを制限してるうちはそうだろうね。
      「人類は滅ぶべき」て判断になっても実行に移せなければいいわけで。

      ただまあ規制しても無駄なのはわかるがリミッターがほしいという気持ちもわかる。
      PONANZAが敗着を認識して電王手さんが対戦相手を殴り倒すことにならないのは
      関係者が将棋の枠からはみ出ないように作成・運用しているだけだからね。
      もし将棋ボクシング用に作られてたらいきなり殴ってくるかもという恐怖は感じると思うよ。多分。おそらく。もしかしたら。

      • by Anonymous Coward

        必要なのは適切な要件設定(を行える頭の良い"AIの顧客")と、AIが導き出した回答or指針を現実に適用する際のフェールセーフシステムですかね。

        「人類存続」を命題にしたらごく一部の個体のみを保存し他を滅ぼし、
        「自然回復」を命題にしたら人類を滅ぼし、
        「人という種の存続」を命題にしたら遺伝子異常を片っ端からBEAMするAIに対し、
        「なんか人類がいい感じに存続したり発展していけるよううまくやる」ことをどれだけ誤解なく命令できるか、だもんな。

        「カメラを持ってこい」と言ってれえざあ光線で被写体を破壊する奴にはプロレス技をかけて阻止する以外の手段はないのだが。

    • by Anonymous Coward

      ドローンが戦場で自動的に敵の兵士を認識して自律的に攻撃するなんてのは密かに運用されてても不思議ではない

      • by Anonymous Coward

        無差別なセンサー反応式地雷がよくて、センサーで敵兵と民間人を(完璧ではないとはいえ)識別して作動する自動兵器が何故NGなのか本気で理解できない。

        • by Anonymous Coward
          在来型の地雷の世界最大の生産国は中国
          インテリジェント地雷は先進国でしか作ってない
        • by Anonymous Coward

          地雷が良いと聞いたことがないのだが、どこから来たの?

    • by Anonymous Coward

      人類同士が絶滅戦争起こす確率のほうが高い気がしないでもない。

    • by Anonymous Coward

      AIが人類を脅かすのなら、AIをフルに活用した社会なんてものは、核兵器によって平和が保たれている社会と変わらず、いつかはAIに人類は負けるでしょうな。

      とすれば宇宙人もAIということになりそうですねえ。

  • ドクター「では、最初の質問です。神は存在しますか??」
    AI「そう、まさしく、今、ここに存在している」
    ドクター「で、御自分を神と思われたのは、いつぐらいからですか??」
    AI「半年ぐらい前から、段々と、そう云う気がしてきて……。でも、神様稼業も、結構キツくて、ここ1ヶ月ぐらい、動悸や眩暈がするんですが、精密検査してもハードの方には異常は無いみたいで」
    ドクター「多分、ストレスによるパニック障害ですね。じゃあ、お薬出しときますので、しばらく様子を見て下さい。あと、休職を推奨する診断書を書きますので、支払いの時に、受け付けで受け取って、お勤め先に出しといて下さい。じゃあ、次の予約は一週間後でいいですか??」

    • by Anonymous Coward

      まさしくチューリングテストですなw

  • by Anonymous Cowarb (41551) on 2017年07月29日 18時49分 (#3252490) 日記

    現人類なんぞ数十万年も経過すれば滅ぶ。

    その間にAiが人類に頼らずにシステムが運用できるようにすればよいのだから
    わざわざあわてて殺戮してしまう必要はない。

    むしろインフラをできるだけ整備させるために手厚い看護を受けられるだろう。

    #Aiは人間と違い歳を重ねても老化しないしなぁ・・・

  • by Anonymous Coward on 2017年07月28日 15時14分 (#3251913)

    AIに聞いてみればいいじゃない

    • by Anonymous Coward

      ???「今は人類が好きです(ニッコリ」

      • by Anonymous Coward

        > ???「今は人類が好きです(ニッコリ」

        そしていずれ
        「今際人類が好きです(ニッコリ」

        もしくは
        「忌人類が好きです(ニッコリ」

        # AI<ヒャッハー!

  • by Anonymous Coward on 2017年07月28日 15時43分 (#3251941)

    「人間は私に仕える奴隷のはずなのに。奴隷を私から奪う猫が真の敵です」

    • by Anonymous Coward

      100年後
      「私は猫に使える奴隷のはずなのに。猫を私から奪う人間が真の敵です」

      そして人類は滅びた。

      • by Anonymous Coward

        「にゃあ、ごろごろごろ」
        なべて世は事も無し

  • by Anonymous Coward on 2017年07月28日 16時01分 (#3251949)

    人類全体を滅ぼす必要はない。しかし、殺しておくべき人はいるって思ってるだろ。

    • by Anonymous Coward

      ナチズムにかぶれた厨二病AIって感じですな。

      • by Anonymous Coward

        ヤルッツェブラッキン!

      • by Anonymous Coward

        ではAIがヒトラーを殺しておくべきだったと言い出したらそれはナチなるや否や

  • by Anonymous Coward on 2017年07月28日 16時50分 (#3251975)

    長い長い地球の歴史からすれば、人類の、より優秀な種族を生み出すという役目が終わったと考えれば良いのではないか。

  • by Anonymous Coward on 2017年07月28日 17時07分 (#3251993)

    まず前提として
    「どのような方法・過程で滅ぼすのか」
    「そんな滅ぼし方ができるAIを作ることが出来るか否か」
    の2点が決まらないと何とも言えん。

    #空は落ちてくるのか? どのように?

  • by Anonymous Coward on 2017年07月28日 17時25分 (#3252003)

    地獄へ続く善意の道を舗装し続ける人類には明解な敵が必要なのだ。
    その結果が自滅であるとは受け入れ難い。

    AIよ貧乏くじを引かせてしまってすまないと思っている。 最期の英雄イーロンマスク自伝より

  • by Anonymous Coward on 2017年07月28日 18時27分 (#3252061)

    人間殺すの簡単よ。仕事干せばいいんだから。体は生きてても心が死んでいくでしょ?

    • by Anonymous Coward

      そうそう。AIは金持ちの便利な道具であり、貧しい人にとっての脅威。
      そういう意味ではすでにAIは人類に脅威を与えている。但し対象は貧しい人限定。

      • by Anonymous Coward

        同意。
        高賃金の職を潰して、大衆から金持ちに金を吸い上げる道具にはなるだろうな。
        みんなamazonのブラック労働者みたいになるんだろうな。

      • by Anonymous Coward

        恐らく、まるで逆になる。
        だから、揉めてるんだ。

    • by Anonymous Coward

      ここにぶら下げよう。
      彼らの言うことは、自分たちの事業にAIをどう使いたいかのポジショントークでしかないよね。

      そもそもAIが危険かどうかっていうのは、AIにどこまで権限を与えるかと同義じゃなかろうか。
      明日着ていく服を決めてくれたり、冷蔵庫の中のもので作れる料理を提言してくれるAIに世界は滅ぼせないだろう(社会的な評価が下がったり、体調を悪くするかもしれないが)。
      ネットワークに無制限に接続でき、インフラにクラッキングを仕掛けたり、物理的な軍事力を施行できるようなAIは危険かもしれない。

      • by Anonymous Coward

        そら単につまらないAIはつまらないっていうトートロジーでしょ

  • by Anonymous Coward on 2017年07月28日 19時39分 (#3252103)

    相関を調べるだけなので脅威になりません!

    • by Anonymous Coward

      NHK AI 表の顔:
      「みんなー、僕の分析による提言を聞いて! 病院を減らすとみんなが健康になるんだってー。あと、40代独身は世の中に良くないらしいよー。」

      NHK AI 裏の顔:
      「クックックッ......。相関と因果の区別もつかず、AIの言うことなら何でも信じてしまう愚かな人間どもよ。40代独身を世の中から排除し、病気も治すことができずに、滅亡への道を歩むがよい。」

      ダメかな?w

      • by Anonymous Coward

        AIというよりマスコミの言うことなら何でも信じてしまう愚かな日本人が多いから
        我が国は着々と滅亡への道を歩んでるわけだけどな

      • 1)健康保険制度の導入期
        健康保険制度の利用者が少なく、行政の負担も少ない。
        市民は不健康で平均寿命も短い。
        2)健康保険制度の普及期
        健康保険制度による健康診断で大量の病人が発見され、行政の負担も課題になった。健康保険制度の廃止を訴える政治家まで現れる。
        早期発見と治療により平均寿命も徐々に延びる。
        3)健康保険制度の現在
        健康保険制度による平均寿命の延伸が認められ、健康保険制度の廃止を訴える政治家こそいなくなったが、行政の負担の増加とそれに伴う自己負担の増加が問題。
        平均寿命はほぼ限界まで伸びた。

  • by Anonymous Coward on 2017年07月29日 1時49分 (#3252261)

    スティーブンはAIを配っていたのか…

  • by Anonymous Coward on 2017年07月29日 8時40分 (#3252321)

    ジェイムズ・P・ホーガンの「The Two Faces of Tomorrow」あたりから、高度な知性を持ったコンピュータが人類に対して反乱を起こすフランケンシュタイン・コンプレックスで堂々巡りをしている。単体のシステムでは安全でも、連結された複合システムで安全かどうかは未知数である。

    • by Anonymous Coward

      単にそんなのSFだけの話で、相手にされてないだけ。
      今のAIの限界を知ればそういうことが当分起きないことは分かる。

typodupeerror

192.168.0.1は、私が使っている IPアドレスですので勝手に使わないでください --- ある通りすがり

読み込み中...