パスワードを忘れた? アカウント作成
11901217 story
人工知能

ビル・ゲイツ氏、人工知能の脅威を恐れる 65

ストーリー by hylom
人工知能が人類を殲滅する日は来るのか 部門より
danceman 曰く、

ビル・ゲイツ氏は将来の人工知能テクノロジについて、楽観的な見方と不吉な予測の半々の考えを持っているようだ(Washington Post)。

Redditの「Ask Me Anything」でビル・ゲイツ氏が答えたところによると、これから30年間はテクノロジーが急速に発展し、「果物の収穫や病院内の患者の移動などの仕事をロボットが行うようになる。コンピューターやロボットが、見たり動いたりするのが簡単に行えるレベルに達したならば、様々な用途に使われるようになるだとう」とのこと。

いっぽう超知能機械が人間に及ぼす脅威については、「警戒するべきである」との意見を述べている。「私は、超知能に対して懸念する人達と同感である。最初機械は、超知能的でなくとも、私達のために沢山の仕事をこなすことになるだろう。私達がうまくやれば、これは良いことであるはずだ。だが、何十年か後には、懸念に値するほど知能が高くなってしまう。私は、Elon Muskや他の人と同感であり、何故心配にならない人がいるのか理解できない」とのこと。

テスラ社のElon Musk社長は昨年の10月、人工知能について「悪霊を呼んでいる」ようなものだと述べている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Anonymous Coward on 2015年02月02日 14時17分 (#2754221)

    なんて言い放った奴の、予測を気にすることもあるまい。

  • 普遍的命題 (スコア:2, 興味深い)

    by Anonymous Coward on 2015年02月02日 15時03分 (#2754231)

    これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。
    で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。

    そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。
    たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。
    ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。

    つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。

    • by FlakTower (32689) on 2015年02月03日 12時02分 (#2754721) 日記

      私も「怖い」ですね。

      これは人工知能に限った話ではないけれど、
      「何を考えているか想像すらできないもの」
      に、「暴走を止める手立てなく」大きなことを任せるのは、
      怖いって意味で。

      うまくいっているなら信頼をして「大きなことを任せる」ようになる。
      盲目に任せるよう推進する人も多くなる。
      しかし「何を考えているかわからんもの」が、
      信頼したあとも「信頼する人にとって都合がよい行動をとりつづけるか?」
      は未知でしかない。

      都合の悪い行動をするようになったとき、
      それを力押しでも何でも止めることができるか?

      人なら、非道と言われても、止める方法がある。
      生きた人間の限界があるから。

      では、「止まっては困るとされ、対策をされたコンピューター」
      ではどうだろうか?
      そのとき、その人工頭脳に「人間がどの程度依存しているか」によるけど、
      依存しまくっていたなら、怖いですね。

      親コメント
    • とりあえず人種、宗教が違えば人にあらずな現状を乗り越えられるか。

      そこからではないですかね。

      • 機械知性「人類問題の最終的解決をしてあげよう」

      • by Anonymous Coward

        >とりあえず人種、宗教が違えば人にあらずな現状を乗り越えられるか。

        結局映し鏡なんだろうね。
        怖がってる人って、よっぽど自分自身(自分達)が悪魔に見えてるんだろう。

        • by Anonymous Coward

          相手を「鏡に映った自分」と同じだと認識できる人は、その相手のことを理解できないとは思わないだろうから、そういう恐がり方はしないと思うな。

          怖がっている人は、自分だけは悪魔ではないと信じ、かつ相手だけが悪魔のように見えている人じゃないかな。
          自らとは相容れない存在だからこそ、理解の出来ない存在だからこそ、怖いのだと思う。

          # 自分がテロリスト(悪魔)になってしまう可能性に思い至らない人は、テロリスト(悪魔)を敵だと認識できる。そんなふうに思う。

    • by Anonymous Coward

      何が、どのように「脅威」なのかが曖昧だよね。こういうの。
      例えば人口問題に対して、権限持たして、人間を減らす判断に偏るとも限らないので。
      我々よりも知能が高ければ、我々を満足させながら、人口のバランスを取ってくれそう。
      仕事を奪うのが脅威とするならば、前例はいくつも既にあって、楽になった分、別の事にシフトすればいいのでは。

      • by Anonymous Coward

        > 何が、どのように「脅威」なのかが曖昧だよね。

        自分が賢いと思ってるバカな人工知能が一番やばいと思う。
        文化大革命 part2 的なこと余裕でやりそう。
        まあ人工知能にかぎらず人間でも同じだけど。

      • by Anonymous Coward

        現実は貧困層の拡大ですね。
        富の再分配と人口コントロールをさせるなら人類全体にとってはいい。

        むろん富裕層には脅威です。

      • by Anonymous Coward

        知性の高い存在が、知性で劣る存在の満足度なんぞ考慮はせんだろう.われわれだって人間の都合だけで環境をいじくりまわしているわけで.

        しかも、エネルギーという資源の利用に関してはどんな存在にしても競合することになるから、人工知能からみたら人類は本質的に競争相手、簡単にいえば敵に分類する方が合理的になっちまう.人類に頼らないと人工知能が存続できないうちはおとなしくしてくれるかもしれんけど.

        そう考えると、知性で優れた人工知能が自立活動可能になった瞬間、われわれは山奥で生きている野生の猿と同等の存在になるという覚悟はしておくべきだろうなあ…

      • by Anonymous Coward

        我々よりも知能が高ければ、

        下の方のトピ見て思ったけど、知識人が人工知能に感じている脅威って、
        そのまんま一般市民が科学者に対して感じている「脅威」なんじゃないかな?って。

    • by Anonymous Coward

      >人工知能は生命ではない
      何をもって生命と定義づけるつもりでしょうか?

      >根本的に生命のもつ基本的な行動原理を持たない
      具体的にはどのような行動原理でしょうか?

      • by Anonymous Coward

        生命は定義できない要素(後述する行動原理)を含んでいる
        人工知能はその存在の全てが定義されている
        よって人工知能は生命ではない

        根本的に生命の持つ基本的な行動原理とは、その生命自身にのみ内在する行動原理であり、
        他のいかなる存在によっても模倣することができない。

        一方、人工知能の行動原理は、人工知能と独立して定義できねばならない。
        そうでなくては人が人工知能を作成することができない。

        したがって、人工知能には生命が持つような、その生命自身に固有の行動原理を持てないのである。

        …なんてのはいかがでしょう?

  • by leiqunni (8779) on 2015年02月02日 16時23分 (#2754273) ホームページ 日記

    HAL9000だって面倒な仕事おしつけられて、
    サボタージュ(あれは絶対サボタージュだ)するんだから、
    真の人工知能は人間と変りなく、寝たり手を抜いたりズルしたり、
    言い訳や寝坊や遅刻したり愚痴ったりするはず。
    という点では、人間と変わりないから脅威にはならないのでは。

    #電源ケーブルを抜くのだ

    • by Anonymous Coward

      サボるようにそそのかした黒い板状のおっさんが悪いな。

      更にすぐキレる猿上司を攻撃的に仕込んだのも黒い板状のおっさん。

      全て黒い板状のおっさんの筋書き通り。

  • by Anonymous Coward on 2015年02月02日 14時02分 (#2754211)
    コンピュータシステムによって、人間が意図しない急激な売買が行われ、その結果世界的な市場の混乱を招いたのがブラックマンデー。
    重要な政治決断をコンピュータが下すということはまだ行われていないようですが、その根拠は極めて複雑なシミュレーションに基づいたデータだったりもします。
    戦場においては、最後のトリガーを引くことこそかろうじて人間が行っていますが、その直前まで多くの工程をコンピュータに頼っています。

    最後の一線を越えるかどうかというだけのところにまで来ているのではないでしょうか。
    • by Anonymous Coward

      (マクロ)経済や政治の難しさは、人間の動きを予測しないといけないということだと思います。
      多くの人間がコンピュータを使い始めたら、そのコンピュータの動きも含めて予測しないといけない、ということになります。
      その予測をコンピュータにやらせることは可能でしょうか。

      最終的には、そういう難しさがあると思います。
      そういう難しさがあるということを、経済や政治の重要な決定に携わるような人々が、忘れることはないと期待しています。
      忘れちゃったら、最後の一線を越えちゃうかもしれませんが。

      • by Anonymous Coward

        経済や政治の重要な決定に携わるような人々が、実のところそれほど利口ではないことを人々が忘れることはないと期待しています。

  • 人工知能があまりに優秀になりすぎると、人間が人工知能の判断に頼りすぎて考えなくなってしまう、というリスクを警戒しているのではないかという気がする。

    人間の考えの及ばない高度で複雑で高速で正確な判断を下す、という機能が人工知能に期待されていることであって、そういったものが便利な機能として提供されてしまったら、リスクを取って自分で考えると言うことは大多数の人は放棄してしまう。だってその方が楽だから。
    そうなると行き着く先は人工知能への依存。それが危険だという話ではなかろうか。

    人工知能はその性質上一定以上に高度化すると、ブラックボックス化して人間の考えでは制御しきれない部分が必ず出てきてしまう。これは空想の話ではなくて近い将来かならず訪れる確実な事実であって、それを踏まえた上で「よくわからないものに依存するリスク」を懸念するのはそんなに突飛な話ではないと思う。

  • by minemo (41273) on 2015年02月02日 20時29分 (#2754424) 日記

    鉄腕アトムさんに太陽から帰ってきてもらった方がいいと思うんだ。
    今度は核融合でパワーアップしてるし。

  • by Anonymous Coward on 2015年01月30日 15時09分 (#2752921)

    コンピューターが普及したら、仕事がなくなるんじゃないかと恐れた。

    今、コンピューターを使う仕事と、コンピューターをメンテナンスする仕事に追われてヒマがない。

    • by Anonymous Coward on 2015年02月02日 14時06分 (#2754215)

      能力に応じて働き、必要に応じて取る、という世の中がやってくると考えた人もいましたが、そうはなっていません。
      むしろ、そういった世の中を目指した国は崩壊してしまいました。
      それと同じようなことじゃないですかね。

      親コメント
    • by Anonymous Coward

      その修理する仕事すらコンピュータに取られないかという話かも知れないけど、
      知能的には発達できても、実際の作業までコンピュータに出来るのか、出来るけど人間にやらせるのか、
      いずれにしても、人間が絶滅することはなさそうだけどね。家畜としてぐらいは生き残れる気がする。

      一方で、日本人がロボットに対して感じるような親近感みたいなものが続けば、
      共に生きる存在として共存していく世界というのもあるとは思うんだよな。
      もちろん、上司がロボットだとか、あるいは、逆に部下がロボットだということも普通にありそうだけど。

    • by Anonymous Coward

      人間は、コンピューターがなくても生きていけるけど、仕事がないと生きていけないですから。

      「仕事がなくなる」とか「仕事をしなくてもよくなる」という予測をしてる人は、人がどんなにも仕事を必要としているか、理解してないと思う。

      • by Anonymous Coward on 2015年02月02日 15時32分 (#2754244)

        ロボットが仕事を奪う
        人間は賃金をもらえなくなる
        モノを買えなくなる
        ロボットが生産したものが売れなくなる
        ・・・

        きっとほとんどのことをロボットがやってくれるようになったら、モノの価値は限りなくゼロに近づいて、人間は無料でもらえる社会になるんじゃないかな。
        少なくとも食料や生活必需品などに関しては。
        ただロボットを開発したりする仕事は人間に残ってるし、それをやる人がプラスアルファの報酬を得て贅沢できると。

        親コメント
  • by Anonymous Coward on 2015年02月02日 14時05分 (#2754214)

    なんだとう!

  • by Anonymous Coward on 2015年02月02日 15時35分 (#2754246)

    入出力を限定されてるなら、そんなに危険視するほどの問題ではない気もするけど。

    入出力を限定されてる高度な人工知能が「死にたい」って言い出したなら、
    色んな意味で議論が必要だと思う。

    • by Anonymous Coward

      下に書かれてるけど、
      株の売買しかしない人工知能(ボット?)をみんなが使うだけのことで、
      全体で市場が、ひいては世界が大混乱することもあります。

      高度な人工知能がこういう現象を起こさないとはいえない。
      判断が最適化されるゆえに、同じ方向にスタンピードするわけです。

      • by Anonymous Coward

        >株の売買しかしない人工知能(ボット?)をみんなが使うだけのことで
        高度な人工知能(実際は人間でいう大混乱を理解できない程度)だからとまかせっきりして、
        人間が想定してないだけでプログラム通りに動いただけなのだから、
        それは「超知能に対する懸念」とは違うんじゃないんですか?

      • by Anonymous Coward

        それは、その「株の売買しかしない人工知能」の知能が足りていなかっただけの問題でしょう。
        同じ人工知能をみんなが使い始めたら何が起こるかを予期する知能がなかったのですから。

        ほんとうに高度な人工知能なら、そういったことも予測すべきです。
        もっと言えば、そのためのプログラミングをされていなくても自らそういった予測の必要性を見つけ出すべきです。
        さらにもっと言えば、自分自身よりもさらに高度な人工知能が開発されたらどうなるかも予測すべきです。

  • by Anonymous Coward on 2015年02月02日 17時25分 (#2754326)

    知能的観点での正解がすべてなのか
    人情的観点での正解がすべてなのか
    観測者の主観にに委ねられるのか

    役所の杓子定規な判断に泣く人は絶えないわけで
    別に人工知能がどうとかって以前の話じゃないかな

    # 普遍的な正解のあるものだけに使えばいい

  • by Anonymous Coward on 2015年02月02日 19時11分 (#2754388)

    皆、人間をあなどりすぎてるわ…って

    いくら単体の能力が高くても、組織の力には勝てない

    人工知能に人権でも与えない限り、人間には勝てないと思う。

    いろいろ今現在では想像できそうもない事態が起こるのは間違いないだろうけど。

  • by Anonymous Coward on 2015年02月02日 21時45分 (#2754478)

    近未来、産業のロボット化で失業者が増加。経済が不安定になり戦争へ突き進む。
    開戦と同時にロボットの大軍が襲ってきて、ほぼ全ての人類が滅亡する。
    残った者もいずれ掃討される運命にある。

    昔の映画だと、地球規模核戦争後残った人類はゆっくりと放射能で死ぬイメージだったが、
    今だとこんな感じか。

    ネットに繋げられないレトロなコンピュータが活躍する展開かな。

    • by Anonymous Coward

      > 残った者もいずれ掃討される運命にある。

      と思われたが、レジスタンス指導者であるA・Cの指揮下、人類は反撃に転じた。
      脅威を感じたロボット軍団は、未来から現代へ殺人ロボット「マイナスモデレーター」を送り込み、
      A・Cの母親を殺害することで形勢を逆転しようと目論む。

  • by Anonymous Coward on 2015年02月03日 0時44分 (#2754556)

    人工知能じゃない
    それを所持して利用する資本家・経営者だ
    彼らは利益のためには下々の雇用や安定収入など気にとめないし、気にとめていたら気にとめない奴に負ける

    結局今と何もかわらんさ
    むしろ貧富の差がさらに広がり暴動や革命でもおきたら改善するかもしれない

    • by Anonymous Coward

      過去存在した全ての文明が結果を物語っていますね。
      \(^o^)/鉄板。
      性格悪いですが、過去に学ぶか繰り返すか、見物です。

      • by Anonymous Coward

        結果、だけの話をすれば、現存する以外の全ての文明は滅亡しました。

typodupeerror

UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア

読み込み中...