パスワードを忘れた? アカウント作成
9249307 story
サイエンス

科学技術の進歩による人類滅亡から人類を守れ 100

ストーリー by hylom
人工知能と核戦争と宇宙人、さあどれでしょう 部門より
あるAnonymous Coward 曰く、

「ガンで死ぬ可能性と知性を持ったコンピューターによって滅ぼされる可能性のどちらが高いか」というのは、SF小説ではオーソドックスなテーマの1つである。が、Skypeの共同創設者の一人であるJaan Tallinn氏は、この問題に真剣に頭を悩ませている。同氏はナノテクノロジやロボット工学、人工知能などの新技術によって人類が滅ぼされることを防ぐための研究をケンブリッジ大学、オックスフォードなどと共同で設立されたFHI(Future of Humanity Institute、現在はCSERに統合)で行っている(PC PRO本家/.)。

1965年にアラン・チューリングの友人であるIrving Good氏は、人類が作る最後の発明は、学習能力を持ち成長・進化する人工知能になるだろうと予見したという。FHIの創設者でオックスフォード大学の哲学者Nick Bostrom氏は、人類はいずれ超知性を持つ人工知能や生物を作り出し、それにより人類が危機に際する可能性は高いと見ている。しかし、一方で人類が技術的進歩を止めることは困難だという。

Nick Bostrom氏は「(問題を回避するには)人類は、技術進歩の先に重大な危険があると思った場合は、そこにたどり着かないように注意するしかない」と指摘している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • そりゃ遠い将来には人間の能力を超える人工知能ができるだろうけど、
    まだ緒もつかめていない現在からやっても仕方ないような。
    最悪ラッダイト運動 [wikipedia.org]にしかならないでしょう。

    --
    --- de FTNS.
    • 人工知能はよく知らないけど、四則演算ならとっくの昔に電卓に凌駕されてる。
      #フラッシュなんとかやそろばんの達人ならまだまだ戦えるでしょうけど。

      将棋対局や株の売買もすでに人工知能だかプログラムに負けてた気がする。

      真の脅威は「笑える」マシーンの出現かも。
      諸星さんの漫画で読んだはずだけどタイトル忘れた。
      #最後はAKBM(AKkanBe Machine)

      親コメント
      • 脅威っていうか、子供が親を越えていくのは当たり前のことで、逆にもし人類が自分の作ったものに絶対に凌駕されないということなら、先はないよ、って言うことの気がするんですよねー。

        親コメント
      • by Anonymous Coward

        単に人間が考えたアルゴリズムに従って計算をするだけのプログラムは、人口知能ではない。
        考えるという行為そのもののアルゴリズムの発明が必要だが、まだその片鱗すら今の時代には無い。

        • by Anonymous Coward on 2013年06月25日 16時49分 (#2408120)

          集合知的知能は片鱗ぐらいはあるんじゃないかなあ。
          えっ?「人口知能」ってそういう意味じゃない?

          親コメント
        • by Anonymous Coward on 2013年06月25日 17時31分 (#2408154)

          そもそも考えるという行為はアルゴリズムでは無いんじゃないかと愚考

          親コメント
          • 数式を解くのであれば、Mathematica とかその手の数式処理ソフトのほうが、そのへんの学生よりはるかに賢い。

            比較的単純なアルゴリズムであれば、遺伝的プログラミングにより自動的に発見できることは示されています。もちろん、難しい問題はまだまだですが、可能性はありえます。

            データから新しい規則の発見は、今盛んなデータマイニングの手法が人間を比肩あるいは凌駕しつつある(だからもてはやされている)。

            いろいろまだできないことはあるけれど、着実に進歩はしてきている。

            親コメント
    • by Anonymous Coward

      2045年には人工知能が人類を超えるって予想もあって、これが当たってたら生きてるうちにコンピューターの反乱を目撃できるかも。

      http://www.amazon.co.jp/dp/4331516830 [amazon.co.jp]

  • 人口が増える、高齢化する、そうなると医療費が嵩む。
    金の切れ目が縁の切れ目なら抑制されるが、命を助けるのは国の責務だ、或いは所得再分配だ。そうなると、財政危機になる。
    技術がなければ亡くなる人達も、平和で落ち着いた世界では生き永らえてしまう。http://diamond.jp/articles/-/16121 [diamond.jp]
    再分配するなら、未成年であるべきだろう。それにしても、保育器を卒業でき無い子供達を増やしても、やはり首が回らない。http://www.fukushihoken.metro.tokyo.jp/iryo/kyuukyuu/syusankiiryo/nicu... [tokyo.jp]
    • by Anonymous Coward

      いつまでも産めよ殖やせよってわけにいかないですよね。

      SFではよく書かれる未来。
      出産制限と、不要な人間の間引き。

      人類全体が平和で豊かになればなるほど、産めよ殖やせよではいずれ管理できなくなる。
      戦争や飢餓で減らすか、穏便に減らすか程度の違い。
      宇宙に棄民する未来すら望めず、地上で捨てるしかなさそうな感じ。

  • >「人類は、技術進歩の先に重大な危険があると思った場合は、そこにたどり着かないように注意するしかない」
  • by nemui4 (20313) on 2013年06月25日 15時50分 (#2408071) 日記

    「ガンで死ぬ可能性と知性を持ったコンピューターによって滅ぼされる可能性のどちらが高いか」というのは、SF小説ではオーソドックスなテーマの1つである。

    そんなテーマあったっけ?

    • by Anonymous Coward

      部門名の
      「人工知能と核戦争と宇宙人、さあどれでしょう 」
      の方がまだそれらしいな。

  • by PEEK (27419) on 2013年06月25日 15時52分 (#2408075) 日記

    地獄の夢しか生まれない

    --
    らじゃったのだ
  • by Anonymous Coward on 2013年06月25日 16時28分 (#2408103)

    ロボット、機械は、命令されれば人類を滅ぼそうとするでしょう。

    この手の話ではターミネーターが有名ですけど、
    キャシャーンとかの方が面白い。
    要は人間に命令されて働くはずの機械が、平和な地球を後世に残すためには、人間がいないほうがいいと判断するパターン。
    人間の命令通り働いて(大幅にネジが外れてはいましたが)人間を間引こうとしたわけですから。

    • ブライキングボスは落雷で誤動作したのではなかったっけ? まともに動作して人類排除を決めたというと、大鉄人17のブレインを真っ先に思い浮かべます。
      --
      ---- 6809
      親コメント
    • このパターンの最初は多分, アシモフの「われはロボット」でしょうね. ロボット物の古典中の古典ですが.

      作中では明確には言及されていませんが, スーザン・キャルビン博士は確信しているようです.

      親コメント
      • >このパターンの最初は多分, アシモフの「われはロボット」でしょうね.

        多分勘違いでは。

        ロボット三原則に基づくロボットが世界を支配することはあっても、
        それはロボットが政治家として極めて優れた資質を持つという話であって、

        「命令されれば人類を滅ぼそうとするでしょう。」
        は完全にロボット三原則違反。

        親コメント
    • たがみよしひさの「GRAY」なんかもそうですね。

      Wikipediaにわりとよくまとまってますけど、補足するとこんな感じかな:
      ロバート・J・デミトリにより開発されたコンピュータシステム「TOY」は、「人類の望みをかなえること」を目的としていた。その「TOY」が人類の行動を調査し解析した結果、人類の究極の望みが判明した。「人類は滅びたがっている」と。そして「TOY」は「ビッグママ」となり、人類の望みをかなえるべく世界の改造に着手した。その500年後の結果が「GRAY」の世界である。

      人類の福祉のためのマシンが何一つ異常動作をせずに人類を滅ぼしにかかるってんだから面白いですね。いや、正確には自力で滅びるのに手を貸すわけですが。

      あーでも考えてみればここまで1個も言及が見えない「HAL9000」もミッション完遂のためにクルーを殺したわけですが。「異常を来した」扱いになってますが、あれは正常動作としてクルーを殺す選択をした方が面白かったのにと思います。ボーマンたちとの付き合いと真のミッションの機密維持がデッドロックになっちゃったのを解決する手段を「heuristic」に編み出した結果があれ、という。

      --
      Jubilee
      親コメント
  • 機械の知性が人間のそれを上まって
    人間の存在を脅かすようになれば、
    素直に生活圏を譲り渡せばいいと思う。
    もう人間はいらないよってことでしょ。
    主役交代というだけじゃないかな。

    --
    屍体メモ [windy.cx]
  • この手の"人類を滅ぼしかねない技術"の代表格である原子力発電所にしても、ある程度は回せてるわけですから。
    知性を持った機械というのがどのような形で我々の前に現れるのかは想像できませんが、制御する"方法"を考える方が建設的ではありませんか?
    ま、これも私の頭じゃ難しいですけど。

  • by tear (11998) on 2013年06月25日 23時44分 (#2408454)
    生物としての人類は、内部情報を外部に移動させ、環境化することに勤しむあまりに、情報をメンテするだけの機械と化してしまった。
    異星人から見たら、地球を支配しているのはコンピューターを中心とした情報群であって、人間なんて細胞の一種にしかすぎない。

    なんか「戦闘妖精 雪風」ぽくなっちまったなあ。しばらくしてから、人類はけっこう細胞として優秀だと再評価されるんですね。

    ねえ、ご飯まだー? 人類さんとっくに夕飯たべたでしょ
  • by Anonymous Coward on 2013年06月25日 15時38分 (#2408063)

    ターミネータでよろしく。

  • by Anonymous Coward on 2013年06月25日 15時43分 (#2408065)
    知性の定義すらまともにできないのに、知性を持ったコンピュータの叛乱の心配とか。
    • by Anonymous Coward

      「記憶」だと思う。
      事実上無限の記憶領域と1つの処理系統がつながることこそが人間にとって脅威。
      人間の忘却能力は種の生存の為のセーフティネットだとするとそれを持たないコンピュータが人間を凌駕するのは自明。

      • by Anonymous Coward

        不要なものを忘却しないってことは学習していないってことだ。
        コンピュータがすべてを記録しているうちは人間を凌駕することはできないよ。

        # 有用な情報と不要な情報の区別がつくようになることが学習。

        • by aoppana (16506) on 2013年06月26日 10時04分 (#2408641) 日記

          コンピュータは不要なものを忘却できないけど、必要なものもまた忘れない。
          人間はどっちも忘れうる。

          あとデータの要不要なんか人間ごときが一見してわかるものなのかな。
          最近のビッグデータがらみの話を聞くと、そんなのはもう人間が判断する時代ではないと感じる。

          親コメント
          • by baldmage (45440) on 2013年06月26日 16時42分 (#2409069) 日記

            あとデータの要不要なんか人間ごときが一見してわかるものなのかな。

            どうして「一見」で分からなきゃいけないの?

            親コメント
            • by aoppana (16506) on 2013年06月26日 22時06分 (#2409447) 日記

              ああごめんなさい。
              別に一見でなくてもいいです。
              そもそも人間がデータの要不要を判断できると思ってるのが驕りだと言いたい。

              知能が人間と同じなら、データの量が勝敗を決するようになるんじゃないですかね。
              例えば誰かが過去にネットにアップした痛いポエムなんて一見不要なデータだけど、いざその本人と対峙したときに読み上げれば致命傷になるかも。

              親コメント
              • by aoppana (16506) on 2013年06月26日 22時25分 (#2409476) 日記

                おうふ。
                一見でなくてもいいとか言いつつ一見不要とか書いてら。
                無関係な人が真剣に検討したとしても、その結果記憶に残すようなデータじゃない、ぐらいの意味で読んでください。

                # こんな間違いも直接修正すらさせてもらえぬまま、永遠に記録される…

                親コメント
  • by Anonymous Coward on 2013年06月25日 15時49分 (#2408069)

    (人工知能による滅亡より)確率高いと思う。
    #人工知能 -> 核ってリンクしちゃいけないよ やったらターミネータの世界だ

  • by Anonymous Coward on 2013年06月25日 15時50分 (#2408072)

    > 人類はいずれ超知性を持つ人工知能や生物を作り出し、それにより人類が危機に際する

    世代交代であり歓迎すべき。優れた子は親の誇りだ。

    • by s02222 (20350) on 2013年06月25日 17時23分 (#2408148)
      地球生まれとして、地球産の何かが広く宇宙に影響を与えるなり、太陽やら宇宙やらの寿命を超えてしぶとく生き残るなりしてくれれば、それが何であるかは問わない気分。

      そもそも、それが達成できないんであれば、 最終的には太陽の寿命辺りで滅ぶのは確定するので、 滅ぶのがいくらか早まったところで大差ない。

      AIが人類を滅ぼすのも、核で勝手に滅びるのも、次のチャンスがあるなら特に問題は無い。 そのAIが頑張って進歩を極めてくれるなり、生物進化をもっかいやり直した次世代の知的生命体が頑張ってくれるなりすればいい。

      ただ、ついうっかり「あらゆるアミノ酸を分解するだけのナノマシン」みたいな事故とかで地球は更地にされました、終わり、だとすごくもったいない。核物質やら石油やらが枯渇してたので、次世代文明は微妙に奮わないまま太陽の寿命を迎えました、とかも。

      銀河にあまねくはびこれる可能性が完全否定されたら、まあ、引きこもってのんびりやるしかなくなるけど。 それまでは袋小路エンドだけは避けたい。
      親コメント
    • by PEEK (27419) on 2013年06月25日 15時59分 (#2408083) 日記

      子供たちが人間以外に進化していく可能性もあるしね。

      #カレランではなくカレルレンで。

      --
      らじゃったのだ
      親コメント
    • by Anonymous Coward on 2013年06月25日 17時35分 (#2408160)

      超知性AIは「滅亡」の定義についてモメると思うんだよなぁ。
      「計算機上でも精神活動をエミュレーションしている間は死んでいないから滅亡してないよ派」
      「物理的存在は必要だけど、違う生物になってても滅亡してないよ派」
      「ホモ・サピエンスの形は必要だよ、不死になっててもいいけど派」
      「最低限、死なない奴は人間じゃないだろ派」
      「いやAIのサポート無しで生活しなければ独立した種とは言えまい派」

      そして、「お前のは人類への反逆だ」「お前こそ人類の敵だ」と超知性AIによる大戦が始まり、巻き込まれた人類は

      親コメント
  • by Anonymous Coward on 2013年06月25日 15時58分 (#2408081)

    世の中が便利になりすぎで、人間として退化して滅亡する気がする。
    極度な安全化規制により、危険予知能力も低下しているし。
    (特に日本人は)

    • by Anonymous Coward

      その頃には他の星に脳だけ破壊する爆弾を打ち込んで健全な肉体をゲット。

      #もちろん現地の女に入れあげた情報将校のせいで全部パー

    • by Anonymous Coward

      あなたのような、いつまでも国の心配をしてくれる人がいるだけで、日本は安全ですよ

  • by Anonymous Coward on 2013年06月25日 16時02分 (#2408085)

    ああいうAIを作ればいい。
    で、試しに作ったのがうまく行ったらそれで本番運用。
    #これは別ネタ

    • by Anonymous Coward
      ヴィザーよりゾラックのほうが好み。

      エント人は市民権を得たんだっけ。
      読み返そう。
    • by Anonymous Coward

      節子、それ「未来の二つの顔」や。

      #まずいことが起きたら「未来からのホットライン」で…

  • by Anonymous Coward on 2013年06月25日 16時21分 (#2408096)

    宗教を克服できる発明よろ

    • by Anonymous Coward

      われらの神は決して克服されない。

      #ラーメン

typodupeerror

犯人はmoriwaka -- Anonymous Coward

読み込み中...