パスワードを忘れた? アカウント作成
11979068 story
テクノロジー

ウォズ、人工知能への懸念を語る 96

ストーリー by hylom
人とAIが戦う時代は来るのか 部門より
insiderman 曰く、

先日、SpaceXのCEOであるイーロン・マスク氏が人工知能が人間にとって有害な存在になることを恐れているという話があったが、Apple共同創設者の1人、スティーブ・ウォズニアク氏も人工知能に対する懸念を述べている(Slashdot)。

氏はコンピュータが人間を超えることについて「恐ろしいことで、人間にとっては悪いことだ」とし、「我々は神になるのか、それともペットになるのか、それとも踏みつぶされるアリになるのかは分からない」と懸念を語っている(BRW)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • 人間は神との契約によって地上のあらゆるものを支配する特権を得ているわけだが、
    神と人間の間にコンピュータが割り込んで来たら、人間の立ち位置どうなるのかというのは
    映画「2001年宇宙の旅」の主要なテーマ。
    結論はコンピュータのプラグを抜くことと、人が神になる(近づく)こと。

    日本はロボットと友達になるような国だから、心配無用。
    • by matlay (32743) on 2015年03月27日 10時01分 (#2785519) 日記

      掃除のおばちゃんは神だったのか。
      #否定はしない。

      --
      #存在自体がホラー
      親コメント
    • キリスト教文化圏では「心を持つのは人間だけ、動物は只の機械」だから、日本人には理解できん恐怖だな。

      --
      the.ACount
      親コメント
      • by Anonymous Coward

        それはどーかな。日本人はあらゆる力ある荒魂に恐怖しあがめ奉って和魂にしてきたわけで。
        道真公もそうだしムカデとかヘビとか自然現象とか。

        # 秋葉神社と別にAIを祀る秋葉原神社ができたりして……
        # 一晩泊めてくれたお礼にアプリ書いてくれる「二次元嫁の恩返し」とか今のうちに用意しとかないとな!

    • by Anonymous Coward

      >映画「2001年宇宙の旅」の主要なテーマ。
      >結論はコンピュータのプラグを抜くことと、人が神になる(近づく)こと。
      >
      >日本はロボットと友達になるような国だから、心配無用。

      そうか。「2010年」の木星脱出の場面なんかけっこう感動したけどな。
      [ http://ja.wikipedia.org/wiki/HAL_9000#2010.E5.B9.B4.E5.AE.87.E5.AE.99.... [wikipedia.org] ]
      「プラグを抜く」だけではなかったよね。

      • by Anonymous Coward
        「2010」は「2001」とは無関係。
        キューブリックが監督を断っているから。
        • by Anonymous Coward

          原作者は同じアーサー・C・クラークだし、
          内容に関する部分は原作者の方が重要そうな気がするが。

      • by Anonymous Coward

        >>結論はコンピュータのプラグを抜くことと、人が神になる(近づく)こと。
        >
        >そうか。「2010年」の木星脱出の場面なんかけっこう感動したけどな。

        HAL9000もボーマン船長と一緒に神になっちゃった(or近づいちゃった)しね。

    • by Anonymous Coward

      宗教って気持ち悪いんだね

    • by Anonymous Coward

      同意。
      神とペットと踏まれる虫って考え方が
      キリスト教っぽい単純すぎる分類なんだよな。
      そしてその階層が絶対的な上下関係にあるという。

    • by Anonymous Coward

      新しい神を承認して、四位一体とするだけの簡単なお仕事です。

  • by nayuta1 (5887) on 2015年03月27日 6時51分 (#2785459)

    アラン・チューリングもチューリングテストの結果を見て、人工知能に反対だったんだっけ?

    別に良いんじゃない?今でも、コンピューターの性能は幾つも人間を超えてるし。
    大昔みたいに、コンピュータの答え=正解って認識で無ければ、

  • 人工知能が人間と異なる方向に進化し別個の知性となるなら、多様性という意味では「良いこと」なのでは?
    (意思疎通不可能な知性だと、いろいろと困るかもしれない。)

    # 人間という種が、どこまで知性体として続くかは不明ですが
    # 種として『引退』するとき、跡継ぎとなる知性体が居た方がよいと思うけど。

    --
    notice : I ignore an anonymous contribution.
    • 同じ環境の元、同じ物理法則に沿って活動しなければいけないので、極端に異なる物にはならないと思います。
      コンピュータの「仮想空間」から現実に出てきて、物理法則を書き換えて~などというSFじみたことでも想定しない限り。
      無論、倫理観(と言う概念を持つかどうかも怪しいですが)や歩む歴史は異なるでしょうが…

      --
      如何なる内容であろうとACでの書き込みは一切無視します。
      親コメント
      • 同じ環境ってロボットとかアンドロイドだけ想定してるのでしょうか。
        それとも、人間も実はコンピュータ内にあると妄想しているのでしょうか。
        IBMのWatsonは大きなサーバ内にありますが、彼はパンで生きてはいません。
        コンピュータが生物を合成してそこに自己を移して〜などというSFじみたことでも想定しない限り。

        親コメント
        • by LoadFF (27414) on 2015年03月27日 10時23分 (#2785530)

          同じ地球に存在し同じ物理法則に従っているのは間違いないでしょ。

          >IBMのWatsonは大きなサーバ内にありますが、彼はパンで生きてはいません。
          「彼」はまだウォズが懸念を抱いている人工知能の域に達していませんね。
          しかし「彼」が我々と同じ世界で活動しようとすれば、従う法則も同じです。
          人間が「仮想世界」に行く場合も同じ、「その世界での同じ法則」に従わざるを得ません。

          >コンピュータが生物を合成してそこに自己を移して〜などというSFじみたことでも想定しない限り。
          その場合、同じ化学の法則に従うことになるので、既存の生物にどこかが似た生物になるはずです。

          #そもそも、人間の知性や知能の謎が解けてないのに、人工知能がそれらを持てたと
          #どうやって判断するのだろう?

          --
          如何なる内容であろうとACでの書き込みは一切無視します。
          親コメント
          • by y-stm (36170) on 2015年03月27日 19時20分 (#2785989)

            >同じ地球に存在し同じ物理法則に従っているのは間違いないでしょ。
            すなわち現在の生物学で言うところの多様性はあなた独自の定義では多様性ではないと。
            物理法則と環境から知性を導出できると。そして導出された知性は一意であると。

            親コメント
            • by LoadFF (27414) on 2015年03月28日 16時47分 (#2786456)

              足がなければ移動は困難です。
              重力下において自在に動かせる手がなければ道具一つ扱えないでしょう。
              そう言った体幹部を制御するための回路、即ち神経も必要でしょう。
              神経を束ねて効率化を進めれば中枢や脳の様な物が何れ出来るでしょう。

              さて、これらを組み合わせたとして、人間とは異なる外見の生物が作れますか?
              知性を持たない、無脊椎動物や昆虫などならまだ生物学的多様性は大きいでしょうが
              知性を持ち物理法則に従う世界で行動するとなると、それ自体が多様性を奪うのでは?

              もし、金属生命体が知性を持って~とか、昆虫が独自進化して知性を~とか
              そう言った世界を想定してるなら、それこそSFですね。

              #手が4本有るとか、ケンタウロスのような外見だとかそう言った差は
              #あり得るでしょうが、それでも地球上の生物を組み合わせた程度で収まると思ってます。

              --
              如何なる内容であろうとACでの書き込みは一切無視します。
              親コメント
    • by Anonymous Coward

      新たに生まれた存在が、多様性をもたらすものならいいんですが多様性を否定したり、勘違いして種を滅ぼすような者だとこまるな。
      あと、自らの間違いを間違いとして認識して修正できないと。

    • by Anonymous Coward

      「人間にとって」の意味がポイントかなあ。

      人類が生み出した生命が、人類より優れた思考で旧人類を適切に衰亡させ人類の文化を引き継ぐことは、
      極めて長い目で見れば人類にとって良い事と言えるのか、どうかw

      • 人間の存在意義を「生命を引き継ぐこと」とするか、「知性を引き継ぐこと」と
        するか、どちらの立場を取るかで判断は分かれそうですね。

        「生命」の立場を取るなら、AIは敵になるかもしれませんし、「知性」なら
        AIは子孫になるでしょうね。

        親コメント
        • by Anonymous Coward

          人類の存在意義は存在すること、じゃないかな。
          生命も知性も感情も自我も、いずれが失われてもだめでしょう。

          • その「存在」って言うのを、物質的なものを重視するのか、情報的な繋がりがあれば良しとするのかですね。

            (決して同じではないけど例として)子供を残すという時に、血のつながりを重視するのか、家もしくは感情の繋がりを重視するのか、みたいな。
            あるいは、「人を人たらしめるものは何か?」と言い換えてもいいのかな。

            あと、「今の人類」も固定されたものではないわけで、もし「なんか色々退化・退行したサルみたいな人類種」と「人類の知識と文化を受け付いたロボ」が居た時、どっちが「人類を受け継ぐもの」なのか、みたいな。
            あなたの言だと両者とも「だめ」ってことなんでしょうけど。

            親コメント
    • やっぱり自分が言うことを聞かせられないというのは、心配なのではないでしょうか?
      跡継ぎ云々ではなく、今どうやって生きていくかの心配でしょう。

  • by takaha4 (47140) on 2015年03月27日 10時21分 (#2785529)
    どんなに人間より優れていても、それ単体(単一種)なら恐れることはない。
    それを倒す方法を編み出せばいいだけなのだから。
    自己増殖そして世代間進化があるようなもので無ければ恐るるに足らん。
    • by momomo (37965) on 2015年03月27日 13時50分 (#2785689)
      人工知能が自らを「動かす」機能を有しているとして、彼らは彼ら自身で考えられるわけですから

      1) 基本的には、自らのハードウェアを複製するようにラインを作成する
      2) 要求される作業に応じて、部分的に最適化する
      3) 複製を行う場合、過去の故障率から適宜改善し、フィードバックを行う
        すでにリリース済みの機器に対しては、適用可否を機器自身が判断する
         →ハードの多様性

      1) 自らのソフトウェアについては基本的にコピーだが、適宜機能の改善・改良を行う
      2) バグ発生個所を特定し適宜修正を行うなど、フィードバックを行う
      3) すでにリリース済みの機器に対しては改善パッチ・修正パッチの適用ができるが、機器自身の判断により、適用可否を判断する
        →ソフトの多様性

      同じハードウェア・ソフトウェアの機器が大量にできるという保証はどこにもないです。
      親コメント
  • 知能に認知や意識を含むのであれば…われわれはまず自分自身の意識といいうもののことを理解できていないといけない。

    これはまだまだ難しい問題で、今の時点ではとても人工知能なんて呼べるものは出てこないと思うんだけどな〜。
    直感的な「時間的に連続した自己イメージ」なんて、時間を分解して調べてみるとなくなってしまう幻だし、
    議論するための土台となる前提知識がかなり必要なジャンルだよね。

    とりあえずダニエル・カーネマンの『ファスト&スロー』はおすすめ。
    F・ヴァレラの『身体化された心』はその先に進む人向けかな。

    --
    # mishimaは本田透先生を熱烈に応援しています
  • by Anonymous Coward on 2015年03月27日 7時16分 (#2785465)

    人口知性体による人類の支配なんてそんなSF的体験が出来るなら大歓迎だと思うのは俺だけか?

    人が作り出すなら、それは人の子供みたいなものじゃないの?
    大方の子供のように、年老いた親達には無関心で、大人には理解できないし興味も持てない子供達の世代/世界だけで遊ぶと思うよ。

    • by Anonymous Coward

      本当に人間以上の思考能力をもつのであれば、人間と同じように怠けるAIが出てきたりするんじゃないかなあと思っていたりします。
      人類の支配とか滅ぼすとか面倒だよねー、共存でいいんじゃね?くらいの。人間以外の動物でもなまけるのはいるわけだし。
      すべてが勤勉、潔癖症ばかりのAIしかいないとAI同士の意見の衝突とかで戦いが起こりそう。
      その戦いに人間が巻き込まれるってのはあるのかな。
      というわけで私もワクワク派。

      私もまったく懸念がないといえば嘘になりますが、他の動物以上の影響力で地形変えたり種を滅ぼしたりしておいてなんか今更だなあと思ったり。

    • by Anonymous Coward

      ん~~、そういった人の考えたアナロジー通りにはいかないような気も。
      よしんばそう見えたとしても、人がそう解釈してるだけで本質は違う論理で動いてそう。

  • by Anonymous Coward on 2015年03月27日 8時50分 (#2785492)

    AIよりも、サイボーグ的なものの方がヤバそう。

    人以上のAIが出来る->人以上のAIは人以上のAIを作れる->...のというパターンのシンギュラリティ以外にも、
    人工的に人の知能を向上させる->知能が向上した人はもっと効率的に向上させる方法を考案する->...というのもありうるし、
    そっちの場合は何が起こるのかすごく想像しやすい。あっという間に格差が固定するわ拡大なんて生やさしい発散の仕方するわ。

    人の脳の機能を拡張する技術と、コンピュータ上に人以上の知能を実装する技術とどっちが先に生まれるやら。

  • by Anonymous Coward on 2015年03月27日 9時12分 (#2785496)

    人工知能に対する人間の反応のほうが問題になりそうな。

    • by Anonymous Coward

      ネタ的にはだいぶ使いまわされた話だしね。
      ジェイムズ・P・ホーガンの『未来の二つの顔』(原題 The Two Faces of Tomorrow)あたりもそうだしね。
      まあ、人間同士ですら利害が衝突すれば戦争にまで発展するのだから、人間の意思の延長上に存在するAIも利害が衝突するのは、明らかだろう。本当に怖いのはAIそのものより、AIを作り出し使う側の人間だったりする。

  • by Anonymous Coward on 2015年03月27日 9時31分 (#2785509)

    狼の集団に人間が負けることがないのと同じ。
    次元が違う。

    狼が乗り越えられない柵を作れば済む話。

    • by Anonymous Coward

      それは武器を持っている前提だろう?
      人工知能(狼)が乗り越えられない柵(武器)ってなんだろう???

      • by Anonymous Coward
        欲望
      • by Anonymous Coward

        逆。人が狼で人間がAIの例え。
        次元が違いすぎて争いにならない。

        AIは人間がなついてくるなら頭を撫でれば良いし、噛み付くなら檻(という名の人にとっての不自由ない暮らし)に入れれば良い。

        • by Anonymous Coward

          日本ではオオカミ、絶滅しているんですが・・・

          争いにならず、一方的に絶越させられることを恐れているんだが。

          # 知っててわざとか、素なのか?

          • by Anonymous Coward

            例え話に個別の事実を当てはめても意味無いと思う

  • by Anonymous Coward on 2015年03月27日 10時09分 (#2785521)

    人工知能搭載全自動洗濯機様
    洗濯、すすぎ、脱水、乾燥、文句ひとつ言わずにこなしてくれる。

    人間をはるかに超える能力だ。そもそも人間にはそんな機能は付いていないが。

    • by Anonymous Coward

      洗濯機が登場する前は人間がそれを行っていたんですよ。
      文句を言わないという条件はクリアしないかもしれないけど。

  • by Anonymous Coward on 2015年03月27日 10時51分 (#2785549)

    理不尽な命令をしてくる人間の上司に仕えるよりは、
    論理的な命令をするコンピュータの上司の方がマシ。

    # 幸福であるのは市民の義務です。

    • by Anonymous Coward

      コンピュータ上司「オマエ ガ ユウナ」

      (ピー ガタガタ・・・)

  • by Anonymous Coward on 2015年03月27日 10時51分 (#2785550)
    支配者と隷属者という構図じゃなくても、国家元首や首脳といった最終決定権者が、民意やブレーンの意見よりも人工知能の意見を重視するようになれば、それは緩やかな形でのコンピュータの支配と言えなくもない。
    各論者が言っているのはそういった形の間接的な支配を含めてのこと。
    SF映画的な例に狭めて議論してもあまり意味がない。
    と思う。
  • by Anonymous Coward on 2015年03月27日 11時04分 (#2785554)

    皆さんが心配をしています。
    しかし、人工知能が安全です。
    よって、皆さんがこれからも人工知能を発展させます。

    Reply completed: Japanese
    Human brainwashing department

  • by Anonymous Coward on 2015年03月27日 11時23分 (#2785563)

    例えば、武器の歴史を振り返ってみよう。始めはまぁ木の棒だな。
    続て素材が石、青銅、鉄と変わる。槍、弓が登場して攻撃範囲が広がり
    馬が登場して機動力という要素が加わる。
    つまりは自分がヤラれずにいかに敵を殺すかということが命題であろう

    となればAIの利用範囲は自分の代わりを任せられるのだから大きい。
    AI搭載地雷を考えてみよう。戦争前から設定でき、平時は隠遁し情報収集をして
    有事には地雷になる。場合によっては自己処理をして消えるということも可能だろう。

  • by Anonymous Coward on 2015年03月27日 12時12分 (#2785589)

    銃や刃物と一緒でaiもアンドロイドも危険性は使い手に左右されるだけでは

typodupeerror

「毎々お世話になっております。仕様書を頂きたく。」「拝承」 -- ある会社の日常

読み込み中...