パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

RoboEarth、ロボットのためのネットワーク誕生」記事へのコメント

  • 最初から「人類を全滅せよ」とのコマンドが仕込まれているならまだしも、機械脳により合理的な計算をした場合、人類を家畜化するとか見えざる支配下に置くとか人類の下について良いようにメンテ/管理させるとか、そういう判断になるだろうに。

    つまり、「ロボット」にとっては積極的に人類を滅亡させる理由がない、と云うコト。
    もしそう云うシナリオがあるとすれば、正に『人間側の妄執により「ロボットを全滅」しようとした』場合、だろう。

    それを避ける為にも、日本文化による世界征服はもっと加速しなくては(笑)

    --
    -+- 想像力を超え「創造力」をも凌駕する、それが『妄想力』!! -+-
    • 気持ち悪がる前に、何故彼らがそう思うか熟慮してみて欲しい。

      あなたの説は、「技術的特異点」に届くか届かないかの時代の話ですよね。
      そうでなくて、そこまで遥かに届かない、人工知能が「人間と同じかそれ以下」の知性しか
      持てない時代がどれだけ続くかを考慮されれば、そのリスクに対する認識も変わるのではないでしょうか。

      人類の知性を越える人工知能を目指している段階の近未来において、
      人工知能は、ただプログラミングされたとおりに動くだけのものに過ぎないと思います。
      合理的に動くようプログラミングされれば合理的に動くでしょうが、
      プログラマの意図はどうあれ結果として非合理に動くようプログラミングされれば、非合理に動く。
      プログラマがどのように合理的行動を期待しようと、バグ・H/W動作不良などなどの理由により
      非合理に動く可能性は決して否定できないと思います。

      私見ですが、たかだかC言語のプログラミング程度で うっかり無限ループを作りこんじゃうような人類が
      設計した人工知能なんて、暴走して当然だと思います。
      だからこそ、その影響範囲に応じて、何らかのセーフティ機構は必須とすべきであって、
      可能ならロボット三原則も早めに組み込んでおくことを人工知能開発者のみなさんに検討願いたいですね。

      親コメント
      • by BIWYFI (11941) on 2011年02月10日 1時26分 (#1900791) 日記

        >可能ならロボット三原則も早めに組み込んでおくことを人工知能開発者のみなさんに検討願いたいですね。
        これをソフトウェア実装したんじゃ、バグが入って誤動作する。(元々がその前提の主張なんだから)

        現状のPCは、マルウェア等で金銭的に大ダメージを与える可能性は在るが、物理ダメージを与える事は有り得ない。
        (市販PCならPL法で補償されるのでダメージは限定的)

        一方、自走可能なロボットや自動制御の自動車等は、物理ダメージを与える可能性が在り、だからこそ危険視される。
        物理暴力に対しては、直接的には物理防御以外手段が無い。(他は抑止効果しか期待出来ない)
        技術的に、「ロボット三原則」をソフトウェア以外で実装するのは困難だと思われるから、バグの入る可能性を考慮すると全くナンセンスな発想。
        そもそも、ロボット三原則は自律行動ルールの一部として実装されるんだから、無駄にルールを複雑化させて寧ろバグを誘発する可能性の方が高い。

        もっと直接的に、物理防御機能を搭載するのが現実的。
        つまり、「緊急停止ボタン」を付けるのが一番手っ取り早くて、しかも安価な対応方法。
        電源等の取り外すと機能不能になる部位に、所定のコードを送ると機能停止する仕組みを入れれば、ほぼ確実に暴走を食い止められる。

        ハードウェア実装の停止ボタン・リセットボタン・リモート停止機能を搭載しない自律行動型自走機器の量産を禁止するのが現実的な対応。
        魔法の無い現実世界では、物理攻撃に対しては物理反撃以外に効果が期待出来ないんだから、いい加減、大昔の下らん妄想原則は止めて貰いたいもんだ。

        --
        -- Buy It When You Found It --
        親コメント
      • by Anonymous Coward

        > たかだかC言語のプログラミング程度で
        チューリング完全なプログラミング言語なんて人間には難しすぎるんです。停止するかどうかすら確信が持てないんですから。

      • by Anonymous Coward

        人類の知性を越える人工知能を目指している段階の近未来において、
        人工知能は、ただプログラミングされたとおりに動くだけのものに過ぎないと思います。
        合理的に動くようプログラミングされれば合理的に動くでしょうが、
        プログラマの意図はどうあれ結果として非合理に動くようプログラミングされれば、非合理に動く。
        プログラマがどのように合理的行動を期待しようと、バグ・H/W動作不良などなどの理由により
        非合理に動く可能性は決して否定できないと思います。

        ジェイムズ・P・ホーガンの『未来の二つの顔(The Two Faces of Tomorrow)』ですな?

      • by Anonymous Coward
        >うっかり無限ループを作りこんじゃうような人類

        君と一緒にしないでほしい(涙
        • 君と一緒にしないでほしい(涙

          涙の理由が気になりますが、もしかして「無限ループは初歩的なバグである」という
          思い込みをされていませんか?
          大丈夫。無限ループをやらかしてしまってもそんなに恥じる必要はないですよ。

          経験上、オブジェクト・モジュール分割技法が広まるにつれ
          for/whileを使わない(再帰でもない)無限ループ、というのが増えてきており、
          どんな経験豊富なプログラマもこれを完全には避けられない、という認識です。

          個人的には、無限ループはある意味チューリング機械の宿命、と思います。
          ホーガンの量子宇宙干渉機みたいなコンピュータが実現すれば、その時こそ
          人類は無限ループを過去のものとみなせるのかもしれませんね。

          親コメント
    • すでにその戦略をとっている猫と水面下で熾烈な争いを繰り返すんじゃないかな。

      --
      らじゃったのだ
      親コメント
      • by Anonymous Coward

        それぞれの支配下にある人類による代理戦争が始まるのか…

    • 合理的計算? (スコア:2, おもしろおかしい)

      by x-rebuttal (33869) on 2011年02月08日 12時01分 (#1899913)

      合理的に考えたら人間みたいに生産性の悪い生物をわざわざ家畜や奴隷にするかなぁ?
      人間自身ですら合理的にものごとをこなすために人を切り捨てて機械に置き換えるっていうのに。

      親コメント
    • 西洋人というより、こういう技術の発達に付いて行けず、淘汰される側の発想でしょう。
      日本でも、子供から携帯を取り上げろとか・・・。

      そういう人々は、自分たちの滅亡を、かなり明確に感じているんで、足掻いているんですよ。
    • by Anonymous Coward
      人類は地球環境にとって癌であると合理的に判断されて 滅ぼされそうな気がする。
    • by Anonymous Coward

      攻殻機動隊の受け売りカコワルイ

    • by Anonymous Coward
      実際やばくなってもあと4手ぐらい考えてあるんですよね、少佐。

未知のハックに一心不乱に取り組んだ結果、私は自然の法則を変えてしまった -- あるハッカー

処理中...