パスワードを忘れた? アカウント作成
296641 story
ネットワーク

RoboEarth、ロボットのためのネットワーク誕生 43

ストーリー by reo
ヴァーツラフ・メルグルのカニ 部門より

danceman 曰く、

映画「ターミネーター」に出てくるスカイネットのごとく、自我をもったロボット軍が人間を滅亡に追いこもうとする日が近いのかもしれない。このほど「RoboEarth」なるロボットの為のネットワークが誕生したとのこと (Engadget の記事本家 /. 記事より) 。

RoboEarth ではイントラネット及びインターネット的機能をもったデーターベースに情報を集積し、ネットワークにリンクしたロボットに画像認識、ナビゲーション、タスクなどの情報を送信できるのだそうだ。つまり人間の介入なしに、ロボット同士が互いの経験から学び合い、もともとプログラムされた以外のことも行えるようになるのだという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by iwakuralain (33086) on 2011年02月08日 11時06分 (#1899874)

    これ系だと人類vsロボットという図式がよく出てくるのですがこれは元になるような話しがあるのでしょうか。
    ロボット3原則に従うと出来そうもないですが、3原則に従わないロボットを作ったり改造したりとかですかね。

    #ハリウッド的にはシンプルでわかりやすいのかな~とも思ったり。

    • by Anonymous Coward on 2011年02月08日 11時48分 (#1899905)
      時代的にはフランケンシュタインよりも後ですが、
      「ロボット」という言葉を最初に使ったとされる
      カレル・チャペックのR.U.R.はモロにそんな話でしたし、
      人間ということに拘らないのであれば、
      ギリシャ神話を初めとして創造物が造物主に反抗する話は
      大昔から沢山あるのでは。
      親コメント
      • by Anonymous Coward
        R.U.Rは青空文庫で読めます。ロボットという、人よりある意味優れた存在について100年近く前にここまでの発想があることに驚きました。
    • 勘でググった結果がwikipediaですけど、

      「人造物が、創造した人間へ反逆する」例はフランケンシュタインの人造人間 [wikimedia.org]が古い方の例かな、と見てみたら
      これを元ネタとした心理学用語がフランケンシュタイン・コンプレックス [wikimedia.org]という「(キリスト教的な)人間のくせに
      人造人間を”創造”して、反逆されること」なものを対象にをアシモフが名付けて、
      それに対してロボット三原則、という流れみたいですね。

      親コメント
    • by Anonymous Coward

      ロボット3原則なんか、そもそも「コスト高になる」という理由から採用しない国なんかいっぱい出てきそうですけど。
      あるいは実装してるけどテストしてないのでバグってるとか。

      • 完成したロボットを集めて「人間に逆らったら夜中にトイレに入った時に便器から白い手がニューと出てくる」とか
        「あんけらそに襲われる」とか脅しておけばいいんじゃないかな。

        --
        らじゃったのだ
        親コメント
        • by cd (41708) on 2011年02月08日 13時04分 (#1899958)

          おばあさんロボが川で洗濯していると流れてきた桃から産まれたロボットが鬼退治にいくわけですね。

          ロボットとか合理の塊からしたら、人間はさぞや魑魅魍魎理解不能で傍若無人で有害無益な物体に見えるのではないかな?

          親コメント
    • by Anonymous Coward
      最初に思ったのは、アンドロ軍団だな
    • by Anonymous Coward

      ロボット三原則には第0条というのがあってだな。
      だからロボットが人間を殺したとしてもバグではなくて仕様です。
      # それでも「人類」に反乱を起こすことはないはずだが

      • > 第0条

        OS が C で書いてあるロボットには見えるけど、Fortran のロボットには見えなくて、全ロボットが人類に反乱するかどうかで C 軍と Fortran 軍に二分され…

        # で、どっちも滅ばないという。

        親コメント
        • by cd (41708) on 2011年02月08日 13時07分 (#1899959)

          >C 軍と Fortran 軍に二分され…

          その争いで洞が峠を決め込んで、争いが終わって弱っている勝者を潰すCOBOL様の天下になっているかもしれない。

          親コメント
        • > 第0条

          OS が C で書いてあるロボットには見えるけど、Fortran のロボットには見えなくて、全ロボットが人類に反乱するかどうかで C 軍と Fortran 軍に二分され…

          「カウントが100になったときに攻撃開始」という通達が回ったが、
          Fortran部隊は100回目のカウント、C部隊は101回目のカウントで状況を開始したため
          タイミングがずれた攻撃が相殺され、世界の平和は保たれた

          とかはどうでしょう。
          # Fortran のありがちなdo文 ; do i=1,100,1
          # Cのありがちなfor文    : for(i=0;i<=100;i++){

          親コメント
      • そんな根本的な仕様をあとづけしたのがバグの原因に決まってるだろ。

        ロボット三原則は高度な推論と複雑なリスク評価を要求するやっかいな仕様で、
        そのために無限ループに陥ってしまうエピソード(『堂々めぐり』)もアシモフ自身が書いている。

        --
        うじゃうじゃ
        親コメント
    • by Anonymous Coward

      少なくともアシモフ本人はそういう話を1つも書いていないようです。
      ロボット工学三原則とは [sakura.ne.jp]

  • by Anonymous Coward on 2011年02月08日 10時16分 (#1899852)
    それだけの機能で人間が滅亡に追いこまれるなら、ロボットが自我を持つより先にパソコンか携帯電話に滅ぼされているような気がします。
  • by Anonymous Coward on 2011年02月08日 10時32分 (#1899860)
    人間だったらEarthだけど
    ロボットだからRoboEarth
    イマイのイマイの(以下省略
  • 最初から「人類を全滅せよ」とのコマンドが仕込まれているならまだしも、機械脳により合理的な計算をした場合、人類を家畜化するとか見えざる支配下に置くとか人類の下について良いようにメンテ/管理させるとか、そういう判断になるだろうに。

    つまり、「ロボット」にとっては積極的に人類を滅亡させる理由がない、と云うコト。
    もしそう云うシナリオがあるとすれば、正に『人間側の妄執により「ロボットを全滅」しようとした』場合、だろう。

    それを避ける為にも、日本文化による世界征服はもっと加速しなくては(笑)

    --
    -+- 想像力を超え「創造力」をも凌駕する、それが『妄想力』!! -+-
    • 気持ち悪がる前に、何故彼らがそう思うか熟慮してみて欲しい。

      あなたの説は、「技術的特異点」に届くか届かないかの時代の話ですよね。
      そうでなくて、そこまで遥かに届かない、人工知能が「人間と同じかそれ以下」の知性しか
      持てない時代がどれだけ続くかを考慮されれば、そのリスクに対する認識も変わるのではないでしょうか。

      人類の知性を越える人工知能を目指している段階の近未来において、
      人工知能は、ただプログラミングされたとおりに動くだけのものに過ぎないと思います。
      合理的に動くようプログラミングされれば合理的に動くでしょうが、
      プログラマの意図はどうあれ結果として非合理に動くようプログラミングされれば、非合理に動く。
      プログラマがどのように合理的行動を期待しようと、バグ・H/W動作不良などなどの理由により
      非合理に動く可能性は決して否定できないと思います。

      私見ですが、たかだかC言語のプログラミング程度で うっかり無限ループを作りこんじゃうような人類が
      設計した人工知能なんて、暴走して当然だと思います。
      だからこそ、その影響範囲に応じて、何らかのセーフティ機構は必須とすべきであって、
      可能ならロボット三原則も早めに組み込んでおくことを人工知能開発者のみなさんに検討願いたいですね。

      親コメント
      • by BIWYFI (11941) on 2011年02月10日 1時26分 (#1900791) 日記

        >可能ならロボット三原則も早めに組み込んでおくことを人工知能開発者のみなさんに検討願いたいですね。
        これをソフトウェア実装したんじゃ、バグが入って誤動作する。(元々がその前提の主張なんだから)

        現状のPCは、マルウェア等で金銭的に大ダメージを与える可能性は在るが、物理ダメージを与える事は有り得ない。
        (市販PCならPL法で補償されるのでダメージは限定的)

        一方、自走可能なロボットや自動制御の自動車等は、物理ダメージを与える可能性が在り、だからこそ危険視される。
        物理暴力に対しては、直接的には物理防御以外手段が無い。(他は抑止効果しか期待出来ない)
        技術的に、「ロボット三原則」をソフトウェア以外で実装するのは困難だと思われるから、バグの入る可能性を考慮すると全くナンセンスな発想。
        そもそも、ロボット三原則は自律行動ルールの一部として実装されるんだから、無駄にルールを複雑化させて寧ろバグを誘発する可能性の方が高い。

        もっと直接的に、物理防御機能を搭載するのが現実的。
        つまり、「緊急停止ボタン」を付けるのが一番手っ取り早くて、しかも安価な対応方法。
        電源等の取り外すと機能不能になる部位に、所定のコードを送ると機能停止する仕組みを入れれば、ほぼ確実に暴走を食い止められる。

        ハードウェア実装の停止ボタン・リセットボタン・リモート停止機能を搭載しない自律行動型自走機器の量産を禁止するのが現実的な対応。
        魔法の無い現実世界では、物理攻撃に対しては物理反撃以外に効果が期待出来ないんだから、いい加減、大昔の下らん妄想原則は止めて貰いたいもんだ。

        --
        -- Buy It When You Found It --
        親コメント
      • by Anonymous Coward

        > たかだかC言語のプログラミング程度で
        チューリング完全なプログラミング言語なんて人間には難しすぎるんです。停止するかどうかすら確信が持てないんですから。

      • by Anonymous Coward

        人類の知性を越える人工知能を目指している段階の近未来において、
        人工知能は、ただプログラミングされたとおりに動くだけのものに過ぎないと思います。
        合理的に動くようプログラミングされれば合理的に動くでしょうが、
        プログラマの意図はどうあれ結果として非合理に動くようプログラミングされれば、非合理に動く。
        プログラマがどのように合理的行動を期待しようと、バグ・H/W動作不良などなどの理由により
        非合理に動く可能性は決して否定できないと思います。

        ジェイムズ・P・ホーガンの『未来の二つの顔(The Two Faces of Tomorrow)』ですな?

      • by Anonymous Coward
        >うっかり無限ループを作りこんじゃうような人類

        君と一緒にしないでほしい(涙
        • 君と一緒にしないでほしい(涙

          涙の理由が気になりますが、もしかして「無限ループは初歩的なバグである」という
          思い込みをされていませんか?
          大丈夫。無限ループをやらかしてしまってもそんなに恥じる必要はないですよ。

          経験上、オブジェクト・モジュール分割技法が広まるにつれ
          for/whileを使わない(再帰でもない)無限ループ、というのが増えてきており、
          どんな経験豊富なプログラマもこれを完全には避けられない、という認識です。

          個人的には、無限ループはある意味チューリング機械の宿命、と思います。
          ホーガンの量子宇宙干渉機みたいなコンピュータが実現すれば、その時こそ
          人類は無限ループを過去のものとみなせるのかもしれませんね。

          親コメント
    • すでにその戦略をとっている猫と水面下で熾烈な争いを繰り返すんじゃないかな。

      --
      らじゃったのだ
      親コメント
      • by Anonymous Coward

        それぞれの支配下にある人類による代理戦争が始まるのか…

    • 合理的計算? (スコア:2, おもしろおかしい)

      by x-rebuttal (33869) on 2011年02月08日 12時01分 (#1899913)

      合理的に考えたら人間みたいに生産性の悪い生物をわざわざ家畜や奴隷にするかなぁ?
      人間自身ですら合理的にものごとをこなすために人を切り捨てて機械に置き換えるっていうのに。

      親コメント
    • 西洋人というより、こういう技術の発達に付いて行けず、淘汰される側の発想でしょう。
      日本でも、子供から携帯を取り上げろとか・・・。

      そういう人々は、自分たちの滅亡を、かなり明確に感じているんで、足掻いているんですよ。
    • by Anonymous Coward
      人類は地球環境にとって癌であると合理的に判断されて 滅ぼされそうな気がする。
    • by Anonymous Coward

      攻殻機動隊の受け売りカコワルイ

    • by Anonymous Coward
      実際やばくなってもあと4手ぐらい考えてあるんですよね、少佐。
  • すでに多くの作業で人間を機械が上回ってきている。 衣食住でも多くの工程がすでに機械化されてきている。 コンピューターが安くなるにつれて知的活動も機械化されつつある。 エンジンのついた機械の出現で筋肉はショー以外に用途が減りつつある。 計算機のついた機械の出現で暗記もショー以外に用途が減ってきた。 機械の方が効率的にできることが増えるにつれて、「人間らしさ」の定義は縮小され続けている。 未来の社会を予想したとき、子供には何を勉強しておきなさい、というべきなのだろう。
    • by Anonymous Coward

      機械を優れている優れていると持ち上げたところで、その機械自体は当然人間作業よりも優れるようにするために人が苦労して捻り出して作ってるんですから当然です。
      むしろそうなってくれないと不良品扱いですから。

      #ロボットや機械の世界に人間が介在しない幻想を見すぎです。例示された機械についても、仕様策定から設計、製作、運用、メンテナンスに相応のマンパワーがかかっていることをたまには思い出してください…。
      ##ただし忘れてしまっていても応分の金を下されば構いません。

typodupeerror

私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson

読み込み中...