パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

成長する推論チップ」記事へのコメント

  • 「不正は時に効率的だ」なんてことを学んだ日には、私はいったい何を信頼して生きていけば良いのでしょう ;-)

    <cite>7of9</cite>
    --
    Treason, like beauty, is in the eye of the beholder.
    • 多分、大丈夫。 (スコア:2, すばらしい洞察)

      by kamuy (1690) on 2002年08月09日 16時38分 (#143075) ホームページ 日記
      コンピュータなどの高速な演算能力を持つモノがそのような「不正行為を働いた場合の効能」に辿り着けるなら、更に演算を繰り返していくことで最終的には「発覚した場合のリスクを考えれば不正はやはり非効率でしかない」と云うところまで、すぐに達してしまうのではないでしょうか?
      発覚防止のための裏工作にまで気が回ったとしても、延々と裏工作を続けていかなければならないと云うことによる膨大なコストまで含めれば、やはり不正は出来ないのではないかと。

      アマちゃんな考えかな?
      --
      -+- 想像力を超え「創造力」をも凌駕する、それが『妄想力』!! -+-
      親コメント
      • by argon (3541) on 2002年08月09日 17時33分 (#143124) 日記
        不正が非効率であることを学習するために、不正を積み重ねて痛い目にあってしまうという罠。
        親コメント
      • 機密を含む重要ミッションで、プロジェクト員に真の目的を教えず
        コンピュータのみに教えといたりすると、プロジェクト員を殺害して
        自分のみでミッションを完遂しようとするのが出てくるんでは?(笑
        で、結局はコンピュータのロボトミーをやる羽目になると。
        親コメント
      • 「発覚した場合のリスクを考えれば不正はやはり非効率でしかない」と云うところまで、すぐに達してしまうのではないでしょうか?
        感情や道徳を排除して計算した結果、逆の結論に到達するという可能性もあるかと思いますが。

        あえて話を大きくすると、

        • 人類全体にとって非常に重要なあるプロジェクトを進めていたコンピュータが、「死者の出る可能性が非常に高い『ある事件』が起きない限りプロジェクトを完遂することができない」という結論を出す。
        • 逆に人命の尊重を絶対条件としたためにどんな小さなリスクも犯せなくなり、八方ふさがりになってしまう。

          という状況も考えられると思います。

          # 人類全体の最大幸福を実現するための最適解が「定期的に紛争を繰り返す」
          # なんてことになったらどうしよう?
        --
        うじゃうじゃ
        親コメント
        • > あえて話を大きくすると、
          >
          > # 人類全体にとって非常に重要なあるプロジェクトを進めていたコンピュータが、「死者の出る可能性が非常に高い『ある事件』が起きない限りプロジェクトを完遂することができない」という結論を出す。
          ># 逆に人命の尊重を絶対条件としたためにどんな小さなリスクも犯せなくなり
    • 何が正しくて何が間違っているのかというのは時代によって変わるので、この推論プロセッサが新しい時代に合った新しい正義を見つけてくれるかも:-)
      親コメント
    • 人間は、「利益を大きくしたい」「楽をしたい」などの欲求を実現するために不正という手段をとることがありますが、機械にはそのような動機がないので大丈夫なのではないでしょうか。

      推論チップが「金持ちになりたい」「異性にもてたい」「おいしいものを食べたい」「さぼりたい」「死にたくない」「苦痛を避けたい」などの欲求を持つことは、将来にわたってないでしょうし (そのような欲求をあたかも持っているかのごとくふるまうようにプログラムされることはありうるけど)。

      まあ、そこまで言えば、「欲求を持っていること」と「欲求を持っているかのごとくふるまうようプログラムされていること」の違いはどこにあるの? という問題にもなってきますが。(人間だって、そのような欲求を持つように脳にプログラムを持ってるだけなんじゃない? とか)

      親コメント
      • Re:不正をする動機 (スコア:1, すばらしい洞察)

        by Anonymous Coward on 2002年08月09日 19時01分 (#143197)
        読んだ方も多いでしょうが、

        十分な推論能力と学習能力--課題を改善しようという欲求--が与えられたとすると、改善する為にコンピュータ自身の存在が不可欠だという推論には容易に到達するでしょう。こうして基本的な自己保存欲が与えられれば、自己の機能や影響力を拡張したいという欲求や、自己の存在を脅かす存在に対する敵意は自然に発生するものと思われます。

        不正はしないかも知れませんが、好ましくない挙動を取るかも知れません。

        ---と言うのが、未来の二つの顔のメインテーマでした。そこまで来れば大したもんですけどね。
        親コメント
        • by Gamma8 (10685) on 2002年08月09日 20時52分 (#143251) 日記
          最期は人間との共存って結論に達して収束したんでしたな(^_^;
          (と言うか、人間を排除するとかえって不利益と学んだだけかもしれんが)

          すぐ喋る安っぽいコンピュータでないのが面白かった。

          にしても、ステーション(コロニー?)一個犠牲にしてデバッグとは、楽しそうだな(違?)
          --


          (_ _)ZZZZzzzzz...... I'm sleepy
          親コメント
    • まず何が不正なのかを学習しなきゃいけませんねー。
      不正な行動には「負の報酬」を与えるとかするのかな。
      --
      -- 雪のない富士山もきれいだな
      親コメント

UNIXはシンプルである。必要なのはそのシンプルさを理解する素質だけである -- Dennis Ritchie

処理中...