パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

成長する推論チップ」記事へのコメント

  • 「不正は時に効率的だ」なんてことを学んだ日には、私はいったい何を信頼して生きていけば良いのでしょう ;-)

    <cite>7of9</cite>
    --
    Treason, like beauty, is in the eye of the beholder.
    • 人間は、「利益を大きくしたい」「楽をしたい」などの欲求を実現するために不正という手段をとることがありますが、機械にはそのような動機がないので大丈夫なのではないでしょうか。

      推論チップが「金持ちになりたい」「異性にもてたい」「おいしいものを食べたい」「さぼりたい」「死にたくない」「苦痛を避けたい」などの欲求を持つことは、将来にわたってないでしょうし (そのような欲求をあたかも持っているかのごとくふるまうようにプログラムされることはありうるけど)。

      まあ、そこまで言えば、「欲求を持っていること」と「欲求を持っているかのごとくふるまうようプログラムされていること」の違いはどこにあるの? という問題にもなってきますが。(人間だって、そのような欲求を持つように脳にプログラムを持ってるだけなんじゃない? とか)

      親コメント
      • Re:不正をする動機 (スコア:1, すばらしい洞察)

        by Anonymous Coward on 2002年08月09日 19時01分 (#143197)
        読んだ方も多いでしょうが、

        十分な推論能力と学習能力--課題を改善しようという欲求--が与えられたとすると、改善する為にコンピュータ自身の存在が不可欠だという推論には容易に到達するでしょう。こうして基本的な自己保存欲が与えられれば、自己の機能や影響力を拡張したいという欲求や、自己の存在を脅かす存在に対する敵意は自然に発生するものと思われます。

        不正はしないかも知れませんが、好ましくない挙動を取るかも知れません。

        ---と言うのが、未来の二つの顔のメインテーマでした。そこまで来れば大したもんですけどね。
        親コメント
        • by Gamma8 (10685) on 2002年08月09日 20時52分 (#143251) 日記
          最期は人間との共存って結論に達して収束したんでしたな(^_^;
          (と言うか、人間を排除するとかえって不利益と学んだだけかもしれんが)

          すぐ喋る安っぽいコンピュータでないのが面白かった。

          にしても、ステーション(コロニー?)一個犠牲にしてデバッグとは、楽しそうだな(違?)
          --


          (_ _)ZZZZzzzzz...... I'm sleepy
          親コメント

UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア

処理中...