アカウント名:
パスワード:
「発覚した場合のリスクを考えれば不正はやはり非効率でしかない」と云うところまで、すぐに達してしまうのではないでしょうか?
推論チップが「金持ちになりたい」「異性にもてたい」「おいしいものを食べたい」「さぼりたい」「死にたくない」「苦痛を避けたい」などの欲求を持つことは、将来にわたってないでしょうし (そのような欲求をあたかも持っているかのごとくふるまうようにプログラムされることはありうるけど)。
まあ、そこまで言えば、「欲求を持っていること」と「欲求を持っているかのごとくふるまうようプログラムされていること」の違いはどこにあるの? という問題にもなってきますが。(人間だって、そのような欲求を持つように脳にプログラムを持ってるだけなんじゃない? とか)
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
UNIXはシンプルである。必要なのはそのシンプルさを理解する素質だけである -- Dennis Ritchie
こういうのが将来…… (スコア:1)
<cite>7of9</cite>
Treason, like beauty, is in the eye of the beholder.
多分、大丈夫。 (スコア:2, すばらしい洞察)
発覚防止のための裏工作にまで気が回ったとしても、延々と裏工作を続けていかなければならないと云うことによる膨大なコストまで含めれば、やはり不正は出来ないのではないかと。
アマちゃんな考えかな?
-+- 想像力を超え「創造力」をも凌駕する、それが『妄想力』!! -+-
Re:多分、大丈夫。 (スコア:1)
いや、駄目かも (スコア:1)
コンピュータのみに教えといたりすると、プロジェクト員を殺害して
自分のみでミッションを完遂しようとするのが出てくるんでは?(笑
で、結局はコンピュータのロボトミーをやる羽目になると。
Re:いや、駄目かも (スコア:0)
Re:いや、駄目かも (スコア:0)
それは虫がよすぎるかと (スコア:1)
あえて話を大きくすると、
という状況も考えられると思います。
# 人類全体の最大幸福を実現するための最適解が「定期的に紛争を繰り返す」
# なんてことになったらどうしよう?
うじゃうじゃ
Re:それは虫がよすぎるかと (スコア:0)
>
> # 人類全体にとって非常に重要なあるプロジェクトを進めていたコンピュータが、「死者の出る可能性が非常に高い『ある事件』が起きない限りプロジェクトを完遂することができない」という結論を出す。
># 逆に人命の尊重を絶対条件としたためにどんな小さなリスクも犯せなくなり
Re:こういうのが将来…… (スコア:1)
不正をする動機 (スコア:1)
推論チップが「金持ちになりたい」「異性にもてたい」「おいしいものを食べたい」「さぼりたい」「死にたくない」「苦痛を避けたい」などの欲求を持つことは、将来にわたってないでしょうし (そのような欲求をあたかも持っているかのごとくふるまうようにプログラムされることはありうるけど)。
まあ、そこまで言えば、「欲求を持っていること」と「欲求を持っているかのごとくふるまうようプログラムされていること」の違いはどこにあるの? という問題にもなってきますが。(人間だって、そのような欲求を持つように脳にプログラムを持ってるだけなんじゃない? とか)
Re:不正をする動機 (スコア:1, すばらしい洞察)
十分な推論能力と学習能力--課題を改善しようという欲求--が与えられたとすると、改善する為にコンピュータ自身の存在が不可欠だという推論には容易に到達するでしょう。こうして基本的な自己保存欲が与えられれば、自己の機能や影響力を拡張したいという欲求や、自己の存在を脅かす存在に対する敵意は自然に発生するものと思われます。
不正はしないかも知れませんが、好ましくない挙動を取るかも知れません。
---と言うのが、未来の二つの顔のメインテーマでした。そこまで来れば大したもんですけどね。
Re:不正をする動機 (スコア:1)
(と言うか、人間を排除するとかえって不利益と学んだだけかもしれんが)
すぐ喋る安っぽいコンピュータでないのが面白かった。
にしても、ステーション(コロニー?)一個犠牲にしてデバッグとは、楽しそうだな(違?)
(_ _)ZZZZzzzzz...... I'm sleepy
Re:こういうのが将来…… (スコア:1)
不正な行動には「負の報酬」を与えるとかするのかな。
-- 雪のない富士山もきれいだな