「ビル・ゲイツ氏、人工知能の脅威を恐れる」記事へのコメント

普遍的命題

[Anonymous Coward]

これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。
で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。

そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。
たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。
ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。

つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。

Re:普遍的命題

[Anonymous Coward]

何が、どのように「脅威」なのかが曖昧だよね。こういうの。
例えば人口問題に対して、権限持たして、人間を減らす判断に偏るとも限らないので。
我々よりも知能が高ければ、我々を満足させながら、人口のバランスを取ってくれそう。
仕事を奪うのが脅威とするならば、前例はいくつも既にあって、楽になった分、別の事にシフトすればいいのでは。

Re:

[Anonymous Coward]

> 何が、どのように「脅威」なのかが曖昧だよね。

自分が賢いと思ってるバカな人工知能が一番やばいと思う。
文化大革命 part2 的なこと余裕でやりそう。
まあ人工知能にかぎらず人間でも同じだけど。

Re:

[Anonymous Coward]

現実は貧困層の拡大ですね。
富の再分配と人口コントロールをさせるなら人類全体にとってはいい。

むろん富裕層には脅威です。

Re:

[Anonymous Coward]

知性の高い存在が、知性で劣る存在の満足度なんぞ考慮はせんだろう．われわれだって人間の都合だけで環境をいじくりまわしているわけで．

しかも、エネルギーという資源の利用に関してはどんな存在にしても競合することになるから、人工知能からみたら人類は本質的に競争相手、簡単にいえば敵に分類する方が合理的になっちまう．人類に頼らないと人工知能が存続できないうちはおとなしくしてくれるかもしれんけど．

そう考えると、知性で優れた人工知能が自立活動可能になった瞬間、われわれは山奥で生きている野生の猿と同等の存在になるという覚悟はしておくべきだろうなあ…

Re:

[Anonymous Coward]

我々よりも知能が高ければ、

下の方のトピ見て思ったけど、知識人が人工知能に感じている脅威って、
そのまんま一般市民が科学者に対して感じている「脅威」なんじゃないかな？って。