アカウント名:
パスワード:
めちゃくちゃ賢いAIが出来たとして、そのAIが人類抹殺とかに向かうと考えられているのはなぜ？
めちゃくちゃ賢いAIが人類の存続をテーマに考えるわけですよ。↓人類の存続には良い環境と資源が必要だ。しかしそれを汚染し食いつぶす害虫がいる。これを駆除しなければ人類の存続が脅かされる！↓人類抹殺開始
なんで人類存続をAIが考えるの？
ありがちなSFでは人間側がそれを求めて超AIに質問するのが発端だったりしますね。もっと限定的な質問（例えば小規模なサラリーマン巡回問題とか）だったら問題なかったのに、「人類の存続」とか「幸福」とか「平和」とかを質問しちゃったら様々なアクシデントが起こる、というのはSFアイデアとしては定番です。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
吾輩はリファレンスである。名前はまだ無い -- perlの中の人
そもそも (スコア:2)
めちゃくちゃ賢いAIが出来たとして、そのAIが人類抹殺とかに向かうと考えられているのはなぜ？
例えば (スコア:1)
めちゃくちゃ賢いAIが人類の存続をテーマに考えるわけですよ。
↓
人類の存続には良い環境と資源が必要だ。
しかしそれを汚染し食いつぶす害虫がいる。
これを駆除しなければ人類の存続が脅かされる！
↓
人類抹殺開始
Re: (スコア:0)
なんで人類存続をAIが考えるの？
Re:例えば (スコア:1)
ありがちなSFでは人間側がそれを求めて超AIに質問するのが発端だったりしますね。
もっと限定的な質問（例えば小規模なサラリーマン巡回問題とか）だったら問題なかったのに、
「人類の存続」とか「幸福」とか「平和」とかを質問しちゃったら様々なアクシデントが起こる、
というのはSFアイデアとしては定番です。