「Googleが人工知能「DQN」を開発」記事へのコメント

究極の人工知能はやはり危険？

[Anonymous Coward]

＞長期的な目標は、一定の基準を与えられただけで、それに従って問題を最適化し解決する能力を持つ人口知能の実用化

これって、人間社会のルールをひとつ残らず適切に教えそれを厳守するように実装しなければ、人間社会のルールを侵す”最適解”を見つけてしまう可能性もあるってことですよね？

Re:究極の人工知能はやはり危険？

[ukenerai (36532)]

ホーガンの「未来の二つの顔」がまさにそういう話です。

--
-- う～ん、バッドノウハウ？