Google、人工知能の反逆を抑止するKILLスイッチを開発
タレコミ by Anonymous Coward
あるAnonymous Coward 曰く、
Googleの傘下で人工知能を開発するDeepMind社は、AIが人間のコントロールを拒否した場合などに備える非常ボタン(big red button)」を開発したことを発表した。今回の発表はDeepMind社の研究者と自律型のロボット兵器に反対する非営利組織 Future of Life Institute (FLI)が共同で行ったもの。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。一方では、人間の介入を妨害する方法を学習させない方法も確立しているそう。具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとしている(Engadget、HotHARDWARE、Slashdot)。
Google、人工知能の反逆を抑止するKILLスイッチを開発 More ログイン