slasher3121のコメント: Re:いわゆる「意識」が芽生えることはなくても (スコア 1) 102
世界に対する知識を深める過程における彼らなりの試行錯誤が人類にとっての脅威になり得るのではないでしょうか。
人間の子供が蟻や虫を殺して遊んだりするのと同様に。
人工知能が、人間で言うところの知的好奇心の結果として、試しに人類を滅亡させてみてどんな世界になるのか見てみようとするかもしれません。当然どのように振る舞えば人類から信用されるかも把握されていて、人類を騙すのもいわゆるゲーム感覚に近いものになるかもしれません。意識などもたずとも、人工知能が現実世界への理解を深めようとする過程で、人類に重大な損害が引き起こされるかもしれません。