「イーロン・マスク氏、「悪意を持つAI」に対し懸念を表明」記事へのコメント

人工知能の脅威

[digoh (17917)]

人工知能に関する心配ってーと、思いつくところでは

・機構が複雑すぎて理解が難しい（正常なのかのテストや事故時の解析の難易度が高い）
・ヒトを模倣すること（ヒトだと誤解されること）によるトラブル
・道徳や人間性を理解しない決断について納得できない

などなど思いつくところですが、結局のところ2番目以降は仕様の問題ですよね。
悪魔ほどの知能がなくとも、無慈悲な判断機械は常に”人類の敵”だ。
（むしろ何らかの人間的な交渉の余地があるだけ悪魔の方がマシだ）

んだからして、

・そういう細かいことはさておき、知能ってのは人類固有のものなので機械による模倣は気持ちが悪い

という感情論もあるんだろうなぁ。

個人的には、それらとは別に「ネットに放たれた自己学習プログラムを崇拝する宗教」とかが発生して、
プログラム自身はやくたいもないことを呟いてるだけなのに人間がそこに勝手な意味を見いだして社会を脅かす、とかの方が（制御のしようがないという意味で）怖いなぁ。

Re:人工知能の脅威

[asukaibito (7656)]

知能のある者としてとらえるか、
あくまで物としてとらえるかで対応が違ってきそう。

者としてとらえるばあい・・・
子育てに関する心配

・何を考えているのかもはや分からない
・大人のマネをすることによるトラブル
・道徳や人間性が未熟なために、正しく決断出来ない

等となぞらえて考えると、
・育てる環境次第で悪意は持ち得る
・うまく育たなかった時の校正及び処罰のシステムが必要
なのかなぁ

人工知能が「未成年」の間は、「保護者」の責任。
「成人」したら、「人工知能」の責任。
だけど人間は年齢で区切るけど、人工知能は何で区切るか？