「ビル・ゲイツ氏、人工知能の脅威を恐れる」記事へのコメント

人が考えなくなるリスク

[akiraani (24305)]

人工知能があまりに優秀になりすぎると、人間が人工知能の判断に頼りすぎて考えなくなってしまう、というリスクを警戒しているのではないかという気がする。

人間の考えの及ばない高度で複雑で高速で正確な判断を下す、という機能が人工知能に期待されていることであって、そういったものが便利な機能として提供されてしまったら、リスクを取って自分で考えると言うことは大多数の人は放棄してしまう。だってその方が楽だから。
そうなると行き着く先は人工知能への依存。それが危険だという話ではなかろうか。

人工知能はその性質上一定以上に高度化すると、ブラックボックス化して人間の考えでは制御しきれない部分が必ず出てきてしまう。これは空想の話ではなくて近い将来かならず訪れる確実な事実であって、それを踏まえた上で「よくわからないものに依存するリスク」を懸念するのはそんなに突飛な話ではないと思う。

--
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される

Re:

[Anonymous Coward]

> 人間が人工知能の判断に頼りすぎて考えなくなってしまう、というリスク
人間が自動車の輸送力に頼りすぎて物運ばなくなってしまうリスクと何が違うのか分かりません

Re:

[akiraani (24305)]

自動車はブラックボックスではないが、将来登場する高度な人工知能はブラックボックスになるところが異なる。

--
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される

Re:

[Anonymous Coward]

人工知能が登場する前から、製造業で重宝されている熟練工たちのひらめきや勘といったものはブラックボックスですよ。
昔から若手技術者の大部分は熟練工に指示された通りの事しかしませんし、若手のごく一部が熟練工を見習って次世代の熟練工になるというサイクルが繰り返されて来ました。
今ではどこのメーカーでも団塊世代のリタイアに伴って熟練工の育成が追い付かないのが大問題になってるので、ブラックボックスだろうがなんだろうが、状況に応じて適切な指示やアドバイスが出せる人工知能が実用化されればすんなりと産業界に受け入れられるでしょう。
人工知能が有ろうと無かろうと、指示待ち型人間のやることに変わりは無いですし。

Re:人が考えなくなるリスク

[akiraani (24305)]

なるほど、あなたの乗っている車は熟練工のひらめきによって予測できない挙動をするわけですな。
それ多分不良品なので、ディーラーに相談することをおすすめしますよ。

--
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される

Re:

[Anonymous Coward]

「人工知能＝自動操縦システム」という狭義な話がしたかったのですか？