アカウント名:
パスワード:
人工知能に関する心配ってーと、思いつくところでは
・機構が複雑すぎて理解が難しい（正常なのかのテストや事故時の解析の難易度が高い）・ヒトを模倣すること（ヒトだと誤解されること）によるトラブル・道徳や人間性を理解しない決断について納得できない
などなど思いつくところですが、結局のところ2番目以降は仕様の問題ですよね。悪魔ほどの知能がなくとも、無慈悲な判断機械は常に”人類の敵”だ。（むしろ何らかの人間的な交渉の余地があるだけ悪魔の方がマシだ）
んだからして、
・そういう細かいことはさておき、知能ってのは人類固有のものなので機械による模倣は気持ちが悪い
という感情論もあるんだろうなぁ。
個人的には、それらとは別に「ネットに放たれた自己学習プログラムを崇拝する宗教」とかが発生して、プログラム自身はやくたいもないことを呟いてるだけなのに人間がそこに勝手な意味を見いだして社会を脅かす、とかの方が（制御のしようがないという意味で）怖いなぁ。
知能のある者としてとらえるか、あくまで物としてとらえるかで対応が違ってきそう。
者としてとらえるばあい・・・子育てに関する心配
・何を考えているのかもはや分からない・大人のマネをすることによるトラブル・道徳や人間性が未熟なために、正しく決断出来ない
等となぞらえて考えると、・育てる環境次第で悪意は持ち得る・うまく育たなかった時の校正及び処罰のシステムが必要なのかなぁ
人工知能が「未成年」の間は、「保護者」の責任。「成人」したら、「人工知能」の責任。だけど人間は年齢で区切るけど、人工知能は何で区切るか？
人工知能に判断を任した結果、人や社会に危害を及ぼすことになったような場合に、誰が責任を取るのか/責任を取ることがそういった状態の抑止につながるのか……という点はよく考えておかないといけないと思います。
フィクションですが、ナイトウォッチシリーズでは超光速宇宙戦闘機（一発で太陽系を破壊できるような武装を複数装備している）を建造するにあたって「機械のミスで人類が滅亡しては納得できない」という理由で、パイロットにするための専用のマシンチャイルドを生産していました。古くはR・ダニール・オリヴォーの例もありますが、人類社会の行く末を任されるのは機械か人間か、という時代は意外と近いのかもしれませんね。
「フール・フォー・ザ・シティ」(永野護)のログナーも、人類を管理しているコンピュータ「ドウター」によってただ一人「ドウター」に命令できる人間として作られた「マシン・チャイルド」だっけ。
人間のミスで滅亡してもとても納得できそうにないと思うが。一般には機械には責任が取れないから生贄として人間を配置するわけだが滅亡しちゃったなら責任追及もへったくれもないわけで。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
人生unstable -- あるハッカー
人工知能の脅威 (スコア:1)
人工知能に関する心配ってーと、思いつくところでは
・機構が複雑すぎて理解が難しい（正常なのかのテストや事故時の解析の難易度が高い）
・ヒトを模倣すること（ヒトだと誤解されること）によるトラブル
・道徳や人間性を理解しない決断について納得できない
などなど思いつくところですが、結局のところ2番目以降は仕様の問題ですよね。
悪魔ほどの知能がなくとも、無慈悲な判断機械は常に”人類の敵”だ。
（むしろ何らかの人間的な交渉の余地があるだけ悪魔の方がマシだ）
んだからして、
・そういう細かいことはさておき、知能ってのは人類固有のものなので機械による模倣は気持ちが悪い
という感情論もあるんだろうなぁ。
個人的には、それらとは別に「ネットに放たれた自己学習プログラムを崇拝する宗教」とかが発生して、
プログラム自身はやくたいもないことを呟いてるだけなのに人間がそこに勝手な意味を見いだして社会を脅かす、とかの方が（制御のしようがないという意味で）怖いなぁ。
Re:人工知能の脅威 (スコア:2)
知能のある者としてとらえるか、
あくまで物としてとらえるかで対応が違ってきそう。
者としてとらえるばあい・・・
子育てに関する心配
・何を考えているのかもはや分からない
・大人のマネをすることによるトラブル
・道徳や人間性が未熟なために、正しく決断出来ない
等となぞらえて考えると、
・育てる環境次第で悪意は持ち得る
・うまく育たなかった時の校正及び処罰のシステムが必要
なのかなぁ
人工知能が「未成年」の間は、「保護者」の責任。
「成人」したら、「人工知能」の責任。
だけど人間は年齢で区切るけど、人工知能は何で区切るか？
Re: (スコア:0)
人工知能に判断を任した結果、人や社会に危害を及ぼすことになったような場合に、誰が責任を取るのか/責任を取ることがそういった状態の抑止につながるのか……という点はよく考えておかないといけないと思います。
Re:人工知能の脅威 (スコア:1)
フィクションですが、ナイトウォッチシリーズでは超光速宇宙戦闘機（一発で太陽系を破壊できるような武装を複数装備している）を建造するにあたって「機械のミスで人類が滅亡しては納得できない」という理由で、パイロットにするための専用のマシンチャイルドを生産していました。
古くはR・ダニール・オリヴォーの例もありますが、人類社会の行く末を任されるのは機械か人間か、という時代は意外と近いのかもしれませんね。
Re:人工知能の脅威 (スコア:1)
「フール・フォー・ザ・シティ」(永野護)のログナーも、人類を管理しているコンピュータ「ドウター」によって
ただ一人「ドウター」に命令できる人間として作られた「マシン・チャイルド」だっけ。
らじゃったのだ
Re: (スコア:0)
人間のミスで滅亡してもとても納得できそうにないと思うが。
一般には機械には責任が取れないから生贄として人間を配置するわけだが滅亡しちゃったなら責任追及もへったくれもないわけで。