アカウント名:
パスワード:
人工知能がいくら発達した所で利用するのは人間だろ？人間が機械に振り回されることもあるけどそれも人間という生き物の業であって機械が悪いわけじゃない機械はあくまで人間の浅はかな考えで企画したとおりに作動し、あるいは想定外の故障をするだけどちらにせよ機械に何らかの意図があるわけではない知能があるのなら意図を持って何かをなすと言えなくもないけど今のところあくまで人間が意図したものを実行しているに過ぎず人間の意図を拡張しているに過ぎない悪意のある行動に見えても、故障か人間の悪意を反映しているかのどちらかだ少なくとも今のところは…
一般人レベルで言うなら、今は「人工知能」という言葉に踊らされてるだけで、実際すでに世の中のモノは（自分にとっての）ブラックボックスが各所に仕込まれているので、いまさら心配してんなよ、という話です。
もうちょい技術者寄りで言うなら、人工知能（的な技術）が活用されるということは、「今まではまがりなりにも仕組みが大体分かっていたものが、誰にも解析できない仕組みでお出しされちゃう」というお話。自動応答器たる人工無能なら、全体の把握はキツくても少なくともアルゴリズムとデータベースを覗けば「あぁこんな仕組みで応答すんのね」くらい理解できたし、自己学習で壁にぶつからなくなる散歩ロボ、とかもアルゴリズムとデータが分かれば「あぁこういう理屈でこのカーブを変な曲がり方してるんだ」とか解析できた。でも学習機構や自己改変性が複雑化することにより、（「より繊細な制御を実現」できる代わりに）「ヒトがそれを解析する」ことが難しくなっちゃう。それが、怖いと言えば怖い（現時点ではまだその域まで達していませんし、リセットや廃棄により回避もできますが）。
例えるなら、「ロボット労働者が工場に入る時にかならず一礼する。誰も教えていないのに」ってのがあったとして、それが何らかの作業効率化のためなのか（関節潤滑のためとか）、偶然入っちゃった無駄な行動（しかし棄却するほど作業効率には影響しない）のか、ある限定した条件での事故回避のために学習したものが別の場面で発揮されているのか、分からない。記憶データベースは莫大かつ相互に関連しすぎていて解析できず、仮にやめさせても数週間では異常は起きない。一般人からすれば「ちょっと面白い」「これはロボ宗教行事だ」「人間に似てるよね」程度の話だが、技術者から見たら人間以上に理解不能（共感する知性が自分にはないから）な「不気味なブラックボックス」だ。
「今まではまがりなりにも仕組みが大体分かっていたものが、誰にも解析できない仕組みでお出しされちゃう」というお話。
それは社内でも話題に上がったが、ディープラーニング的な人工知能を想定するなら、学習元のデータセットをエビデンスとして利用するしかないんじゃないか、という結論になった。動作の修正もデータセットの修正で。
著名人の知能を測るのに学歴やら読書遍歴やら交友範囲やら論文の引用頻度やらエルデシュ数やらが使われるのと、大差ないのかな。
なぜそういう行動を取ったのか分かる・分からないという問題は人工知能に限ったことでなければ機械に限ったことでもないわけで。人とか団体だって良く分からんことをするのはいくらでもいるでしょ。一般人レベルで言うならむしろ機械の方が人間より賢くなっちゃったら人間は機械にこきつかわれるんじゃないか、っていう「機械にマウンティングされるんじゃないか」的不安じゃないんですか。
今の人間だって、既に資本にマウンティングされてね？
金持ちの人間にされるより、機械のほうが嫌だという理由は何かあるかね。
金持ちになれる可能性はごくわずかながら存在するけれど機械になれる可能性は… いや、あるかも？
資本にしてもアホな政治家にしても人間に見えるからいいんでしょ。なんでああいうのにマウンティングされて気にならないかこっちが聞きたいわ。人工知能も将来はテレビにだけ出演してその時は普通の人間の格好をしてるかもよ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
私はプログラマです。1040 formに私の職業としてそう書いています -- Ken Thompson
問題なのは (スコア:0)
人工知能がいくら発達した所で
利用するのは人間だろ？
人間が機械に振り回されることもあるけど
それも人間という生き物の業であって機械が悪いわけじゃない
機械はあくまで人間の浅はかな考えで企画したとおりに作動し、あるいは想定外の故障をするだけ
どちらにせよ機械に何らかの意図があるわけではない
知能があるのなら意図を持って何かをなすと言えなくもないけど
今のところあくまで人間が意図したものを実行しているに過ぎず
人間の意図を拡張しているに過ぎない
悪意のある行動に見えても、故障か人間の悪意を反映しているかのどちらかだ
少なくとも今のところは…
Re:問題なのは (スコア:0)
一般人レベルで言うなら、
今は「人工知能」という言葉に踊らされてるだけで、実際すでに世の中のモノは（自分にとっての）ブラックボックスが各所に仕込まれているので、いまさら心配してんなよ、という話です。
もうちょい技術者寄りで言うなら、
人工知能（的な技術）が活用されるということは、
「今まではまがりなりにも仕組みが大体分かっていたものが、誰にも解析できない仕組みでお出しされちゃう」というお話。
自動応答器たる人工無能なら、全体の把握はキツくても少なくともアルゴリズムとデータベースを覗けば「あぁこんな仕組みで応答すんのね」くらい理解できたし、
自己学習で壁にぶつからなくなる散歩ロボ、とかもアルゴリズムとデータが分かれば「あぁこういう理屈でこのカーブを変な曲がり方してるんだ」とか解析できた。
でも学習機構や自己改変性が複雑化することにより、（「より繊細な制御を実現」できる代わりに）「ヒトがそれを解析する」ことが難しくなっちゃう。
それが、怖いと言えば怖い（現時点ではまだその域まで達していませんし、リセットや廃棄により回避もできますが）。
例えるなら、「ロボット労働者が工場に入る時にかならず一礼する。誰も教えていないのに」ってのがあったとして、
それが何らかの作業効率化のためなのか（関節潤滑のためとか）、偶然入っちゃった無駄な行動（しかし棄却するほど作業効率には影響しない）のか、ある限定した条件での事故回避のために学習したものが別の場面で発揮されているのか、分からない。
記憶データベースは莫大かつ相互に関連しすぎていて解析できず、仮にやめさせても数週間では異常は起きない。
一般人からすれば「ちょっと面白い」「これはロボ宗教行事だ」「人間に似てるよね」程度の話だが、技術者から見たら人間以上に理解不能（共感する知性が自分にはないから）な「不気味なブラックボックス」だ。
Re:問題なのは (スコア:1)
「今まではまがりなりにも仕組みが大体分かっていたものが、誰にも解析できない仕組みでお出しされちゃう」というお話。
それは社内でも話題に上がったが、ディープラーニング的な人工知能を想定するなら、
学習元のデータセットをエビデンスとして利用するしかないんじゃないか、という結論になった。
動作の修正もデータセットの修正で。
# mishimaは本田透先生を熱烈に応援しています
Re: (スコア:0)
著名人の知能を測るのに学歴やら読書遍歴やら交友範囲やら論文の引用頻度やらエルデシュ数やらが使われるのと、大差ないのかな。
Re: (スコア:0)
なぜそういう行動を取ったのか分かる・分からないという問題は人工知能に限ったことでなければ機械に限ったことでもないわけで。
人とか団体だって良く分からんことをするのはいくらでもいるでしょ。
一般人レベルで言うならむしろ機械の方が人間より賢くなっちゃったら人間は機械にこきつかわれるんじゃないか、っていう
「機械にマウンティングされるんじゃないか」的不安じゃないんですか。
Re: (スコア:0)
今の人間だって、既に資本にマウンティングされてね？
金持ちの人間にされるより、機械のほうが嫌だという理由は何かあるかね。
Re: (スコア:0)
金持ちになれる可能性はごくわずかながら存在するけれど
機械になれる可能性は… いや、あるかも？
Re: (スコア:0)
Re: (スコア:0)
資本にしてもアホな政治家にしても人間に見えるからいいんでしょ。
なんでああいうのにマウンティングされて気にならないかこっちが聞きたいわ。
人工知能も将来はテレビにだけ出演してその時は普通の人間の格好をしてるかもよ。