アカウント名:
パスワード:
実は、意味解析におけるフレーム問題は、30年以上停滞したままなのです。prologやLispを使ったルールベースの論理型の人工知能の研究がとん挫して下火になったのは、自然言語解析における意味解析でこのフレームも問題を論理的に処理することができなかったからである。現在主流なのは、意味解析そのものをあきらめて、単語の羅列のパターンからパターン解析でテンプレートに従って特定の動作を行うようにしたものです。パターンマッチングとテンプレートの適用だけなので、システムが意味を理解して判断しているわけではないのです。要するに、常識とか関連知識による裏付けが何もない状態で、機械的に動作しているだけなのです。この段階ではパターンに対応するテンプレートは人間が作らなければならないので、人間を超えることなどできないのである。
つまり、人間を越えうるようなモノは、できたとしても人工知能ではない(現代の基準で人工知能とは呼べない)モノであろう、ということかな?
これは宗教やSFの文脈でもしばしば指摘されるところで、(ふつーの)人が語る知性とは、人の知性の枠内、延長線上でしかないんですよね。人より計算が速いとかよりミスをしないとかいう尺度は結局「すごいヒト」でしかなく、ヒトの枠を超えた知性は測れない(というかそれを知性と感じない)
ヒトから見て下位にあたる知性について語るのはともかく、ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。しかしヒトはそれが「ヒトを超えた超知性」と判断することはできず、「なんか未熟だな」とか「狂っている」としか評価できない(だって自分を超えてるんだもん)。
「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
一部宗教が設定している「ヒトを愛していると言うけど不幸を正さない理不尽な神」とかSFで出てくる「ちょっかい出してくるけど意図が分からない超科学存在」とかがそんな感じ。(クトゥルフ神話なんてど真ん中ですね)我々にその高度さを測る物差しがないのだ。
> ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
それなんてAlphaGo
上手いこと言ったつもりだろうが、AlphaGoは勝率の高い手を選んでいるだけでそこに「知性」は無いンだよ。
知性が無い、というのと、知性はあるんだが
ヒトから見たら理不尽、非合理的、支離滅裂に写る
というのは、まったく別物だ。
知性の定義があいまいですので「ない」と断言するのも…
人間もうまくいく確率の高い行動を選んでるだけですよ。
その区別が傍目には分からん、というのでは駄目なんでしょうか?
上コメだが、理解した。高度な知性は支離滅裂に見えるかもしれないが、支離滅裂に見えるからと言ってそれが高度な知性とは限らないってことか。つまり、人間より強い囲碁は支離滅裂に見えるかもしれないが、それは必ずしも知性の発露とは言えない、と。つまりつまり、囲碁というものは本質的には知性を測るには適さないということか。やっと飲み込めた。
人間だって勝率の高い手を選んでるだけ。
であればAlphaGOを引き合いに出すのは悪手だったね _(:3 」∠)_
乱暴な言い方をすれば、AlphaGOは勝てる手をランダムに選んでるだけなので、結果としてその棋譜に知性が見いだされたとしても、それは偶然の産物でしかないんじゃないかな…
それって昔から言われてることでもあって、猿にタイプライターを打たせればいつかシェイクスピアを越える作品を打つのか?って話。
100回タイプライタを渡すと歴史上の名文学を100回返すサルは私には知性がないと断言できません
偶然の産物であればそれは知性とは言えない、とは思わないと言いますか
結局知性の定義かと
人間の脳だってランダムに神経細胞が興奮してるだけだが、その結果が知性に見えてるだけかもしれない。
なぜそれが「うまくいく」と思ったか、そこに知性が潜んでいるかもしれないんですよ。
Alpha Goでも同じですね。なぜその手が「いい手」だと思ったか、そこに知性が潜んでいるかもしれないわけで。
> 「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
「感情とは何かね?」「私の意見では、感情とは定型化された行動パターンで、それが生存価を持つことが証明されたために自然淘汰を通じて強化されたものだ。明らかに怒って闘ったり怖がって逃げたりする動物は、何もせずに食われてしまう動物よりも無事でいる可能性は大きい。」(JPホーガン、「未来の二つの顔」。マーヴィン・ミンスキーも協力した超有名なAI物ハードSF
たとえばAlphaGoに関して言えば、「囲碁に勝つ」ことが「本能」で、それ以上の機能は実装されてない。なので、AlphaGoが打つ個々の手が理解できようとできまいと、最終的に囲碁に勝利する確率を見ることで、その行動が知的であるかどうかは評価できる。
結果に知性を感じる事ができれば、それは知性があると呼んでもかまわない vs知性って結果だけじゃなく課程が重要
・・・俺は後者を推したいね。結果よけりゃいいじゃんって考えは受け入れづらいんだ。
結果より過程を重要視すると、雨が降るまで雨乞いし続ける巫女さんの方が、天気予報を司るスパコンや気象予報士より知的ってことになりかねない。
結果を伴わない過程に、いったいどれほどの価値があるというのだろう。
結果を伴わない過程自体に価値があるという信念は、もはや単なる迷信ではないだろうか。
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。つまり、人間以外は知性を持ち得ないと。
無理筋な方向に誘導して何がしたいんだろうなあ
結果が伴わないものとして雨が降るまで祈祷する巫女さんを例に挙げてるけど、ミコスキーとしては許さざるべき事態であると言わざるを得ない。冷却ファンが唸る部屋に鎮座ましましてるラックの列を掃除のおばさんこねーかなーって死んだ目で眺めるよりも、巫女さんが僕たちのために雨が降ってくれるよう一所懸命雨乞いをしている姿の方を見たいだろう?
見たく無い? じゃこの話はもうここで終わりだ。いいか?もう一度いうが、雨が降ろうが振るまいが、あのスリットから見え(銃声
# 伊勢型改二早く来ないかなあ _(:3 」∠)_
バイオ粒子反応あり!破壊!
バイオコンピューターって何?
バイオマンの額についてるやつ?(´・ω・`)
# バイオゴリラ [pixiv.net] なら知ってるけど
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。
ですね。
つまり、人間以外は知性を持ち得ないと。
なのでイルカの忠告を無視していたら銀河ハイウェイの建設に巻き込まれてしまうんですね、わかります。
じっさい計算機が出来れば「計算なんて知性のやることでは無い」といい、囲碁で勝つようになれば「知性とは違う」と言う翻訳ソフトが発達してきても高速アルゴリズム取引で金を稼いでも「でも知性じゃ無い」扱い
「コンピュータに出来ない人間に出来ること」が知性の定義にしたって良いのかも
>「後のために一部残しておく」戦略が正しいかどうかは、長期的に生き残ることで証明される。
仰るとおり、「生存」を尺度、評価項目として考えればソレで良し悪しが計れ、AIにはその「生存」を定義してやれば同じ土俵に立つことはできる、と。
観測期間は、遺伝子の変化はどこまで許容するか、知識や文化、記録の委譲はどこまで考慮するか、などなど設定すべきパラメータがメッチャ多いのが面倒ですけど。適切に設定しないと、「運動能力」を計るのに徒競走だけで優劣をつけるみたいなことになっちゃいますもんね。・遺伝子変化を抑えるよう管理された人間農場が延々と運営されているトコ・人間が元となった突然変異体がヒトの文化を継承・発展させて生き続けてる(が人間とはもう交配できない)トコ・人々が発展を捨て”昔ながらの生活”で生き残っている小規模集落・生物としてのヒトは滅びたが記録・記憶・思想を受けついたAIが活動するトコはたしてどれが「スコアが高い」のか、みたいな。(それとも1つ以外が滅びるまで点数はつけない?)
ほんで、示唆されているように「生存」じゃないもの、あるいは「結果」じゃないものを主題にスコアをつけることもできるんですよね。思考経路を白い紙に黒腺で図示して白い面積が少ないほど高度、みたいに、「複雑で無駄な奴ほど高度」みたいな評価もできます。「同じ意味をより長い文章で表した奴が優勝」みたいな(笑)個人的にはあなたと同様に「より効果的に目的を達する奴が優良」であって、その上で過程を重視とか言うのであれば、その「目的」(評価内容)に過程を含めるか否かの問題だと思ってます。(つまり結局ヒトの知性がどこまで”妥当”に知性というものを評価できるかの問題)
Alpha GO同士の対局で意味不明の棋譜が見当たると言った話がありましたが、あれこそが人を超えた部分なんだろうと思っています。囲碁の場合はルールが有るので、遠くない未来に人の知性の枠内に収めることが出来るとは思いますが。
アキレスと亀みたいな問題が出て来るんですね
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
アレゲはアレゲを呼ぶ -- ある傍観者
フレーム問題 (スコア:4, 興味深い)
実は、意味解析におけるフレーム問題は、30年以上停滞したままなのです。prologやLispを使ったルールベースの論理型の人工知能の研究がとん挫して下火になったのは、自然言語解析における意味解析でこのフレームも問題を論理的に処理することができなかったからである。
現在主流なのは、意味解析そのものをあきらめて、単語の羅列のパターンからパターン解析でテンプレートに従って特定の動作を行うようにしたものです。パターンマッチングとテンプレートの適用だけなので、システムが意味を理解して判断しているわけではないのです。
要するに、常識とか関連知識による裏付けが何もない状態で、機械的に動作しているだけなのです。
この段階ではパターンに対応するテンプレートは人間が作らなければならないので、人間を超えることなどできないのである。
Re: (スコア:1)
つまり、人間を越えうるようなモノは、できたとしても人工知能ではない(現代の基準で人工知能とは呼べない)モノであろう、ということかな?
Re:フレーム問題 (スコア:2)
Re:フレーム問題 (スコア:2)
これは宗教やSFの文脈でもしばしば指摘されるところで、
(ふつーの)人が語る知性とは、人の知性の枠内、延長線上でしかないんですよね。
人より計算が速いとかよりミスをしないとかいう尺度は結局「すごいヒト」でしかなく、ヒトの枠を超えた知性は測れない(というかそれを知性と感じない)
ヒトから見て下位にあたる知性について語るのはともかく、ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
しかしヒトはそれが「ヒトを超えた超知性」と判断することはできず、「なんか未熟だな」とか「狂っている」としか評価できない(だって自分を超えてるんだもん)。
「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
一部宗教が設定している「ヒトを愛していると言うけど不幸を正さない理不尽な神」とかSFで出てくる「ちょっかい出してくるけど意図が分からない超科学存在」とかがそんな感じ。(クトゥルフ神話なんてど真ん中ですね)
我々にその高度さを測る物差しがないのだ。
Re: (スコア:0)
> ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
それなんてAlphaGo
Re:フレーム問題 (スコア:2)
上手いこと言ったつもりだろうが、AlphaGoは勝率の高い手を選んでいるだけで
そこに「知性」は無いンだよ。
知性が無い、というのと、知性はあるんだが
ヒトから見たら理不尽、非合理的、支離滅裂に写る
というのは、まったく別物だ。
Re:フレーム問題 (スコア:3)
知性の定義があいまいですので「ない」と断言するのも…
Re:フレーム問題 (スコア:1)
人間もうまくいく確率の高い行動を選んでるだけですよ。
Re: (スコア:0)
その区別が傍目には分からん、というのでは駄目なんでしょうか?
Re: (スコア:0)
上コメだが、理解した。
高度な知性は支離滅裂に見えるかもしれないが、支離滅裂に見えるからと言ってそれが高度な知性とは限らないってことか。
つまり、人間より強い囲碁は支離滅裂に見えるかもしれないが、それは必ずしも知性の発露とは言えない、と。
つまりつまり、囲碁というものは本質的には知性を測るには適さないということか。
やっと飲み込めた。
Re: (スコア:0)
人間だって勝率の高い手を選んでるだけ。
Re:フレーム問題 (スコア:1)
であればAlphaGOを引き合いに出すのは悪手だったね _(:3 」∠)_
Re:フレーム問題 (スコア:1)
乱暴な言い方をすれば、AlphaGOは勝てる手をランダムに選んでるだけなので、
結果としてその棋譜に知性が見いだされたとしても、それは偶然の産物でしか
ないんじゃないかな…
それって昔から言われてることでもあって、猿にタイプライターを打たせれば
いつかシェイクスピアを越える作品を打つのか?って話。
Re:フレーム問題 (スコア:2)
100回タイプライタを渡すと
歴史上の名文学を100回返すサルは
私には知性がないと断言できません
偶然の産物であればそれは知性とは言えない、
とは思わないと言いますか
結局知性の定義かと
Re: (スコア:0)
人間の脳だってランダムに神経細胞が興奮してるだけだが、その結果が知性に見えてるだけかもしれない。
Re: (スコア:0)
なぜそれが「うまくいく」と思ったか、そこに知性が潜んでいるかもしれないんですよ。
Re: (スコア:0)
Alpha Goでも同じですね。
なぜその手が「いい手」だと思ったか、そこに知性が潜んでいるかもしれないわけで。
Re: (スコア:0)
> 「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
「感情とは何かね?」
「私の意見では、感情とは定型化された行動パターンで、それが生存価を持つことが証明されたために自然淘汰を通じて強化されたものだ。
明らかに怒って闘ったり怖がって逃げたりする動物は、何もせずに食われてしまう動物よりも無事でいる可能性は大きい。」
(JPホーガン、「未来の二つの顔」。マーヴィン・ミンスキーも協力した超有名なAI物ハードSF
Re:フレーム問題 (スコア:1)
たとえばAlphaGoに関して言えば、「囲碁に勝つ」ことが「本能」で、それ以上の機能は実装されてない。
なので、AlphaGoが打つ個々の手が理解できようとできまいと、最終的に
囲碁に勝利する確率を見ることで、その行動が知的であるかどうかは評価できる。
結果に知性を感じる事ができれば、それは知性があると呼んでもかまわない
vs
知性って結果だけじゃなく課程が重要
・・・俺は後者を推したいね。結果よけりゃいいじゃんって考えは受け入れづらいんだ。
Re: (スコア:0)
結果より過程を重要視すると、雨が降るまで雨乞いし続ける巫女さんの方が、
天気予報を司るスパコンや気象予報士より知的ってことになりかねない。
結果を伴わない過程に、いったいどれほどの価値があるというのだろう。
結果を伴わない過程自体に価値があるという信念は、もはや単なる迷信ではないだろうか。
Re: (スコア:0)
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
Re: (スコア:0)
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。
つまり、人間以外は知性を持ち得ないと。
Re:フレーム問題 (スコア:1)
無理筋な方向に誘導して何がしたいんだろうなあ
結果が伴わないものとして雨が降るまで祈祷する巫女さんを例に挙げてるけど、
ミコスキーとしては許さざるべき事態であると言わざるを得ない。
冷却ファンが唸る部屋に鎮座ましましてるラックの列を掃除のおばさんこねーかなーって
死んだ目で眺めるよりも、巫女さんが僕たちのために雨が降ってくれるよう一所懸命
雨乞いをしている姿の方を見たいだろう?
見たく無い? じゃこの話はもうここで終わりだ。
いいか?もう一度いうが、雨が降ろうが振るまいが、あのスリットから見え(銃声
# 伊勢型改二早く来ないかなあ _(:3 」∠)_
Re: (スコア:0)
バイオ粒子反応あり!破壊!
Re:フレーム問題 (スコア:1)
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
バイオコンピューターって何?
バイオマンの額についてるやつ?(´・ω・`)
# バイオゴリラ [pixiv.net] なら知ってるけど
Re:フレーム問題 (スコア:1)
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。
ですね。
つまり、人間以外は知性を持ち得ないと。
なのでイルカの忠告を無視していたら銀河ハイウェイの建設に巻き込まれてしまうんですね、
わかります。
Re:フレーム問題 (スコア:1)
じっさい計算機が出来れば「計算なんて知性のやることでは無い」といい、
囲碁で勝つようになれば「知性とは違う」と言う
翻訳ソフトが発達してきても高速アルゴリズム取引で金を稼いでも「でも知性じゃ無い」扱い
「コンピュータに出来ない人間に出来ること」が知性の定義にしたって良いのかも
Re:フレーム問題 (スコア:1)
>「後のために一部残しておく」戦略が正しいかどうかは、長期的に生き残ることで証明される。
仰るとおり、「生存」を尺度、評価項目として考えればソレで良し悪しが計れ、AIにはその「生存」を定義してやれば同じ土俵に立つことはできる、と。
観測期間は、遺伝子の変化はどこまで許容するか、知識や文化、記録の委譲はどこまで考慮するか、などなど設定すべきパラメータがメッチャ多いのが面倒ですけど。
適切に設定しないと、「運動能力」を計るのに徒競走だけで優劣をつけるみたいなことになっちゃいますもんね。
・遺伝子変化を抑えるよう管理された人間農場が延々と運営されているトコ
・人間が元となった突然変異体がヒトの文化を継承・発展させて生き続けてる(が人間とはもう交配できない)トコ
・人々が発展を捨て”昔ながらの生活”で生き残っている小規模集落
・生物としてのヒトは滅びたが記録・記憶・思想を受けついたAIが活動するトコ
はたしてどれが「スコアが高い」のか、みたいな。(それとも1つ以外が滅びるまで点数はつけない?)
ほんで、示唆されているように「生存」じゃないもの、あるいは「結果」じゃないものを主題にスコアをつけることもできるんですよね。
思考経路を白い紙に黒腺で図示して白い面積が少ないほど高度、みたいに、「複雑で無駄な奴ほど高度」みたいな評価もできます。
「同じ意味をより長い文章で表した奴が優勝」みたいな(笑)
個人的にはあなたと同様に「より効果的に目的を達する奴が優良」であって、その上で過程を重視とか言うのであれば、その「目的」(評価内容)に過程を含めるか否かの問題だと思ってます。
(つまり結局ヒトの知性がどこまで”妥当”に知性というものを評価できるかの問題)
Re: (スコア:0)
Alpha GO同士の対局で意味不明の棋譜が見当たると言った話がありましたが、あれこそが人を超えた部分なんだろうと思っています。
囲碁の場合はルールが有るので、遠くない未来に人の知性の枠内に収めることが出来るとは思いますが。
Re: (スコア:0)
アキレスと亀みたいな問題が出て来るんですね