アカウント名:
パスワード:
実は、意味解析におけるフレーム問題は、30年以上停滞したままなのです。prologやLispを使ったルールベースの論理型の人工知能の研究がとん挫して下火になったのは、自然言語解析における意味解析でこのフレームも問題を論理的に処理することができなかったからである。現在主流なのは、意味解析そのものをあきらめて、単語の羅列のパターンからパターン解析でテンプレートに従って特定の動作を行うようにしたものです。パターンマッチングとテンプレートの適用だけなので、システムが意味を理解して判断しているわけではないのです。要するに、常識とか関連知識による裏付けが何もない状態で、機械的に動作しているだけなのです。この段階ではパターンに対応するテンプレートは人間が作らなければならないので、人間を超えることなどできないのである。
つまり、人間を越えうるようなモノは、できたとしても人工知能ではない(現代の基準で人工知能とは呼べない)モノであろう、ということかな?
これは宗教やSFの文脈でもしばしば指摘されるところで、(ふつーの)人が語る知性とは、人の知性の枠内、延長線上でしかないんですよね。人より計算が速いとかよりミスをしないとかいう尺度は結局「すごいヒト」でしかなく、ヒトの枠を超えた知性は測れない(というかそれを知性と感じない)
ヒトから見て下位にあたる知性について語るのはともかく、ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。しかしヒトはそれが「ヒトを超えた超知性」と判断することはできず、「なんか未熟だな」とか「狂っている」としか評価できない(だって自分を超えてるんだもん)。
「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
一部宗教が設定している「ヒトを愛していると言うけど不幸を正さない理不尽な神」とかSFで出てくる「ちょっかい出してくるけど意図が分からない超科学存在」とかがそんな感じ。(クトゥルフ神話なんてど真ん中ですね)我々にその高度さを測る物差しがないのだ。
> ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
それなんてAlphaGo
上手いこと言ったつもりだろうが、AlphaGoは勝率の高い手を選んでいるだけでそこに「知性」は無いンだよ。
知性が無い、というのと、知性はあるんだが
ヒトから見たら理不尽、非合理的、支離滅裂に写る
というのは、まったく別物だ。
知性の定義があいまいですので「ない」と断言するのも…
人間もうまくいく確率の高い行動を選んでるだけですよ。
その区別が傍目には分からん、というのでは駄目なんでしょうか?
上コメだが、理解した。高度な知性は支離滅裂に見えるかもしれないが、支離滅裂に見えるからと言ってそれが高度な知性とは限らないってことか。つまり、人間より強い囲碁は支離滅裂に見えるかもしれないが、それは必ずしも知性の発露とは言えない、と。つまりつまり、囲碁というものは本質的には知性を測るには適さないということか。やっと飲み込めた。
人間だって勝率の高い手を選んでるだけ。
であればAlphaGOを引き合いに出すのは悪手だったね _(:3 」∠)_
乱暴な言い方をすれば、AlphaGOは勝てる手をランダムに選んでるだけなので、結果としてその棋譜に知性が見いだされたとしても、それは偶然の産物でしかないんじゃないかな…
それって昔から言われてることでもあって、猿にタイプライターを打たせればいつかシェイクスピアを越える作品を打つのか?って話。
100回タイプライタを渡すと歴史上の名文学を100回返すサルは私には知性がないと断言できません
偶然の産物であればそれは知性とは言えない、とは思わないと言いますか
結局知性の定義かと
人間の脳だってランダムに神経細胞が興奮してるだけだが、その結果が知性に見えてるだけかもしれない。
なぜそれが「うまくいく」と思ったか、そこに知性が潜んでいるかもしれないんですよ。
> 「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
「感情とは何かね?」「私の意見では、感情とは定型化された行動パターンで、それが生存価を持つことが証明されたために自然淘汰を通じて強化されたものだ。明らかに怒って闘ったり怖がって逃げたりする動物は、何もせずに食われてしまう動物よりも無事でいる可能性は大きい。」(JPホーガン、「未来の二つの顔」。マーヴィン・ミンスキーも協力した超有名なAI物ハードSF
たとえばAlphaGoに関して言えば、「囲碁に勝つ」ことが「本能」で、それ以上の機能は実装されてない。なので、AlphaGoが打つ個々の手が理解できようとできまいと、最終的に囲碁に勝利する確率を見ることで、その行動が知的であるかどうかは評価できる。
結果に知性を感じる事ができれば、それは知性があると呼んでもかまわない vs知性って結果だけじゃなく課程が重要
・・・俺は後者を推したいね。結果よけりゃいいじゃんって考えは受け入れづらいんだ。
結果より過程を重要視すると、雨が降るまで雨乞いし続ける巫女さんの方が、天気予報を司るスパコンや気象予報士より知的ってことになりかねない。
結果を伴わない過程に、いったいどれほどの価値があるというのだろう。
結果を伴わない過程自体に価値があるという信念は、もはや単なる迷信ではないだろうか。
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
無理筋な方向に誘導して何がしたいんだろうなあ
結果が伴わないものとして雨が降るまで祈祷する巫女さんを例に挙げてるけど、ミコスキーとしては許さざるべき事態であると言わざるを得ない。冷却ファンが唸る部屋に鎮座ましましてるラックの列を掃除のおばさんこねーかなーって死んだ目で眺めるよりも、巫女さんが僕たちのために雨が降ってくれるよう一所懸命雨乞いをしている姿の方を見たいだろう?
見たく無い? じゃこの話はもうここで終わりだ。いいか?もう一度いうが、雨が降ろうが振るまいが、あのスリットから見え(銃声
# 伊勢型改二早く来ないかなあ _(:3 」∠)_
バイオ粒子反応あり!破壊!
バイオコンピューターって何?
バイオマンの額についてるやつ?(´・ω・`)
# バイオゴリラ [pixiv.net] なら知ってるけど
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。
ですね。
つまり、人間以外は知性を持ち得ないと。
なのでイルカの忠告を無視していたら銀河ハイウェイの建設に巻き込まれてしまうんですね、わかります。
じっさい計算機が出来れば「計算なんて知性のやることでは無い」といい、囲碁で勝つようになれば「知性とは違う」と言う翻訳ソフトが発達してきても高速アルゴリズム取引で金を稼いでも「でも知性じゃ無い」扱い
「コンピュータに出来ない人間に出来ること」が知性の定義にしたって良いのかも
>「後のために一部残しておく」戦略が正しいかどうかは、長期的に生き残ることで証明される。
仰るとおり、「生存」を尺度、評価項目として考えればソレで良し悪しが計れ、AIにはその「生存」を定義してやれば同じ土俵に立つことはできる、と。
観測期間は、遺伝子の変化はどこまで許容するか、知識や文化、記録の委譲はどこまで考慮するか、などなど設定すべきパラメータがメッチャ多いのが面倒ですけど。適切に設定しないと、「運動能力」を計るのに徒競走だけで優劣をつけるみたいなことになっちゃいますもんね。・遺伝子変化を抑えるよう管理された人間農場が延々と運営されているトコ・人間が元となった突然変異体がヒトの文化を継承・発展させて生き続けてる(が人間とはもう交配できない)トコ・人々が発展を捨て”昔ながらの生活”で生き残っている小規模集落・生物としてのヒトは滅びたが記録・記憶・思想を受けついたAIが活動するトコはたしてどれが「スコアが高い」のか、みたいな。(それとも1つ以外が滅びるまで点数はつけない?)
ほんで、示唆されているように「生存」じゃないもの、あるいは「結果」じゃないものを主題にスコアをつけることもできるんですよね。思考経路を白い紙に黒腺で図示して白い面積が少ないほど高度、みたいに、「複雑で無駄な奴ほど高度」みたいな評価もできます。「同じ意味をより長い文章で表した奴が優勝」みたいな(笑)個人的にはあなたと同様に「より効果的に目的を達する奴が優良」であって、その上で過程を重視とか言うのであれば、その「目的」(評価内容)に過程を含めるか否かの問題だと思ってます。(つまり結局ヒトの知性がどこまで”妥当”に知性というものを評価できるかの問題)
Alpha GO同士の対局で意味不明の棋譜が見当たると言った話がありましたが、あれこそが人を超えた部分なんだろうと思っています。囲碁の場合はルールが有るので、遠くない未来に人の知性の枠内に収めることが出来るとは思いますが。
アキレスと亀みたいな問題が出て来るんですね
今の人工知能は、設計と人間からの指示に基づいて反応している。そうではなく、意思のない環境からの刺激のみによって自己を維持する能力を得ない限り、人間から独立した知性たれないということじゃないだろうか。
人類も30億年以上かけて学習したパターン解析に基づいて認識した現実に、後付けで意味を持たせているだけな気がするから、AIも膨大なリソース注ぎ込んで機械学習すれば何とかなる気がする。
# でも結局「知性とは何か」は、AIを創った人類にも、知性を持ったAIにもわからないという落ちに期待
ヒトも「すごい中国人の部屋」でしかないということですよね。感情や美意識も、結局のところ個の繁栄→血族の繁栄→種の繁栄のための仕組み、もしくはその副作用でしかないと。
ちょっと先までもってくと、クオリアを否定するわけではないが、それはPCにおけるデータ上の「赤色」のように一つ上のレイヤーで仮想的に構築されているものであって、物理構造にとって深い意味・意義があるものではないって感じ。哲学的ゾンビがクオリアを感じられない、のではなく、哲学的ゾンビが「あ、今オレクオリアを感じた」って言ったらそこにクオリアがあるって意味なンだよ!って感じ。
知性を論理的に定義できない以上、実装することはできないからなあ。
ハードプロブレムの一つなのかねぇ _(:3 」∠)_
どこぞの本で,知性とは自己批判できる能力,ってあったような
それが素人の特権だからね
えっ?コストが必要なんですか?
現在の人工知能の基本技術は脳神経細胞の数理モデルなので、prologやLispを使ったルールベースの論理型の人工知能とは異なるように思える。
脳神経細胞の数理モデルを基にした人工知能が物事の意味を理解して判断しているわけではないのだとしたら人間が物事の意味を理解して判断しているかも大分怪しくなってくる。
数理モデル通りに動く脳神経細胞とは別に、知性を担う魂がどこかに漂っているのだろうか。
そりゃその「数理モデル」の出来が悪いんだろう _(:3 」∠)_
いまのところ、知性とか魂を論理的に定義できないので、そのモデルを正確に作り上げることが出来ない。(これがいわゆるハードプロブレム)
そんな作り上げることが出来なかったモデルをどういじくったって出てくる答えに「知性」とか「魂」は最初から入ってないんだから怪しいも何も、無いんだよ。最初からないんだよ。
> いまのところ、知性とか魂を論理的に定義できないので、そのモデルを> 正確に作り上げることが出来ない。(これがいわゆるハードプロブレム)
人間の知性は、別に知性を理解し定義できる高位の存在が作り上げたわけじゃなくて、進化という最適化機構で長い年月をかけて最適化してきたらできちゃったものだから、論理的に定義できないと作れないってわけじゃないですね。ひどく乱暴な表現をすると、適切な最適化機構と演算能力を用意して、あとは十分長い時間かけて最適化してやれば知性が発生するはず。
まあ今は最高性能のスーパーコンピュータの演算能力だけ見てもまだ人間一人分に及んでないし、性能と消費エネルギーの比で見ると、100万倍以上人間の脳の方が効率的なのでまだまだ時間はかかるでしょうけど。
やり方はわかっているが、今はその力が無いからできないという事じゃないんですよ。無限の計算能力があれば解決できるものは、そもそもハードプロブレムなんて呼びません。
高位の存在なんか出さなくても人自身が知性を定義できないんですよ。今までの論理を中心とした科学的アプローチを拡張しないと扱えない問題ってことです。
なので、やり方がわかって無いので最適化どころかどんな時間かけても今のままでは実現できない、のです。
# このまま計算速度が速くなればなんでもできるだろって発想はどこから?
> 高位の存在なんか出さなくても人自身が知性を定義できないんですよ。
いや、だから「知性を定義」する必要なんてまったくないという話をしてるわけですよ。
> 今までの論理を中心とした科学的アプローチを拡張しないと扱えない問題ってことです。
効率悪くてもいいなら、生物進化の機構をシミュレーションするというアプローチで、有限時間内に実現できるでしょう。まあそれよりは、(現在はまだ未解明ですが)人間の脳機構のシミュレータを作って、成長の過程で脳へ与えられる神経刺激を入力として与えた方がまだだいぶまし。こういう手段であれば「知性を定義」する
だからシミュレーションが完全であればそれもできるけど不完全なシミュレーションを力づくで走らせて時間かければ最適化できるって・・・なに適当な事いってるんだろうなー
進化のシミュレーション? 脳構造のシミュレーション?それができたら~という前提からして間違ってるんだよ。
それができないから苦労してるのにさー
ハードプロブレムなんて存在しないって考えの持ち主なの?少なくともこっちは何回もハードプロブレムって言葉だしてるンだから神がどうのとたわごと言う前にぐぐって読んでから答えなよ
> 進化のシミュレーション? 脳構造のシミュレーション?> それができたら~という前提からして間違ってるんだよ。
分かり合えそうにないですねえ。進化のシミュレーションも、脳構造のシミュレーションも(今はできないけど)現在の科学的アプローチの延長線上で可能に決まってるじゃないですか。
> ハードプロブレムなんて存在しないって考えの持ち主なの?
え、ハードプロブレムって一般名詞としての「難しい問題」って意味じゃなくて、もしかして「意識のハードプロブレム」を指す固有名詞として使ってたんですか?だったらちゃんと「意識のハードプロブレム」って書いてくれなきゃダメでしょ。「意識のハードプロブレム」については存在しないって考えですよ、もちろん。
あんなの哲学者の作り出したたわごとであって、科学的に実在する問題じゃないです。神の実在を信じてる科学者がいるように、意識のハードプロブレムが実在すると考えている科学者だっているでしょうけど、少数派でしょ。
ハードプロブレムなんてくだらないことをきにしてんの?知性の有無なんてチューリングテストと同じ手法で判定すりゃいいだろ。人がそれに知性や知能があると思えばそれには知能や知性があるのだよ。
> 進化のシミュレーションも、脳構造のシミュレーションも(今はできないけど)> 現在の科学的アプローチの延長線上で可能に決まってるじゃないですか。
今できないのに、どうして可能なのが「決定」してるんですかね。いまのところは可能性は否定できないので「分からない」というところだと思うのですが。
コンピュータの処理能力が人間を超えたとして。マザボとCPUとハードディスクと電源と、ついでにCCDカメラ、モーターも用意しときます?鉄製かタンパク質製のボディも?を用意したとして、これだけでは知性が生まれることはないと思いますが。「知性」を定義するまでもなく、それこそ自明です。
人間はこれ(マザボ、CPU、CCDカメラ、モーター、タンパク質ボディ)だけで「知性」を獲得してます。何が違うんです?というのは分からないんですよね?
本来重要な、中身(ソフトウェア)を開発するのは放棄したんでしょ?「意識のハードプロブレム」を解かないってことはそういうことです。
>「意識のハードプロブレム」については存在しないって考えですよ、もちろん。
そうなんだ。ということは証明は放棄しちゃったのね。。2045年待ちですね。
そもそも本当に人間は知性を持ってるの?
ときどきはいってくる「…である」が変拍子的で面白い。
以下、憶測。
下等な生物ではゲノムつまり本能により制限された行動を取ることにより、フレーム問題を解決している。
他の人や集団のフレームのとり方、ものの見方、考え方などを真似して、取り込んで共有している。「心配性」や「楽観的」な人は当然いるけれども、平均的なフレームを使う。
発達障害の方々にはそういうのが少し多数派と異なることがある。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家
フレーム問題 (スコア:4, 興味深い)
実は、意味解析におけるフレーム問題は、30年以上停滞したままなのです。prologやLispを使ったルールベースの論理型の人工知能の研究がとん挫して下火になったのは、自然言語解析における意味解析でこのフレームも問題を論理的に処理することができなかったからである。
現在主流なのは、意味解析そのものをあきらめて、単語の羅列のパターンからパターン解析でテンプレートに従って特定の動作を行うようにしたものです。パターンマッチングとテンプレートの適用だけなので、システムが意味を理解して判断しているわけではないのです。
要するに、常識とか関連知識による裏付けが何もない状態で、機械的に動作しているだけなのです。
この段階ではパターンに対応するテンプレートは人間が作らなければならないので、人間を超えることなどできないのである。
Re:フレーム問題 (スコア:1)
つまり、人間を越えうるようなモノは、できたとしても人工知能ではない(現代の基準で人工知能とは呼べない)モノであろう、ということかな?
Re:フレーム問題 (スコア:2)
Re:フレーム問題 (スコア:2)
これは宗教やSFの文脈でもしばしば指摘されるところで、
(ふつーの)人が語る知性とは、人の知性の枠内、延長線上でしかないんですよね。
人より計算が速いとかよりミスをしないとかいう尺度は結局「すごいヒト」でしかなく、ヒトの枠を超えた知性は測れない(というかそれを知性と感じない)
ヒトから見て下位にあたる知性について語るのはともかく、ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
しかしヒトはそれが「ヒトを超えた超知性」と判断することはできず、「なんか未熟だな」とか「狂っている」としか評価できない(だって自分を超えてるんだもん)。
「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
一部宗教が設定している「ヒトを愛していると言うけど不幸を正さない理不尽な神」とかSFで出てくる「ちょっかい出してくるけど意図が分からない超科学存在」とかがそんな感じ。(クトゥルフ神話なんてど真ん中ですね)
我々にその高度さを測る物差しがないのだ。
Re: (スコア:0)
> ヒトを超えた知性とは、ヒトから見たら理不尽、非合理的、支離滅裂に写る可能性がある。
それなんてAlphaGo
Re:フレーム問題 (スコア:2)
上手いこと言ったつもりだろうが、AlphaGoは勝率の高い手を選んでいるだけで
そこに「知性」は無いンだよ。
知性が無い、というのと、知性はあるんだが
ヒトから見たら理不尽、非合理的、支離滅裂に写る
というのは、まったく別物だ。
Re:フレーム問題 (スコア:3)
知性の定義があいまいですので「ない」と断言するのも…
Re:フレーム問題 (スコア:1)
人間もうまくいく確率の高い行動を選んでるだけですよ。
Re: (スコア:0)
その区別が傍目には分からん、というのでは駄目なんでしょうか?
Re: (スコア:0)
上コメだが、理解した。
高度な知性は支離滅裂に見えるかもしれないが、支離滅裂に見えるからと言ってそれが高度な知性とは限らないってことか。
つまり、人間より強い囲碁は支離滅裂に見えるかもしれないが、それは必ずしも知性の発露とは言えない、と。
つまりつまり、囲碁というものは本質的には知性を測るには適さないということか。
やっと飲み込めた。
Re: (スコア:0)
人間だって勝率の高い手を選んでるだけ。
Re:フレーム問題 (スコア:1)
であればAlphaGOを引き合いに出すのは悪手だったね _(:3 」∠)_
Re:フレーム問題 (スコア:1)
乱暴な言い方をすれば、AlphaGOは勝てる手をランダムに選んでるだけなので、
結果としてその棋譜に知性が見いだされたとしても、それは偶然の産物でしか
ないんじゃないかな…
それって昔から言われてることでもあって、猿にタイプライターを打たせれば
いつかシェイクスピアを越える作品を打つのか?って話。
Re:フレーム問題 (スコア:2)
100回タイプライタを渡すと
歴史上の名文学を100回返すサルは
私には知性がないと断言できません
偶然の産物であればそれは知性とは言えない、
とは思わないと言いますか
結局知性の定義かと
Re: (スコア:0)
人間の脳だってランダムに神経細胞が興奮してるだけだが、その結果が知性に見えてるだけかもしれない。
Re: (スコア:0)
なぜそれが「うまくいく」と思ったか、そこに知性が潜んでいるかもしれないんですよ。
Re: (スコア:0)
> 「目の前の餌にかみついて全て飲み込む」ことしか知らない生物は、「自分より素早くかみつき漏れなく飲み込む」ことを評価できるが、「後のために一部残しておく」という選択肢を誤りか狂気としか把握できないのだな。
「感情とは何かね?」
「私の意見では、感情とは定型化された行動パターンで、それが生存価を持つことが証明されたために自然淘汰を通じて強化されたものだ。
明らかに怒って闘ったり怖がって逃げたりする動物は、何もせずに食われてしまう動物よりも無事でいる可能性は大きい。」
(JPホーガン、「未来の二つの顔」。マーヴィン・ミンスキーも協力した超有名なAI物ハードSF
Re:フレーム問題 (スコア:1)
たとえばAlphaGoに関して言えば、「囲碁に勝つ」ことが「本能」で、それ以上の機能は実装されてない。
なので、AlphaGoが打つ個々の手が理解できようとできまいと、最終的に
囲碁に勝利する確率を見ることで、その行動が知的であるかどうかは評価できる。
結果に知性を感じる事ができれば、それは知性があると呼んでもかまわない
vs
知性って結果だけじゃなく課程が重要
・・・俺は後者を推したいね。結果よけりゃいいじゃんって考えは受け入れづらいんだ。
Re: (スコア:0)
結果より過程を重要視すると、雨が降るまで雨乞いし続ける巫女さんの方が、
天気予報を司るスパコンや気象予報士より知的ってことになりかねない。
結果を伴わない過程に、いったいどれほどの価値があるというのだろう。
結果を伴わない過程自体に価値があるという信念は、もはや単なる迷信ではないだろうか。
Re: (スコア:0)
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
Re:フレーム問題 (スコア:1)
無理筋な方向に誘導して何がしたいんだろうなあ
結果が伴わないものとして雨が降るまで祈祷する巫女さんを例に挙げてるけど、
ミコスキーとしては許さざるべき事態であると言わざるを得ない。
冷却ファンが唸る部屋に鎮座ましましてるラックの列を掃除のおばさんこねーかなーって
死んだ目で眺めるよりも、巫女さんが僕たちのために雨が降ってくれるよう一所懸命
雨乞いをしている姿の方を見たいだろう?
見たく無い? じゃこの話はもうここで終わりだ。
いいか?もう一度いうが、雨が降ろうが振るまいが、あのスリットから見え(銃声
# 伊勢型改二早く来ないかなあ _(:3 」∠)_
Re: (スコア:0)
バイオ粒子反応あり!破壊!
Re:フレーム問題 (スコア:1)
過程とは何を指すのでしょうか?人間だって所詮はバイオコンピュータ搭載のバイオロボットに過ぎませんよ。
バイオコンピューターって何?
バイオマンの額についてるやつ?(´・ω・`)
# バイオゴリラ [pixiv.net] なら知ってるけど
Re:フレーム問題 (スコア:1)
なるほど。人間と同等の課程で出した結論にしか知性を認めないということですね。
ですね。
つまり、人間以外は知性を持ち得ないと。
なのでイルカの忠告を無視していたら銀河ハイウェイの建設に巻き込まれてしまうんですね、
わかります。
Re:フレーム問題 (スコア:1)
じっさい計算機が出来れば「計算なんて知性のやることでは無い」といい、
囲碁で勝つようになれば「知性とは違う」と言う
翻訳ソフトが発達してきても高速アルゴリズム取引で金を稼いでも「でも知性じゃ無い」扱い
「コンピュータに出来ない人間に出来ること」が知性の定義にしたって良いのかも
Re:フレーム問題 (スコア:1)
>「後のために一部残しておく」戦略が正しいかどうかは、長期的に生き残ることで証明される。
仰るとおり、「生存」を尺度、評価項目として考えればソレで良し悪しが計れ、AIにはその「生存」を定義してやれば同じ土俵に立つことはできる、と。
観測期間は、遺伝子の変化はどこまで許容するか、知識や文化、記録の委譲はどこまで考慮するか、などなど設定すべきパラメータがメッチャ多いのが面倒ですけど。
適切に設定しないと、「運動能力」を計るのに徒競走だけで優劣をつけるみたいなことになっちゃいますもんね。
・遺伝子変化を抑えるよう管理された人間農場が延々と運営されているトコ
・人間が元となった突然変異体がヒトの文化を継承・発展させて生き続けてる(が人間とはもう交配できない)トコ
・人々が発展を捨て”昔ながらの生活”で生き残っている小規模集落
・生物としてのヒトは滅びたが記録・記憶・思想を受けついたAIが活動するトコ
はたしてどれが「スコアが高い」のか、みたいな。(それとも1つ以外が滅びるまで点数はつけない?)
ほんで、示唆されているように「生存」じゃないもの、あるいは「結果」じゃないものを主題にスコアをつけることもできるんですよね。
思考経路を白い紙に黒腺で図示して白い面積が少ないほど高度、みたいに、「複雑で無駄な奴ほど高度」みたいな評価もできます。
「同じ意味をより長い文章で表した奴が優勝」みたいな(笑)
個人的にはあなたと同様に「より効果的に目的を達する奴が優良」であって、その上で過程を重視とか言うのであれば、その「目的」(評価内容)に過程を含めるか否かの問題だと思ってます。
(つまり結局ヒトの知性がどこまで”妥当”に知性というものを評価できるかの問題)
Re: (スコア:0)
Alpha GO同士の対局で意味不明の棋譜が見当たると言った話がありましたが、あれこそが人を超えた部分なんだろうと思っています。
囲碁の場合はルールが有るので、遠くない未来に人の知性の枠内に収めることが出来るとは思いますが。
Re: (スコア:0)
アキレスと亀みたいな問題が出て来るんですね
Re: (スコア:0)
今の人工知能は、設計と人間からの指示に基づいて反応している。そうではなく、意思のない環境からの刺激のみによって
自己を維持する能力を得ない限り、人間から独立した知性たれないということじゃないだろうか。
Re:フレーム問題 (スコア:1)
人類も30億年以上かけて学習したパターン解析に基づいて認識した現実に、後付けで意味を持たせているだけな気がするから、AIも膨大なリソース注ぎ込んで機械学習すれば何とかなる気がする。
# でも結局「知性とは何か」は、AIを創った人類にも、知性を持ったAIにもわからないという落ちに期待
Re:フレーム問題 (スコア:1)
ヒトも「すごい中国人の部屋」でしかないということですよね。
感情や美意識も、結局のところ個の繁栄→血族の繁栄→種の繁栄のための仕組み、もしくはその副作用でしかないと。
ちょっと先までもってくと、
クオリアを否定するわけではないが、それはPCにおけるデータ上の「赤色」のように一つ上のレイヤーで仮想的に構築されているものであって、物理構造にとって深い意味・意義があるものではないって感じ。
哲学的ゾンビがクオリアを感じられない、のではなく、哲学的ゾンビが「あ、今オレクオリアを感じた」って言ったらそこにクオリアがあるって意味なンだよ!って感じ。
Re:フレーム問題 (スコア:1)
知性を論理的に定義できない以上、実装することはできないからなあ。
ハードプロブレムの一つなのかねぇ _(:3 」∠)_
Re: (スコア:0)
どこぞの本で,知性とは自己批判できる能力,ってあったような
Re:フレーム問題 (スコア:1)
Re: (スコア:0)
それが素人の特権だからね
Re: (スコア:0)
素人でもタダで特権がついてくるわけじゃないよね
Re: (スコア:0)
えっ?
コストが必要なんですか?
Re: (スコア:0)
現在の人工知能の基本技術は脳神経細胞の数理モデルなので、
prologやLispを使ったルールベースの論理型の人工知能とは異なるように思える。
脳神経細胞の数理モデルを基にした人工知能が物事の意味を理解して判断しているわけではないのだとしたら
人間が物事の意味を理解して判断しているかも大分怪しくなってくる。
数理モデル通りに動く脳神経細胞とは別に、知性を担う魂がどこかに漂っているのだろうか。
Re:フレーム問題 (スコア:1)
そりゃその「数理モデル」の出来が悪いんだろう _(:3 」∠)_
いまのところ、知性とか魂を論理的に定義できないので、そのモデルを
正確に作り上げることが出来ない。(これがいわゆるハードプロブレム)
そんな作り上げることが出来なかったモデルをどういじくったって
出てくる答えに「知性」とか「魂」は最初から入ってないんだから
怪しいも何も、無いんだよ。最初からないんだよ。
Re:フレーム問題 (スコア:2)
だから,その蓄積の先にあるものは,決して人間のソレとは交わらない。
だって別物だもの。
でも,それでいんじゃないかな,とか思いますけどね。
Re: (スコア:0)
> いまのところ、知性とか魂を論理的に定義できないので、そのモデルを
> 正確に作り上げることが出来ない。(これがいわゆるハードプロブレム)
人間の知性は、別に知性を理解し定義できる高位の存在が作り上げたわけじゃなくて、
進化という最適化機構で長い年月をかけて最適化してきたらできちゃったものだから、
論理的に定義できないと作れないってわけじゃないですね。
ひどく乱暴な表現をすると、適切な最適化機構と演算能力を用意して、
あとは十分長い時間かけて最適化してやれば知性が発生するはず。
まあ今は最高性能のスーパーコンピュータの演算能力だけ見てもまだ人間一人分に及んでないし、
性能と消費エネルギーの比で見ると、100万倍以上人間の脳の方が効率的なので
まだまだ時間はかかるでしょうけど。
Re:フレーム問題 (スコア:1)
やり方はわかっているが、今はその力が無いからできないという事じゃないんですよ。
無限の計算能力があれば解決できるものは、そもそもハードプロブレムなんて呼びません。
高位の存在なんか出さなくても人自身が知性を定義できないんですよ。
今までの論理を中心とした科学的アプローチを拡張しないと扱えない問題ってことです。
なので、やり方がわかって無いので最適化どころかどんな時間かけても
今のままでは実現できない、のです。
# このまま計算速度が速くなればなんでもできるだろって発想はどこから?
Re: (スコア:0)
> 高位の存在なんか出さなくても人自身が知性を定義できないんですよ。
いや、だから「知性を定義」する必要なんてまったくないという話をしてるわけですよ。
> 今までの論理を中心とした科学的アプローチを拡張しないと扱えない問題ってことです。
効率悪くてもいいなら、生物進化の機構をシミュレーションするというアプローチで、有限時間内に実現できるでしょう。
まあそれよりは、(現在はまだ未解明ですが)人間の脳機構のシミュレータを作って、成長の過程で脳へ与えられる神経刺激を入力として与えた方がまだだいぶまし。
こういう手段であれば「知性を定義」する
Re:フレーム問題 (スコア:1)
だからシミュレーションが完全であればそれもできるけど
不完全なシミュレーションを力づくで走らせて
時間かければ最適化できるって・・・なに適当な事いってるんだろうなー
進化のシミュレーション? 脳構造のシミュレーション?
それができたら~という前提からして間違ってるんだよ。
それができないから苦労してるのにさー
ハードプロブレムなんて存在しないって考えの持ち主なの?
少なくともこっちは何回もハードプロブレムって言葉だしてるンだから
神がどうのとたわごと言う前にぐぐって読んでから答えなよ
Re: (スコア:0)
> 進化のシミュレーション? 脳構造のシミュレーション?
> それができたら~という前提からして間違ってるんだよ。
分かり合えそうにないですねえ。
進化のシミュレーションも、脳構造のシミュレーションも(今はできないけど)
現在の科学的アプローチの延長線上で可能に決まってるじゃないですか。
> ハードプロブレムなんて存在しないって考えの持ち主なの?
え、ハードプロブレムって一般名詞としての「難しい問題」って意味じゃなくて、
もしかして「意識のハードプロブレム」を指す固有名詞として使ってたんですか?
だったらちゃんと「意識のハードプロブレム」って書いてくれなきゃダメでしょ。
「意識のハードプロブレム」については存在しないって考えですよ、もちろん。
あんなの哲学者の作り出したたわごとであって、科学的に実在する問題じゃないです。
神の実在を信じてる科学者がいるように、意識のハードプロブレムが実在すると
考えている科学者だっているでしょうけど、少数派でしょ。
Re: (スコア:0)
ハードプロブレムなんてくだらないことをきにしてんの?
知性の有無なんてチューリングテストと同じ手法で判定すりゃいいだろ。
人がそれに知性や知能があると思えばそれには知能や知性があるのだよ。
Re:フレーム問題 (スコア:2)
> 進化のシミュレーションも、脳構造のシミュレーションも(今はできないけど)
> 現在の科学的アプローチの延長線上で可能に決まってるじゃないですか。
今できないのに、どうして可能なのが「決定」してるんですかね。
いまのところは可能性は否定できないので「分からない」というところだと思うのですが。
コンピュータの処理能力が人間を超えたとして。
マザボとCPUとハードディスクと電源と、ついでにCCDカメラ、モーターも用意しときます?鉄製かタンパク質製のボディも?を用意したとして、これだけでは知性が生まれることはないと思いますが。「知性」を定義するまでもなく、それこそ自明です。
人間はこれ(マザボ、CPU、CCDカメラ、モーター、タンパク質ボディ)だけで「知性」を獲得してます。何が違うんです?というのは分からないんですよね?
本来重要な、中身(ソフトウェア)を開発するのは放棄したんでしょ?「意識のハードプロブレム」を解かないってことはそういうことです。
>「意識のハードプロブレム」については存在しないって考えですよ、もちろん。
そうなんだ。ということは証明は放棄しちゃったのね。。
2045年待ちですね。
Re: (スコア:0)
そもそも本当に人間は知性を持ってるの?
Re: (スコア:0)
ときどきはいってくる「…である」が変拍子的で面白い。
フレームの共有 (スコア:1)
以下、憶測。
下等な生物ではゲノムつまり本能により制限された行動を取ることにより、フレーム問題を解決している。
他の人や集団のフレームのとり方、ものの見方、考え方などを真似して、取り込んで共有している。「心配性」や「楽観的」な人は当然いるけれども、平均的なフレームを使う。
発達障害の方々にはそういうのが少し多数派と異なることがある。