「コンピュータ技術の発達で「手に職」系の職業も消える？」記事へのコメント

特異点の前に

[Anonymous Coward]

人類が人類以上の知能を作り出したとき、それを特異点という。
なぜなら、その知能は自身以上の知能を作り出せるのだから。

その時、考えられているのは以下の3つか？
・進化しつづける知能により人類は労働から解放されるユートピア
・超人類的知能により人類は知らず知らず支配されているディストピア
・超知能により爆発的に高度化する社会に適応するために学び、より高度化するために働く人類

というのがSFな感じでしょうか？

だが、そもそも人類は、というか知能というのは自身以上の知能を*理解≒意図して*作ることが可能なのでしょうか。

Re:特異点の前に

[digoh (17917)]

めんどくさいことを考えていくなら、

・ヒトが人類以上の知性を作り出せたからと言って、その新知性が新知性以上の知能を作り出せるとは限らない
　例えるなら、人間が自身よりも明らかに知能が高い子を産む可能性はある。
　しかし、その子はその知性を作り出す手段を知っているわけではないし、子孫に伝える手段を持っているとも限らない。AIもしかり。
　複製（あるいは事実上の不死）くらいはできなければ特異点とは呼べないだろうが、より上位を作れることが特異点の条件なのだろうか？

・挙げられた状態が「ユートピア」か「ディストピア」かはSF作家の主義次第
　「労働からの解放」は幸福なのか？「奴隷の幸せ」「家畜の幸せ」は不幸なのか？人が望むのは「ほどほどの自由」だったりしないか？

・欲の薄い高知性ロボと進歩しない人類との共存の可能性
　ヒト社会が高度化してきたのは一言で言えば欲のせいだが、高度な知性はどのような欲で動くのか？もしくは欲を克服していたら社会は高度化しない可能性がある？

・そもそも、人類以上の知能とはなんぞや
　「人が理解できる範囲のステキな解答」を出す程度で、「人を超えた知性」と呼べるのか？頭の回転が速いだけの人類的知性なのでは？
　超高度に複雑化した判断システムが生まれ、人の理解を超え、理解できない課題に理解できない解答を示すAIができた時、ヒトはそいつを「人を超えた知性を持つAI」と呼べる（評価できる）のか？

「人の言葉を理解し、人の社会、芸術、感情を理解した上で、頭の回転がどの人類よりも速いヤツ」だけが「人類以上の知能」なのか？

Re:

[Anonymous Coward]

技術的特異点の向こう側に生まれる超知的存在を人間が認識できるとは限りません。
むしろ認識不可能だからこそ「特異点」と呼ばれるわけで、そんなものとは共存も何も接点すら存在しないわけです。
特異点後を扱ったSFでも「超知性体はある日どこかへ行ってしまった」という書き方がされたり、
一種の霊的存在(=神格)として描かれることが多いです。