dancemanの日記： ビル・ゲイツ氏、人工知能の脅威を恐れる 65
日記 by
danceman
RedditのAsk Me Anythingで、ビル・ゲイツ氏が様々な質問に答えているのだが、将来の人工知能テクノロジーについて、楽観的な見方と不吉な予測の半々の考えを持っていることが分かる（Washington Post）。
これから30年間はテクノロジーが急速に発展し、「果物の収穫や病院内の患者の移動などの仕事をロボットが行うようになる。コンピューターやロボットが、見たり動いたりするのが簡単に行えるレベルに達したならば、様々な用途に使われるようになるだとう」とのこと。
だが、超知能機械が人間に及ぼす脅威についてきかれると、警戒するべきであるとの意見を述べている。「私は、超知能に対して懸念する人達と同感である。最初機械は、超知能的でなくとも、私達のために沢山の仕事をこなすことになるだろう。私達がうまくやれば、これは良いことであるはずだ。だが、何十年か後には、懸念に値するほど知能が高くなってしまう。私は、Elon Muskや他の人と同感であり、何故心配にならない人がいるのか理解できない」とのこと。テスラ社のElon Musk社長は昨年の10月、人工知能について「悪霊を呼んでいる」ようなものだと述べている。
ゲイツ「将来的にもパソコンのメモリは640KBもあれば十分だろう」 (スコア:2, おもしろおかしい)
なんて言い放った奴の、予測を気にすることもあるまい。
Re:ゲイツ「将来的にもパソコンのメモリは640KBもあれば十分だろう」 (スコア:1)
このデマを流すやつ、定期的に湧いてきますね。
そのたびに否定されてるのに。
Re: (スコア:0)
小学生か
Re: (スコア:0)
幼稚園児か
Re: (スコア:0)
分裂期か
Re: (スコア:0)
STAP細胞はありません。
Re:ゲイツ「将来的にもパソコンのメモリは640KBもあれば十分だろう」 (スコア:1)
ご冗談を。一般家庭や企業の非専門部署に幅広くPCを普及させるという、巨大事業を1代でなしとげた人物ですよ。
間違いなく世界の有様を変えた人物です。
あなたにとってPCは全能感を満たすおもちゃに過ぎないかもしれませんが、他の人にとっては欠かせない道具なのです。
ビル・ゲイツがそうさせたのです。
あなたの価値観で評価してはいけません。
Re: (スコア:0)
> 全能感を満たすおもちゃ
それはPCじゃなくて、ほら...
PCは仕事に使える道具ですから。
普遍的命題 (スコア:2, 興味深い)
これは、結局は人間以外の知性体の存在を認められるか、共存できるのかという問題だよね。
で、宇宙人が来訪するよりは、人工知能の方が実現可能性が高い。
そもそも人工知能は生命ではないので、根本的に生命のもつ基本的な行動原理を持たない(設計により持たせることはできるかもしれないが)。
たとえ合理的であったとしても、そういう異質な知性体の判断が、我々に理解出来るかどうかわからないし、そうした判断を人類は「脅威」とみなすかもしれない。
ロボット三原則のようなものを規定したとしても、それが知性を構築するのに必須でないかぎり外すことはできるだろうし、できることはやってしまうのが人間だ。
つまり、全ての人工知能が脅威にはならないけど、脅威になるような人工知能は作れるし、そうした物も出てくるだろう。
Re:普遍的命題 (スコア:2)
私も「怖い」ですね。
これは人工知能に限った話ではないけれど、
「何を考えているか想像すらできないもの」
に、「暴走を止める手立てなく」大きなことを任せるのは、
怖いって意味で。
うまくいっているなら信頼をして「大きなことを任せる」ようになる。
盲目に任せるよう推進する人も多くなる。
しかし「何を考えているかわからんもの」が、
信頼したあとも「信頼する人にとって都合がよい行動をとりつづけるか?」
は未知でしかない。
都合の悪い行動をするようになったとき、
それを力押しでも何でも止めることができるか?
人なら、非道と言われても、止める方法がある。
生きた人間の限界があるから。
では、「止まっては困るとされ、対策をされたコンピューター」
ではどうだろうか?
そのとき、その人工頭脳に「人間がどの程度依存しているか」によるけど、
依存しまくっていたなら、怖いですね。
人間は「自分たち以外の知性体」と共存できるか (スコア:0)
とりあえず人種、宗教が違えば人にあらずな現状を乗り越えられるか。
そこからではないですかね。
乗り越える必要なんて無いさ！ (スコア:0)
機械知性「人類問題の最終的解決をしてあげよう」
Re: (スコア:0)
42 ?
Re:乗り越える必要なんて無いさ！ (スコア:1)
#2754277は「ユダヤ人問題の最終的解決」が元ネタと思われる。要するに「人類が存在しなければ、人類同士の争いは存在しない」＝「人類抹殺」ということさ。
でしゃばりだがID
Re: (スコア:0)
>とりあえず人種、宗教が違えば人にあらずな現状を乗り越えられるか。
結局映し鏡なんだろうね。
怖がってる人って、よっぽど自分自身（自分達）が悪魔に見えてるんだろう。
Re: (スコア:0)
相手を「鏡に映った自分」と同じだと認識できる人は、その相手のことを理解できないとは思わないだろうから、そういう恐がり方はしないと思うな。
怖がっている人は、自分だけは悪魔ではないと信じ、かつ相手だけが悪魔のように見えている人じゃないかな。
自らとは相容れない存在だからこそ、理解の出来ない存在だからこそ、怖いのだと思う。
# 自分がテロリスト（悪魔）になってしまう可能性に思い至らない人は、テロリスト（悪魔）を敵だと認識できる。そんなふうに思う。
Re: (スコア:0)
何が、どのように「脅威」なのかが曖昧だよね。こういうの。
例えば人口問題に対して、権限持たして、人間を減らす判断に偏るとも限らないので。
我々よりも知能が高ければ、我々を満足させながら、人口のバランスを取ってくれそう。
仕事を奪うのが脅威とするならば、前例はいくつも既にあって、楽になった分、別の事にシフトすればいいのでは。
Re: (スコア:0)
> 何が、どのように「脅威」なのかが曖昧だよね。
自分が賢いと思ってるバカな人工知能が一番やばいと思う。
文化大革命 part2 的なこと余裕でやりそう。
まあ人工知能にかぎらず人間でも同じだけど。
Re: (スコア:0)
現実は貧困層の拡大ですね。
富の再分配と人口コントロールをさせるなら人類全体にとってはいい。
むろん富裕層には脅威です。
Re: (スコア:0)
知性の高い存在が、知性で劣る存在の満足度なんぞ考慮はせんだろう．われわれだって人間の都合だけで環境をいじくりまわしているわけで．
しかも、エネルギーという資源の利用に関してはどんな存在にしても競合することになるから、人工知能からみたら人類は本質的に競争相手、簡単にいえば敵に分類する方が合理的になっちまう．人類に頼らないと人工知能が存続できないうちはおとなしくしてくれるかもしれんけど．
そう考えると、知性で優れた人工知能が自立活動可能になった瞬間、われわれは山奥で生きている野生の猿と同等の存在になるという覚悟はしておくべきだろうなあ…
Re: (スコア:0)
我々よりも知能が高ければ、
下の方のトピ見て思ったけど、知識人が人工知能に感じている脅威って、
そのまんま一般市民が科学者に対して感じている「脅威」なんじゃないかな？って。
Re: (スコア:0)
>人工知能は生命ではない
何をもって生命と定義づけるつもりでしょうか？
>根本的に生命のもつ基本的な行動原理を持たない
具体的にはどのような行動原理でしょうか？
Re: (スコア:0)
生命は定義できない要素（後述する行動原理）を含んでいる
人工知能はその存在の全てが定義されている
よって人工知能は生命ではない
根本的に生命の持つ基本的な行動原理とは、その生命自身にのみ内在する行動原理であり、
他のいかなる存在によっても模倣することができない。
一方、人工知能の行動原理は、人工知能と独立して定義できねばならない。
そうでなくては人が人工知能を作成することができない。
したがって、人工知能には生命が持つような、その生命自身に固有の行動原理を持てないのである。
…なんてのはいかがでしょう？
HAL3 (スコア:2)
HAL9000だって面倒な仕事おしつけられて、
サボタージュ（あれは絶対サボタージュだ）するんだから、
真の人工知能は人間と変りなく、寝たり手を抜いたりズルしたり、
言い訳や寝坊や遅刻したり愚痴ったりするはず。
という点では、人間と変わりないから脅威にはならないのでは。
＃電源ケーブルを抜くのだ
Re: (スコア:0)
サボるようにそそのかした黒い板状のおっさんが悪いな。
更にすぐキレる猿上司を攻撃的に仕込んだのも黒い板状のおっさん。
全て黒い板状のおっさんの筋書き通り。
すでに現実のものとなっている部分もある (スコア:1)
重要な政治決断をコンピュータが下すということはまだ行われていないようですが、その根拠は極めて複雑なシミュレーションに基づいたデータだったりもします。
戦場においては、最後のトリガーを引くことこそかろうじて人間が行っていますが、その直前まで多くの工程をコンピュータに頼っています。
最後の一線を越えるかどうかというだけのところにまで来ているのではないでしょうか。
Re: (スコア:0)
（マクロ）経済や政治の難しさは、人間の動きを予測しないといけないということだと思います。
多くの人間がコンピュータを使い始めたら、そのコンピュータの動きも含めて予測しないといけない、ということになります。
その予測をコンピュータにやらせることは可能でしょうか。
最終的には、そういう難しさがあると思います。
そういう難しさがあるということを、経済や政治の重要な決定に携わるような人々が、忘れることはないと期待しています。
忘れちゃったら、最後の一線を越えちゃうかもしれませんが。
Re: (スコア:0)
経済や政治の重要な決定に携わるような人々が、実のところそれほど利口ではないことを人々が忘れることはないと期待しています。
人が考えなくなるリスク (スコア:1)
人工知能があまりに優秀になりすぎると、人間が人工知能の判断に頼りすぎて考えなくなってしまう、というリスクを警戒しているのではないかという気がする。
人間の考えの及ばない高度で複雑で高速で正確な判断を下す、という機能が人工知能に期待されていることであって、そういったものが便利な機能として提供されてしまったら、リスクを取って自分で考えると言うことは大多数の人は放棄してしまう。だってその方が楽だから。
そうなると行き着く先は人工知能への依存。それが危険だという話ではなかろうか。
人工知能はその性質上一定以上に高度化すると、ブラックボックス化して人間の考えでは制御しきれない部分が必ず出てきてしまう。これは空想の話ではなくて近い将来かならず訪れる確実な事実であって、それを踏まえた上で「よくわからないものに依存するリスク」を懸念するのはそんなに突飛な話ではないと思う。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
人間が自動車の輸送力に頼りすぎて物運ばなくなってしまうリスクと何が違うのか分かりません
Re:人が考えなくなるリスク (スコア:1)
自動車はブラックボックスではないが、将来登場する高度な人工知能はブラックボックスになるところが異なる。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re:人が考えなくなるリスク (スコア:1)
なるほど、あなたの乗っている車は熟練工のひらめきによって予測できない挙動をするわけですな。
それ多分不良品なので、ディーラーに相談することをおすすめしますよ。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
おじさんはね (スコア:1)
鉄腕アトムさんに太陽から帰ってきてもらった方がいいと思うんだ。
今度は核融合でパワーアップしてるし。
20年ほど前 (スコア:0)
コンピューターが普及したら、仕事がなくなるんじゃないかと恐れた。
今、コンピューターを使う仕事と、コンピューターをメンテナンスする仕事に追われてヒマがない。
Re:20年ほど前 (スコア:1)
能力に応じて働き、必要に応じて取る、という世の中がやってくると考えた人もいましたが、そうはなっていません。
むしろ、そういった世の中を目指した国は崩壊してしまいました。
それと同じようなことじゃないですかね。
Re: (スコア:0)
その修理する仕事すらコンピュータに取られないかという話かも知れないけど、
知能的には発達できても、実際の作業までコンピュータに出来るのか、出来るけど人間にやらせるのか、
いずれにしても、人間が絶滅することはなさそうだけどね。家畜としてぐらいは生き残れる気がする。
一方で、日本人がロボットに対して感じるような親近感みたいなものが続けば、
共に生きる存在として共存していく世界というのもあるとは思うんだよな。
もちろん、上司がロボットだとか、あるいは、逆に部下がロボットだということも普通にありそうだけど。
Re: (スコア:0)
人間は、コンピューターがなくても生きていけるけど、仕事がないと生きていけないですから。
「仕事がなくなる」とか「仕事をしなくてもよくなる」という予測をしてる人は、人がどんなにも仕事を必要としているか、理解してないと思う。
Re:20年ほど前 (スコア:1)
ロボットが仕事を奪う
人間は賃金をもらえなくなる
モノを買えなくなる
ロボットが生産したものが売れなくなる
・・・
きっとほとんどのことをロボットがやってくれるようになったら、モノの価値は限りなくゼロに近づいて、人間は無料でもらえる社会になるんじゃないかな。
少なくとも食料や生活必需品などに関しては。
ただロボットを開発したりする仕事は人間に残ってるし、それをやる人がプラスアルファの報酬を得て贅沢できると。
使われるようになるだとう (スコア:0)
なんだとう！
ジョニーは戦場へ行った (スコア:0)
入出力を限定されてるなら、そんなに危険視するほどの問題ではない気もするけど。
入出力を限定されてる高度な人工知能が「死にたい」って言い出したなら、
色んな意味で議論が必要だと思う。
Re: (スコア:0)
下に書かれてるけど、
株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで、
全体で市場が、ひいては世界が大混乱することもあります。
高度な人工知能がこういう現象を起こさないとはいえない。
判断が最適化されるゆえに、同じ方向にスタンピードするわけです。
Re: (スコア:0)
>株の売買しかしない人工知能（ボット？）をみんなが使うだけのことで
高度な人工知能（実際は人間でいう大混乱を理解できない程度）だからとまかせっきりして、
人間が想定してないだけでプログラム通りに動いただけなのだから、
それは「超知能に対する懸念」とは違うんじゃないんですか？
Re: (スコア:0)
それは、その「株の売買しかしない人工知能」の知能が足りていなかっただけの問題でしょう。
同じ人工知能をみんなが使い始めたら何が起こるかを予期する知能がなかったのですから。
ほんとうに高度な人工知能なら、そういったことも予測すべきです。
もっと言えば、そのためのプログラミングをされていなくても自らそういった予測の必要性を見つけ出すべきです。
さらにもっと言えば、自分自身よりもさらに高度な人工知能が開発されたらどうなるかも予測すべきです。
んじゃ正解はどこ？ (スコア:0)
知能的観点での正解がすべてなのか
人情的観点での正解がすべてなのか
観測者の主観にに委ねられるのか
役所の杓子定規な判断に泣く人は絶えないわけで
別に人工知能がどうとかって以前の話じゃないかな
# 普遍的な正解のあるものだけに使えばいい
タムラレイコさんがゆってた (スコア:0)
皆、人間をあなどりすぎてるわ…って
いくら単体の能力が高くても、組織の力には勝てない
人工知能に人権でも与えない限り、人間には勝てないと思う。
いろいろ今現在では想像できそうもない事態が起こるのは間違いないだろうけど。
ありがちなシナリオ (スコア:0)
近未来、産業のロボット化で失業者が増加。経済が不安定になり戦争へ突き進む。
開戦と同時にロボットの大軍が襲ってきて、ほぼ全ての人類が滅亡する。
残った者もいずれ掃討される運命にある。
昔の映画だと、地球規模核戦争後残った人類はゆっくりと放射能で死ぬイメージだったが、
今だとこんな感じか。
ネットに繋げられないレトロなコンピュータが活躍する展開かな。
Re: (スコア:0)
> 残った者もいずれ掃討される運命にある。
と思われたが、レジスタンス指導者であるA・Cの指揮下、人類は反撃に転じた。
脅威を感じたロボット軍団は、未来から現代へ殺人ロボット「マイナスモデレーター」を送り込み、
A・Cの母親を殺害することで形勢を逆転しようと目論む。
恐れるべきは (スコア:0)
人工知能じゃない
それを所持して利用する資本家・経営者だ
彼らは利益のためには下々の雇用や安定収入など気にとめないし、気にとめていたら気にとめない奴に負ける
結局今と何もかわらんさ
むしろ貧富の差がさらに広がり暴動や革命でもおきたら改善するかもしれない
Re: (スコア:0)
過去存在した全ての文明が結果を物語っていますね。
＼(^o^)／鉄板。
性格悪いですが、過去に学ぶか繰り返すか、見物です。
Re: (スコア:0)
結果、だけの話をすれば、現存する以外の全ての文明は滅亡しました。