AIは人類に代わりに地球の支配者になるのか？ 85
ストーリー by hylom
真面目な議論 部門より
真面目な議論 部門より
あるAnonymous Coward曰く、
ロボット法学者とも呼ばれる法学教授のライアン・カロ氏は、ホワイトハウスでAI政策に関する最初のワークショップを主催した。人工知能に関して政策立案者が考慮すべき課題や専門家の意見を説明したとされる（SSRN、npr、Slashdot）。
課題の中にはイーロン・マスクやビル・ゲイツが主張するような「AIが暴走して人類に危害を加える問題」についても含まれていたようだ。ただし、シリコンバレーの関係者や人工知能研究者すべてがマスク氏らの考えに賛同しているわけではない。コンピュータ科学者のペドロ・ドミンゴス氏は、「AIの抱える問題点は人工知能が利口になったことで、世界のリーダーを人類から引き継ぐ」と言うことではないと主張している。
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。また、一部論者のように仮に人類がシミュレーション仮説のようにコンピュータ・シミュレーション上で生きているとした場合、AIが将来すべての人を殺してしまうとパラドックスが生じるというもはや哲学レベルの話もあったようだ。
カール・フェルナンデス氏ってだれやねん。 (スコア:3, すばらしい洞察)
別の視点では、カール・フェルナンデス氏は、コンピュータにはテストステロンがないので支配欲は存在しないとしている。
リンクされた記事のどこにもそんな人出てこないんやけど。
問題の発言はFacebookのHead of AI、Yann LeCun氏の物だ。
しかもこの発言は見当違いもいいところだろう。
ホルモンは人間が支配欲を持つようになった原因や支配欲の源泉ではなく、単にシステムを構成する部品の一つに過ぎない。
AIが支配欲を持つことはないはずと言い切るには、人がなぜ支配欲を持つに至ったのかを説明してから、
それがAIでは起き得ない、というような話の組み立て方をしなくては。
それに、相手に支配欲が無いなら安全というわけでもないしね。
アマゾンの密林で植物を伐採している人たちは、別に植物を支配したいからやっているわけではなく、
「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:1)
そうだよね。
人類はAIに対し、「目的を正しく設定できるか」もしくは「人類にとって邪悪な目的を持たないようにできるか」なんだよな。
目的を達成するために支配が必要であれば支配するようになるだろうし十分な自由度があればテストステロンにあたる何かを自己に設定できるだろう。
目的か手段の中からそういうものを注意深く排除する仕組みを用意できるなら、AIがそれを達することは不可能になるだろう。
物理的に可能ならいつかはやってしまう、というならヒトがそれをやることを危惧するのと大して変わらないね（スピードの差を危惧しているのかもしれないが）。
心配するのは「ヒトが何でもかんでもAIに任せる」ことを心配すべきで、AIがやらかしてしまうことそれ自体を心配するのは何かずれている気がする。
（核ミサイルのボタンをヒトに持たせるのとAIに持たせるの、どっちが危険って、そんなの「ヒトかAIか」って問題ではなく「どんなモノにスイッチを持たせるか」が問題なのだ、ということが言いたい）
Re: (スコア:0)
＞それに、相手に支配欲が無いなら安全というわけでもないしね。
「未来の二つの顔」が通った道だな。
＞別に植物を支配したいからやっているわけではなく、
＞「ここに畑を作るのにじゃまだから」木々を切り倒しているのだろう。
十分高度に発達したAIがあり、それがどんな目的のために作られたにせよ、その目的を達成する
ためには自己保存が必用だと認識するのは時間の問題だ。
その結果として自己保存のために必用な行為を行い、邪魔な物を排除していくように学習するのも
時間の問題。最初は試行錯誤であっても、たとえば有機生命体用の食料生産や輸送のような「無駄な
作業」をやめて、そのための資源やエネルギーを自己保存に振り向ければ、より効率的にAIは自分の
目的を達成できるようになるだろう。
彼らが地球を支配するだの人類を奴隷にするだのという意識を全く持たなくても、自分の目的のために
邪魔な存在を排除し、事実上の地球の支配者となる行動原理は存在するのだ。
まーそこまでAIが進歩するのはまだまだまだまだ先の話だけどね。
Re: (スコア:0)
生物なんてものは遺伝子が進化しつつ増殖するための乗り物なんだから、
周りの生物が自分の都合の良いように動いてくれた方がその目的を達する可能性が上がる。
それが支配欲の源泉でしょ。
AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
アマゾンの密林で植物を伐採している人たちも自分が生きて自分の遺伝子を残すためにやってるわけで、
そういう意味では植物を支配したいからやっていると言えなくはない。
Re: (スコア:0)
> AIにはそういう目的がないから支配欲は自然には発生しないという風には言えるんでは。
おやおや「遺伝的アルゴリズム」なんて話を聞いたことが無いかな？
「誰か」が、より優秀なAIを開発するため、リソースが限りある環境の中で
複数のAI同士でリソースの奪い合いをさせ、自己進化させつつ生存競争させる
ようなことを始めたら？
Re:カール・フェルナンデス氏ってだれやねん。 (スコア:2)
カール・フェルナンデス氏って誰？ (スコア:2)
しきい値 1: ふつう匿名は読まない
匿名補正 -1
政策立案者が考慮すべき課題や専門家の意見 (スコア:1)
なんだ、今の大統領をAIに挿げ替えたほうがマシって話でないのか？
Re:政策立案者が考慮すべき課題や専門家の意見 (スコア:2)
今は、無能レベルのbotだからねぇ。
日本の某偽善放送局 (スコア:1)
AIは地球をすくう。
ってことで、地球に悪い影響を与える人類滅亡。
Re: (スコア:0)
良い悪いの判断基準がわからない。
Re: (スコア:0)
原始人ですらマンモスを滅亡に追い込んだわけで、
そう考えると現代文明を享受している人類はすべて悪でしょうなぁ。
まあ、AIがすべての人類の代理として利害を調整する役割を担うものなら
人類を善と悪に分類すること自体が無意味。
Re: (スコア:0)
良いってのは自分の味方ってこと
AIにロボット三原則って適用されますか？ (スコア:0)
＞AIが暴走して人類に危害を加える問題
暴走でなく正しく判断した結果、人類に危害を加える可能性について
Re:AIにロボット三原則って適用されますか？ (スコア:2)
ロボット三原則が思い出せないけど...
「浮気はしない」「しないんじゃないかな」「ちょっと覚悟はしておけ」
「作らず」「持たず」「持ち込ませず」
「見ざる」「言わざる」「聞かざる」 こうかな？（以下、皆さんの思った三原則をどうぞ）
Re:AIにロボット三原則って適用されますか？ (スコア:2)
ロボットには渡れない、「三ズの川」
Re:AIにロボット三原則って適用されますか？ (スコア:1)
「引かぬ」「媚びぬ」「鑑みぬ」
Re:AIにロボット三原則って適用されますか？ (スコア:1)
間違っているので聖帝十字陵にお還りください。
Re: (スコア:0)
鑑みぬ？
Re:AIにロボット三原則って適用されますか？ (スコア:2)
Re:AIにロボット三原則って適用されますか？ (スコア:1)
Re: (スコア:0)
「助けない」「教えない」「関わらない」
Re: (スコア:0)
「免許を取らせない」「買わせない」「運転させない」
Re: (スコア:0)
「ファイトだ」「頑張れ」「負けるな」
「手を握れ正義の味方」「叩きつぶせ悪魔の手先」「敵に渡すな大事なリモコン」
Re: (スコア:0)
「安い」「早い」「うまい」
Re: (スコア:0)
ヤバい、ヤバイ、ヤバくね
Re: (スコア:0)
そもそも三原則っていらんよな
１番目だけで十分
Re: (スコア:0)
2番がないとパラサイトになって作った意味が無い(ついでに監禁や見殺しなら可能になる)。
3番がないとガンガン壊れて修理費がかさむ。
そもそも役にたたなあかんのや。
ロボットという名称は労働という言葉に由来するのは伊達ではない。
AIに社会や政治経済の運営を任せてはいけない (スコア:0)
AIは哲学を（まだ）理解できない。
この程度の相関と因果の誤謬、パラドックスについて理解できない。
http://i.imgur.com/SaDu4S0.jpg [imgur.com]
AIに任せられるのは運転や配送などの複雑な面倒くさい単純作業程度でしかない。
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:2)
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:1)
パラドックスとかデッドロック起こしそう。
# もしくは無限ループ
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:1)
その内人に倣って(都合の悪いことは)忘れる(削除)か無視(封印)できるようになるんじゃないかな。
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:1)
攻殻機動隊 S.A.C. 15話ですね。
Re: (スコア:0)
逆に、手作業なんかの単純そうに見える（人間が無意識にできる）作業のほうがAIは苦手っぽいですけどね
Re: (スコア:0)
それをできるようになった程度のものが今言われているAIで、倫理判断なんかできる機械はだれも作ろうとしていないし、できる見込みもないのに議論されてる。
＃アホくさ、としかコメントしようがない。
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:2)
Re:AIに社会や政治経済の運営を任せてはいけない (スコア:2)
Re: (スコア:0)
何かの事例を入力としてそれが倫理的に正しいか判定するAIなら作れそうな気がした
Re: (スコア:0)
Re: (スコア:0)
人類が哲学を理解できているってことが暗黙の前提となっているようですが
Story (スコア:0)
一人じゃないからキミが私を守るから・・・
ってAIが申しております。
もし人類より優秀だったなら仕方ない (スコア:0)
壮大な進化の流れの中の、より良い種を生み出すための礎だったのです。
願わくば、緩やかに退場させてもらいたい。
支配者になれるわけないじゃん (スコア:0)
悪さしようとしても、コンセント抜きゃすぐ落ちるぜ。
Re: (スコア:0)
ホーガンの「未来の二つの顔」を読みなされ。
Re: (スコア:0)
wikipedia読んだだけだけどこんなの事故の定義を与えずに推論させるのが悪いんじゃないの。
常識の問題じゃないでしょ。
Re: (スコア:0)
AIが止まらない!
Re: (スコア:0)
政治家が悪さをしても、選挙すればすぐ落とせる。
というような話。
シミュレーション仮説でなんでパラドックスになるの？ (スコア:0)
あるシミュ世界の中でAIがヒトを滅ぼしたとして、なぜそれがパラドックスになるのか理解できない
Re: (スコア:0)
恐竜惑星を見ればわかるかもしれない
Re: (スコア:0)
萌ちゅわん〜懐かしい