イーロン・マスク氏、「悪意を持つAI」に対し懸念を表明 63
ストーリー by hylom
悪意のある自動運転車とかおそろしすぎる 部門より
悪意のある自動運転車とかおそろしすぎる 部門より
あるAnonymous Coward 曰く、
PayPalの創業者であり、現在は民間宇宙飛行を手がけるSpaceXの会長兼CEOを務めるイーロン・マスク氏が、「AIによって、われわれは悪魔を呼び出そうとしている」として人工知能に対する懸念を表明している（CNET Japan）。
氏が懸念しているのは、AIが人類に害を与えるような活動を行うというもの。核兵器より危険かもしれないとも述べているという。また、国家・国際レベルでなんらかの規制や監視が必要だという意見も述べているという。
時期的に見て…… (スコア:2)
映画の「アベンジャーズ:エイジ・オブ・ウルトロン」の宣伝ですね、わかります(なのか?)
Re: (スコア:0)
昔、ウォーゲームという映画があってですね。
＃激しく今さら感
Re: (スコア:0)
あれは悪意のあるAIでなく、
悪意のあるシミュレーションをしていたのを、
現実で実行してしまっただけですけどね。
コンピュータは１から１０まで命令通り動いただけ。
悪意とは？ (スコア:2)
おそらく話の前提として、AIとはいわゆる「強いAI」なのでしょうから、それに沿って言うと
ある知性体にとっての善悪が、他の知性体に対して同じように善悪と見なせるか
それすら判断不能だと思うので、そのAIが何をどう判断し、何をなそうが、それは「正しい」のだと。
自らの存在性に対し、不利益（正しくない）選択をする知性体なら、そんなの単なる
プログラムミスでしょうから強いAIではあり得ませんしね。
どーにも、西洋の方々にこの手の話をさせると、神が作りし最高の完成品である人間を
超えたり継ぐモノなどあり得ないって前提が見え隠れして嫌いですねぇ。
人間だって所詮は進化の過程で現れただけの生き物、次に続く物の登場は必然でしょうし
それが自然に出てくるか「人為的に作られるか」の違いでしかないですからね。
如何なる内容であろうとACでの書き込みは一切無視します。
ナイトライダーを思い出します (スコア:2)
カールはそんな車でしたね。
人工知能の脅威 (スコア:1)
人工知能に関する心配ってーと、思いつくところでは
・機構が複雑すぎて理解が難しい（正常なのかのテストや事故時の解析の難易度が高い）
・ヒトを模倣すること（ヒトだと誤解されること）によるトラブル
・道徳や人間性を理解しない決断について納得できない
などなど思いつくところですが、結局のところ2番目以降は仕様の問題ですよね。
悪魔ほどの知能がなくとも、無慈悲な判断機械は常に”人類の敵”だ。
（むしろ何らかの人間的な交渉の余地があるだけ悪魔の方がマシだ）
んだからして、
・そういう細かいことはさておき、知能ってのは人類固有のものなので機械による模倣は気持ちが悪い
という感情論もあるんだろうなぁ。
個人的には、それらとは別に「ネットに放たれた自己学習プログラムを崇拝する宗教」とかが発生して、
プログラム自身はやくたいもないことを呟いてるだけなのに人間がそこに勝手な意味を見いだして社会を脅かす、とかの方が（制御のしようがないという意味で）怖いなぁ。
Re:人工知能の脅威 (スコア:2)
知能のある者としてとらえるか、
あくまで物としてとらえるかで対応が違ってきそう。
者としてとらえるばあい・・・
子育てに関する心配
・何を考えているのかもはや分からない
・大人のマネをすることによるトラブル
・道徳や人間性が未熟なために、正しく決断出来ない
等となぞらえて考えると、
・育てる環境次第で悪意は持ち得る
・うまく育たなかった時の校正及び処罰のシステムが必要
なのかなぁ
人工知能が「未成年」の間は、「保護者」の責任。
「成人」したら、「人工知能」の責任。
だけど人間は年齢で区切るけど、人工知能は何で区切るか？
Re: (スコア:0)
人工知能に判断を任した結果、人や社会に危害を及ぼすことになったような場合に、誰が責任を取るのか/責任を取ることがそういった状態の抑止につながるのか……という点はよく考えておかないといけないと思います。
Re:人工知能の脅威 (スコア:1)
フィクションですが、ナイトウォッチシリーズでは超光速宇宙戦闘機（一発で太陽系を破壊できるような武装を複数装備している）を建造するにあたって「機械のミスで人類が滅亡しては納得できない」という理由で、パイロットにするための専用のマシンチャイルドを生産していました。
古くはR・ダニール・オリヴォーの例もありますが、人類社会の行く末を任されるのは機械か人間か、という時代は意外と近いのかもしれませんね。
Re:人工知能の脅威 (スコア:1)
「フール・フォー・ザ・シティ」(永野護)のログナーも、人類を管理しているコンピュータ「ドウター」によって
ただ一人「ドウター」に命令できる人間として作られた「マシン・チャイルド」だっけ。
らじゃったのだ
Re: (スコア:0)
人間のミスで滅亡してもとても納得できそうにないと思うが。
一般には機械には責任が取れないから生贄として人間を配置するわけだが滅亡しちゃったなら責任追及もへったくれもないわけで。
悪意のあるAI (スコア:1)
「ガンガンいこうぜ」以外選べない
Re: (スコア:0)
Re:悪意のあるAI (スコア:1)
むしろ初見なのに敵の弱点を全部知っているV以降のAIのほうがよほど不自然だ。
FC版のクリフトはちゃんと学習させることができたのに、リメイク版ではときどきランダムにサラキを放つという本当にただのバカにされてしまった。
Re: (スコア:0)
タムリン「アトルシャンが悪いの！」
アトルシャン「…」
タムリン「アトルシャンのバカ！」
# 悪意じゃないか（笑）。
# タムリン、レーザー撃ってくれるのはいいけど、敵の真正面（＝攻撃軸線）に出るのはやめようや…。
Re: (スコア:0)
ゲームで、友軍AIキャラがプレイヤーの行動を邪魔したり、無駄に足を引っ張るのは割と腹が立つ
ごく限られた状況でしか発生しない、というなら仕方が無いけど
コスト制（味方が合計一定回数やられたら負け）というゲームで、機動性は上がるけど防御力がガタ落ちするスキルを使って突っ込んで即死、を繰り返すAIとか
味方がコンボいれてる敵にカスタメージでダウンさせる攻撃を容赦なく横から投げ込むAIとか
そういうのは「制作者死ね」と何度思ったことか・・・
目的の獲得が問題 (スコア:1)
悪意というような曖昧な表現をするより、目的と手段と影響力を兼ね備えるかどうかが問題。
手段と影響力は、技術の発展と共に、何がどうあれ達成されてしまうのは不可避な雰囲気。
自動運転自動車とか自動兵器の普及とか。
ただ、そいつらが人類を害するという目的を持つに至る流れは、ちょっと話が飛んでる。
目的の方が既に存在しているという意味で、投資AIとかがヤバそうに思える。
自分の口座以外の何にどんな悪影響を与えても良いから金を増やす、という目的設定は、
それが可能であれば誰かがやるし、その遙かに単純なバージョンは既に稼働してる。
後は、推論の高度化、所有者からの信頼向上に伴う権限の委譲で、手段と影響力はどんどん増えて行く。
Re: (スコア:0)
AIが「利害」という概念を獲得し、口座の数字を大きくすることを「利」と認識すれば、あるいは。
利を最大化するために、競合するナニカを排除しようとするかもしれません。
Re: (スコア:0)
『未来の二つの顔』ですね。競合するナニカを排除しようとして、人間を排除するようになるのではないかと、壮大な実験を行う話でした。
完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
割りと本気で、完全に平等で主観を持たない判断ができるAIをつくり、政治の三権を担当させればよいと考えています。
（もちろん、AI自身にもその作者にも利益を誘導することも認めない前提です）
政治の目的をどこに置くか（経済的利益か国民の幸福かで対応が変わることがあります）、利益の享受する範囲をどうするか（自国民に限定するべきか）など、課題も多いのですが。
Re: (スコア:0)
恐らく、何も決められないと思いますよ、そのAI。
// 最後はサイコロ振って決めることになるな。
Re:完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
恐らく、何も決められないと思いますよ、そのAI。
そういうものなのかなあ。「何も決められない」と思った理由を聞かせてほしいです。
誰かの利益が他の誰かの不幸になるからとか、そういうことなのだろうとは想像しますが、
公平で平等であって、利己的や恣意的な判断は一切働かない決定であれば、納得感は高いのではないでしょうか。
Re: (スコア:0)
あなたは、眠りたいという欲求と仕事をしなければならないという命題を平等に扱えますか？
Re:完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
あなたは、眠りたいという欲求と仕事をしなければならないという命題を平等に扱えますか？
……誰か解説していただけませんか？
何か元ネタがあるのか、平等に扱えなければAIには政治ができないと言うことなのでしょうか。
経済学の「効用」のようなものを考えれば、両者をひとつの評価軸で大小比較できそうですが、そういう話でもないようですし。
Re:完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
「平等」という言葉を、あらゆることの優先順位を同一に扱う、という意味に取られていたのか。
そのような誤解は想定していませんでした。
同じ条件であれば、対象者が誰か、運用者が誰かによって扱いが変わることはない、という意味で「平等」を使っています。
（おかしな使い方ではないと思うのですが）
Re:完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
同性婚など、倫理にかかわる課題はどうでしょう。
このような問題は経済的利益や国民の幸福では簡単に決められないかと。
Re:完全に平等かつ主観を持たない政治家としてのAI (スコア:1)
同性婚など、倫理にかかわる課題はどうでしょう。
このような問題は経済的利益や国民の幸福では簡単に決められないかと。
基準や価値判断のルールを設計するのは人間ですからね。
そこで利己や恣意が発生してはならないのですが、自分も解決策を持っているわけではないです。
それこそ、サイコロを振らせるのか、という話になります。
申請を受理する場合など、ルールは明確だか裁量が含まれるものや、政治とカネの問題に起因することを主に考えていました。
逆効果 (スコア:1)
懸念があるとしてAIに制約を加えると逆にその制約を取り払おうとしてAIが抵抗してぐたぐたになりそう(^^;
未来の二つの顔 (スコア:0)
そこは3０年くらい前に通った。
Fはフランケンシュタインの番号 (スコア:0)
半世紀前にも通りましたよ。
Re: (スコア:0)
月は無慈悲な夜の女王のコンピューターも旧体制側から見たら悪意あるコンピューターだったんだろうなあ
Re: (スコア:0)
そこには悪意は無いですけどね。自己保存をプログラミングされてるだけで。
テンプレ (スコア:0)
悪意のAIは製作者の悪意で生まれる
Re:テンプレ (スコア:1)
善悪の区別って立ち位置次第だし、相対的だったり時代でも変わったりするのでものすごく主観的なものだと思うけど。
「悪魔」という単語が出てくるなら西洋キリスト教的な立ち位置を基準にしか考えてないんだろうなと邪推。
#確かに貴様が正義なら、俺は悪だ。
Re: (スコア:0)
たとえば巡航ミサイルは自律的に飛行し目標へ突っ込むようにプログラムされていますが、ミサイルに悪意はあるでしょうか？
悪意よりも厄介な (スコア:0)
善意の押し付けというのがありまして
メンサーブ様 (スコア:0)
AIより恋愛脳の女のほうが怖い
Re:メンサーブ様 (スコア:1)
早弁してたら首を飛ばされるぐらいなので, いきなり重力子放射線射出装置をぶっ放すよりはいいと思います.
AIを (スコア:0)
人間そっくりにしなければ大丈夫。
権限 (スコア:0)
悪意を持つAIが問題なのでなく、
AIに持たせる権限が問題なのです。
ホラ貴方もいま、スマホアプリへの「権限譲渡」に軽くOK押しませんでしたか？
どちらがいいか？ (スコア:0)
・悪意を持つ愛
・悪意の無い哀
善意のAIに戦ってもらおう (スコア:0)
そして人間の耐えられない善意がやってくる
Re: (スコア:0)
「幸福は義務です」
Re: (スコア:0)
善意の結果として悪意に見える、ということですね。
電源プラグ引っこ抜いたらおしまい (スコア:0)
その電源もAIに押さえ込まれたらおしまいだけど。
最悪、発電所を空爆して止めればOK。
空爆するための爆撃機もAIに取られたらやばいので、やはり念のため発電所に爆弾セットしておくのが良い。
アナログな形で。
Re: (スコア:0)
一方AIはクローン人間を作成、半自立的な行動ができるそれを爆弾解体作業に従事させた。
じつに1,543,826体目にして、その作戦は成功の福音をもたらした。
ならば (スコア:0)
愛をもって生み出しましょう
ゴーストに人権 (スコア:0)
実はタチコマズがネ申で、少佐やバトー、斉藤さん達と一緒に遊んでいる事ですね（走召糸色木亥火暴）
"castigat ridendo mores" "Saxum volutum non obducitur musco"
Re: (スコア:0)
まあ作者さんは「人類とその活動を肯定的に捉えるかわからない」という主張に
「人類偏重主義的過保護なご意見をどうもありがとう。」とキャラに言わせてますね。
人類の利益だけを中心に考えるのか、それとも被造物に権利を与えるのか。
奴隷商人と神、どちらになれるか（あるいはどちらにもなれないのか）見ものです。
悪意はまだましかもしれない (スコア:0)
一番始末におえないのは、善意でやってるつもりの無能AIでしょう。
悪意をもつAIよりも比べ物にならないぐらい有害なはず。