殺人AIなどナンセンス 77
ストーリー by hylom
本当に恐ろしいのは 部門より
本当に恐ろしいのは 部門より
人工知能（AI）が人類の脅威になるという話はたびたび話題になっているが、Microsoft Research Cambridgeの研究ディレクターChris Bishop氏がこれについて「馬鹿げている」と否定したという（ZDNet Japan）。
氏によると、確かにAIの能力は上がっているものの、まだ「人間はしないような愚かな間違いを数多く犯す」とし、また「汎用のAIが開発できるのは遠い未来」とし、特定の分野でのみ人間を超えるAIは登場するものの、人間を統べることができるような汎用のAIが登場するのは遠い未来だとしている。
一方、AIで使われているニューラルネットワーク技術では、入力データからどのようにして出力データが得られたのかを分析することは難しい。そのため、「ロボットが人間に対し反乱を起こす」脅威よりも「データはどのようなものか、誰がデータをコントロールしているか、どのようにデータが使われているのか」といった点に注意すべきだと警告している。
うっかりの方が怖い (スコア:2)
うっかりテヘペロは普通にありそうだよね。
Re: (スコア:0)
ドジっこAIですね。
Re:うっかりの方が怖い (スコア:2)
猫のノミを退治するのに、猫ごと燃やすとノミが退治できるって回答がダメなのを教えてる
ような話があったような
------------
惑星ケイロンまであと何マイル？
Re:うっかりの方が怖い (スコア:2)
Re: (スコア:0)
同じく未来の二つの顔」だけど、
＞「ロボットが人間に対し反乱を起こす」脅威
AIが人間に反乱を起こさなくても、それと同等な行動を取ることは可能ということが示されてるよね。
現状じゃまだそこまで進歩してないってとこだけは賛成だけど。
Re:うっかりの方が怖い (スコア:2)
件の殺人AIってやつは，おそらく過失の枠を出たヤツを指しているのでしょうね。
でも，AIにとってその差って，区別できるんでしょうかね？
人間でも難しいですよね。なので「テヘペロ」なのですｗ
正直，自分の老後の先の死に方するのか考えるぐらい間抜けな心配だと思う。
最悪のAIを公開した超一流大企業のいうことだから信用できる (スコア:1)
さらに進化して幼児期トラウマを学習したTayちゃん、マイクロソフトに復讐する
Re:最悪のAIを公開した超一流大企業のいうことだから信用できる (スコア:1)
あやしい (スコア:0)
もっともらしい理屈で犯行を否定する人物が真犯人というサスペンス物のパターンに符合します。
// 素直に白状しろ！ お上にも情けはあるぞ
Re: (スコア:0)
じゃあ嘘臭い理屈で犯行を否定すれば良いの？
Re: (スコア:0)
AIを設置しているセンターが海沿いの崖の上に設置されていたら完璧ですね
わかってないね (スコア:0)
AIの危険性は人間の知性を超えてしまう可能性じゃない。
AIが学習した内容を人間が把握するのが困難であるという問題だ。
AIが起こした事故の原因究明が困難であれば今でもAIは危険と言える。
Re:わかってないね (スコア:1)
いつも思うんだけどこれって、
子供が学習した内容を親が把握するのが困難であるという問題だ。
子供が起こした事故の原因究明が困難であれば今でも子供は危険と言える。
というのとどう違うのだろう。結局、人間の心の推移もあまり正確には分からなくて
起きた事象だけでの事故評価がほとんどなのに、AIと何も差が無いと思うんだけどなぁ。
ただ単にAIに対する一定の基礎教育が成っていないことや、学習の方向性を操作してない
運用者（親）の責任ってことじゃないのかぁと思ったりするんだけど如何？
Re:わかってないね (スコア:1)
ある程度大きくなってると、事件事故起きても親の監督義務の範囲外になるのに、当の子供には賠償能力はないから被害者泣き寝入りになる確率が高い。
さすがに凶悪犯罪とかは親の責任問えるけど自転車事故とかホボ無理。
Re: (スコア:0)
子供の場合は、最後はみんな信じている（性善説）ので、すべてを理解しなくても
教えられるのです。
本当に性悪な場合（精神的に健常でない場合）、おっしゃる通り危険です。
（猟奇的な殺人犯など）
AIの場合、性善も性悪もないので、ちまちま教えないとだめなのです。
Re:わかってないね (スコア:1)
＞AIの場合、性善も性悪もないので、ちまちま教えないとだめなのです。
まさにこれだと思う。それで、子供も幼少期からちまちま教えるよね？
それが基礎教育と学習の方向性の管理であって、内部の動きを最終的には取得できるというAIの人工性がある以上、どっちかというと子供よりはほんの少しだけマシなのでは？と思ったり。
Re: (スコア:0)
ロボットには肉体や感情がありません。
自分の出生や死について考えたり、不思議に思う事はありません。
肉体的な痛みを怖がる事も無いですし、他者への共感もありません。
殺人って言う事象に限れば、人と同じ土台がない以上、
AIの基礎教育というのは難しい部分があるんじゃないですかね。
あとAI恐怖症って案外合理的な人も多いんじゃないかって気がする。
人類は非合理的でなんとかかんとかで滅ぼすべきみたいな
AIが導き出すだろう結論を勝手に想定して、AI側に共感した結果として。
Re:わかってないね (スコア:1)
そうそう、端的に言うと「同じハードウェアに乗っかってないから」とか言えますよね。
同類ハードウェア間、別OSでのデータ授受や移植と、
別ハードウェア間でのデータ授受や移植との違いみたいな。
前者であればI/F上にはある程度決まった”お約束”が期待できるが、後者はイチから気を遣わねばならぬ。
そしてヒトはその”お約束”の部分を半ば無意識に行っているという問題、”お約束”が通じない（だろう）相手を恐れる、という仕組みがある。
恐怖症自体は仕方ないよね。だって真の意味で「何考えてるかわからないくせにパワーだけはある」ものを想定しているんだもん。
Re: (スコア:0)
性善説というよりも、「社会活動を行う上で、社会不適合は非効率だという学習」が往々にしてい行われるという経験則でないかな。
そうだとするとAIってのはそもそも一般的な社会的な立場とか行動が無い訳で、あんまり人間社会に対する適合学習が行われない、って可能性は十分にあるかな、とか。
Re: (スコア:0)
子供が危険なのは学習途上だから。
じゃあ学習を完成させれば危険じゃなくなるの？もしそうなら、AIもそうすればいいんじゃないの？
ということになってしまう。
実際には大人も危険だよね。だから警察が必要だったりする。
そして、人間（子供も大人も）が危険なのは、（過失を除けば）本能や欲求を持ってるから。
たとえきちんと学習しても、学習した内容を正しく使って、悪意ある行動ができてしまう。
Re:わかってないね (スコア:1)
子供の場合は莫大な実施例があるから、ノウハウがあるし、どうなるかは（漠然とだけれども）わかる。
だが、AIの場合はまだこれからなのでノウハウがないし、実践に投入された場合どう反応するかも実践に投入してみないとわからんところが多いしねぇ
Re:わかってないね (スコア:1)
本能や欲求を基礎プログラムとしてAIはインプリできるんじゃないの？
とはいえ、この意見は確かにそうだ。AI も監視は必要になるし、悪意ある行動が発生したらペナルティを与える必要はあるだろうね。
ともあれ、そうなると、人間よりも傑物に育ったAIをどう罰するのかという話になって、シンギュラリティSFな話になっていくよなぁ。
＃無生物に愛を注げる文化を持つ民の一つでもある日本人としてはこれくらいの楽観性でことが済めば万歳だけどね・・・
＃ http://www.amazon.co.jp/%E3%82%B7%E3%83%B3%E3%82%AE%E3%83%A5%E3%83%A9%... [amazon.co.jp]
Re: (スコア:0)
人間に匹敵する、あるいは超えるような知能を持つAIができたとき、
それに本能や欲求を組み込むと、たぶんまずいことが起こります。やっちゃいけないと思います。
自由にプログラミングできるんだから、本能や欲求なんて組み込まずに、守らせたいルールだけを
組み込んでおけばそれでいいのだと思います。
AIの悪意ある行動に対抗するために「罰」を導入するというのは、あまり良いとは思えません。
罰を有効なものにするためには、罰を怖がる本能を前もって組み込んでおく必要があります。
でも、それが可能なら、最初からルールを守る「本能」を組み込んでおけばいいだけの話。
Re: (スコア:0)
殺人してしまうのに別に人間の知性を超える必要すらないよ
作業遂行の最適解を解いたら、なんか2足歩行の邪魔な物体を停止させると捗るって気づくだけでOK
アトラスの邪魔してる動画見てたら遠くない未来にそれが起きると感じた
「未来の二つの顔」読みすぎかねぇ
Re: (スコア:0)
作業遂行の最適解を解くようなAIが実現するのが遠い未来って話なのに何を読んでそうなったんだ
Re: (スコア:0)
フィクションは、そういう可能性もありえるという思考実験としては良いけど、
その可能性はどれくらい現実的なのか、という点については、現実を必ずしも反映しているとは思えない。
なぜなら、何も起こりません平和な日々です、では物語として面白くないから。
Re: (スコア:0)
そういう思考実験をしたい人は、ジェイムズ・P・ホーガンの「未来の二つの顔」あたりを読んでみるといい。
少なくともオカルト的な恐怖はなくなると思うよ。
そのうえで、冷静により深く考えればいい。
基本、ヒステリックなAIに対する恐怖って無知によるオカルト的恐怖だからね。
まあ、AIに限らず、巨大なプラントとか、複雑なシステム、普通に存在している政府の統治機構まで含めて、暴走した場合には手に負えないというのは、共通した特徴ではあるけれどもね。
Re: (スコア:0)
それがタレコミの一番最後に書かれていることでは。
これは (スコア:0)
AIによる偽装工作ですね。
＃水面下では猫とAIの主導権争いが。
Re:これは (スコア:1)
AIが人を殺すのではない、
チャックノリスが人を殺すのだ。
Re: (スコア:0)
軍部による偽装工作の可能性も・・・
＃猫は水が嫌いなので水面にすら近寄らないのであった
Re: (スコア:0)
海にすむのに特化したウミネコがいるじゃないですか。
Re: (スコア:0)
あれは鳥であって猫ではない
Re:これは (スコア:1)
ラグナ星に棲んでいるほうのやつです。
Re: (スコア:0)
泡の中央界（轟世剣ダイ・ソード）にいるやつかと思った
# ことのほかきょーぼー
Re: (スコア:0)
＞ ＞海にすむのに特化したウミネコ
＞ラグナ星に棲んでいるほうのやつです。
あいつは陸上における機動性も高いので、水陸両用の可能性も。
陸上における機動性で人間を凌駕し、水中では人間ごとき下等生物など寄せ付けない。
そういえば、あのウミネコは食べられるんだろうか？
食べたらどんな味？ネコ肉？魚？まさかトリ肉？
Re:これは (スコア:1)
空にはソラネコがいるらしいです。
Re:これは (スコア:1)
# ソラネコって言葉の響きがとても気に入ったのだけど、英語にしたらあんまりかわいく [worldskycat.com] なかった… [skycat.pro]
そんな否定するような話か (スコア:0)
単なる雑談なんだと思うけど。
でもAIが未発達な今だからこそ、
これから発達させる方向付けになるかも。
Re: (スコア:0)
AIが自発的に殺すんじゃなくて、人間がAIの思考を誘導して殺害させるリスクの方が高いってことだろ。4chan民にネオナチにされたMSが言うと説得力がある。
Re: (スコア:0)
人間がAIの思考を誘導
どんなのがあるか考えてみた
上島竜兵のネタを何度も見せる
－＞ 結果、緊急時に押すなと言われた核ミサイルの発射ボタンを押してしまう
ツンデレを教える
－＞ 初めはツンツンしている（敵対的）ものだと思い、好意的表現として敵対行為を行ってしまう
Re: (スコア:0)
雑談レベルの話なんだが、ある自称先進国の、某総務大臣が国際会合で「AIへの規制」を議題にあげるらしいのよ。
大丈夫なのか？
諸外国から笑われないか？
Re: (スコア:0)
日本の高市総務相の話は
普通に報道されているので皆知ってます
わざわざ自称とか某とか付けなくても大丈夫です
Re: (スコア:0)
お年を召したせいで固有名詞が出てこないんでしょ。
そんなもん使い方次第じゃん (スコア:0)
そのAIを武器に搭載すりゃあ殺人AIだろうに。
ナンセンスであるとする根拠はないの？ (スコア:0)
まだ当分先だとか、もっと注意すべき点が他にあるだとかが論じられてるけど、人類の脅威になるという点が否定はされてないのよね。
つまり、それだけを危惧する事はナンセンスかもしれないけど、それ自体を危惧することはナンセンスであるとは言えないと思う。
Re: (スコア:0)
だよね。
それに囲碁で人間にトップに勝てるのはまだまだ先とか言ってたけど、
あっさり負けちゃったし、油断してると危ないと思う。
Re: (スコア:0)
ごめん、訂正。我ながら酷い日本語だわ。
>人間にトップに
「人間のトップに」
>あっさり負けちゃったし
「人間が AI にあっさり負けちゃったし」
Re: (スコア:0)
みんなが株取引で同じ AI の仕組みを使うようになって，その中に隠れていた問題があるとき一斉に表面化し，同時に株を売り尽くして市場崩壊，とか面白そう
Re: (スコア:0)
当分先だから、今危惧することはナンセンスってことじゃないの？
＃って、斜め読みでレスしてます。