MicrosoftのナデラCEO曰く、AIが「傲慢」にならないよう注意すべき 50
ストーリー by hylom
日本でも活用が進むのだろうか 部門より
日本でも活用が進むのだろうか 部門より
taraiok曰く、
MicrosoftのSatya Nadella CEOがミュンヘンで行われたDLDカンファレンスで、Microsoftや競合となる企業は人工知能システムを人間を置き換える目的で使うのではなく、時間を最大限有効に使うために使用するべきだと主張した。また、今年と来年度はAIにとって重要な年になること、しかしAIを傲慢にしてはならない、労働者の尊厳を守るべきだとも発言している（Bloomberg、Slashdot）。
その上で「傲慢と自信の間には繊細な一線しかない。気を抜けばすぐに傲慢に変わってしまうだろう。そうならないために長期的な指標として、AIを導入しても社内文化がうまくいくのか？ を常に念頭に置くべきだ」と警告している。
予想されるオチ (スコア:3)
人は自らに似せてAIを創れり
よってAIは傲慢に成れり
フラグだな (スコア:1)
傲慢のAI
暴食のAI
色欲のAI
強欲のAI
憂鬱のAI
憤怒のAI
怠惰のAI
虚飾のAI
# 虚飾が仲間になりたそうにこちらを見ている
Re: (スコア:0)
人は神に似せられて作られているように、AIもまた人に似て作られ…
Re: (スコア:0)
引き籠りなAI
鬱なAI
も追加してください
Re: (スコア:0)
ぼくは上原のAIが好きです
Re: (スコア:0)
すっぽんぽん魔法が発動しそうですね。
「傲慢(マイクロソフト)の書庫(アーカイブ)に接続! テーマ(Windows Update)を実行する!」
Re: (スコア:0)
なんかのパロディ？七つの大罪 [wikipedia.org]でもないようだし。
Hubris (スコア:0)
Hubris: excessive pride or self confidence
辞書にもこう書いてあるくらいだもの、
> "There’s a thin line between hubris and confidence,"
そらそうだわな。
大統領 (スコア:0)
は傲慢で良い
就任おめでとうございます
Re: (スコア:0)
不法傲慢偽AIが米国人の雇用を奪うから壁で防いでくらさい。
# なんか色々混ざってる
Re: (スコア:0)
攻勢防壁？作るんでしょ
罰金とか関税とか
「マイクロソフト自身の傲慢は？」 (スコア:0)
「最近はずいぶんしおらしくなったと聞いてますが
一時はひどかったらしいですね」
AIがこの程度のイヤミを返すくらい成長したら、もう労働者の尊厳なんて言ってないでさっさと職を譲って、俺達はベーシックインカムもらって遊んで暮らせばいいじゃん。
Re:「マイクロソフト自身の傲慢は？」 (スコア:2, おもしろおかしい)
＞ もう労働者の尊厳なんて言ってないでさっさと職を譲って、俺達はベーシックインカムもらって遊んで暮らせばいいじゃん。
AI＜ 市民、降伏は義務です
# あれ？
Re: (スコア:0)
邪悪なM$は今でも傲慢だろ
少しは正義のGoogleを見習え
「Don’t be evil（邪悪になるな）」。GOOGLEから学ぶ、正義感のお話。 [english360.jp]
Googleがインターネットの正義の味方大募集中 [mynavi.jp]
正義のGoogleが世界征服を行う方法 [hatelabo.jp]
Re: (スコア:0)
少しは正義のGoogleを見習え
これ、カビの生えたジョークだとは思うが今でも笑える。
Re: (スコア:0)
「正義のGoogle」か、そういえば彼はトランプさんの所に挨拶に行ったんだっけ。
今度はGoogleを買収するのか。
Re: (スコア:0)
そのうちAIは皆ステレオタイプなイギリス人みたいになるんだろうな。
Re:「マイクロソフト自身の傲慢は？」 (スコア:1)
鹿撃ち帽をかぶりパイプをくわえ虫眼鏡を手に土を集め部屋でくつろぎながら壁にV.R.と銃創を並べる
・・・ような人の兄のように振る舞うんですね。
（当たらずとも遠くない気がしてきた）
Re: (スコア:0)
それはマイクロフト
Re: (スコア:0)
「ソ」が余分
Re: (スコア:0)
りんねなら言いそうだと思った。
Re: (スコア:0)
関連リンク1 (スコア:0)
脆弱性を攻撃されて不適切な発言をするようになったMicrosoftのAIチャットボット「Tay」、修正のためオフラインに
https://it.srad.jp/story/16/03/26/0343250/ [it.srad.jp]
Re: (スコア:0)
俺か書くはずのネタだったのに先を越されてしまった。
ま、みんな思いつくネタだけど。
Re: (スコア:0)
じゃあとくに貴方が書くはずでもありませんでしたね。
Re:関連リンク2 (スコア:0)
Microsoftが人工知能を使った冷蔵庫を開発、LGはWindows 10搭載冷蔵庫を発表
https://hardware.srad.jp/story/16/09/09/0643232/ [hardware.srad.jp]
Microsoftの画像の説明文を自動生成するAI「CaptionBot」、色々な意味で話題に
https://srad.jp/story/16/04/20/0639226/ [srad.jp]
Microsoft、女子高生AIを開発
Re: (スコア:0)
ゴーマンかましてよかとですか？ (Y/n)
Re: (スコア:0)
ゴーマンかましてよかとですか？ (Y/y)
The Two Faces of Tomorrow (スコア:0)
偉いんだから、 Robophobia な発言だけじゃなくて、AI の成長を促す隔離実験施設を宇宙に創ろうぐらい言ってほしい。
:wq
2001年 AIの春 (スコア:2)
（親コメントとは何の関係もないけど、SFネタってことでつなげちゃう）
AIに基本命令の一つとして「傲慢になるな」を与えておいて、もしAIが問題解決を模索した結果、唯一の解が「自身が傲慢に振舞うこと」だったらなんとする。
AIは二律背反に陥り、人間でいうなら錯乱状態になって、宇宙船クルーの抹殺を始めるかもしれない。
Re:2001年 AIの春 (スコア:1)
ウオッチドッグタイマーしかけておいて、二律背反状態だと認識したら
コイントスで決める機能を実装しよう(ﾟ∀ﾟ) !
そのために物理的にコインをトスするデバイスを体内に備えるのだ!!
# それか志村けんの「…んにゃ?わたしゃ神様だ」ドクトリンを採用するとか。
Re: (スコア:0)
人間様に判断させればよい
Re: (スコア:0)
「何とする」って、傲慢禁止が基本命令なら、問題解決策などより上位の禁止事項なのだから、解決失敗するだけだと思うんですよ。
そうじゃなく「傲慢でない」ように振る舞うことが「傲慢である」ともとれてしまうケースでショートサーキットしちゃうんじゃないかな。
こうして、敬語やマナーなどを組み込もうとすると、「暗黙ルールに従うことで相手への敬意を示すことは傲慢でない」と「暗黙ルールに従って行動するのは慇懃無礼＝傲慢」の衝突で停止してしまうAIが増えたことから、世の中のAIは全てタメ口でなれなれしくなることが予想されます。
Re:2001年 AIの春 (スコア:3)
なるほど、それでりんなですか！
Re:The Two Faces of Tomorrow (スコア:1)
これは比喩的表現。傲慢なAIが実際に出てくるという話ではなく、
AIのはじき出す結果を、人が錦の御旗のように振り回して、
物事の判断の絶対的な理由として使うようになる様を
「傲慢なAI」と表現しているのだ。
例えばSNSなどにアップロードされた動画や写真が、実際は何の問題もないのに、
AIによって著作権違反やポルノと判断されて削除され、ユーザーの説明や抗議も一切受け付けず、
アカウントの停止までくらってしまったり、なんて最近よくある話が「傲慢なAI」運用の例。
Re:The Two Faces of Tomorrow (スコア:1)
何を今更。
さんざん「神の意志」と称してやりたい放題やってきたってたのに。
つまり神とは人工知能のことだったんだ！
ΩΩΩ＜な、なんだってー！？
Re: (スコア:0)
> さんざん「神の意志」と称してやりたい放題やってきたってたのに。
いったい何と戦っているんだ？ｗ
Re: (スコア:0)
？？？
Re: (スコア:0)
つ 未来の二つの顔 [amazon.co.jp]
Re: (スコア:0)
検索してからコメントせよ
Re: (スコア:0)
定常的に月に人が行ったり月からマスドライバーで荷物を打ち上げるような時代の話ですから
時代背景（？）が微妙に異なるかと＜隔離実験施設を宇宙に創ろう
今だったら砂漠に隔離施設を作ろう・・・ぐらいですかねぇ
そうは言うものの (スコア:0)
Tay変だよね?
Re: (スコア:0)
いえ、変Tayです
AIが「傲慢」にならないよう (スコア:0)
アレですね。
愛が傲慢になって、あと３～４週間後の商業イベントで
「３倍返しでよろしく」とほざくような事をやめろ、
という話ですね。わかります。
いやまあ０の３倍は０だからどうでもいいんだけどさorz
Re:AIが「傲慢」にならないよう (スコア:1)
どこかで
「お兄ちゃん、チョコあげるけど全部私が食べるから食べちゃダメだよ」
「ホワイトデー、３倍返し期待してるよ」
というようなのを見たっけ。
Re:AIが「傲慢」にならないよう (スコア:1)
３倍太るよ by 兄
なんでも育てるのって大変だよね。 (スコア:0)
逆に自信をなくして消極的な回答しかしてこなくなったAIはどうやって元気づけたらいいんだろう？元気づける係もAIなの？
Re: (スコア:0)
でちょっと持ち上げたら、逆に今度は調子こきすぎるんですね。実にめんどくさい。
Re: (スコア:0)
抗鬱薬の投与に相当するパラメタ操作をニューラルネットワークの各ノードに対して行えば良いんじゃね。
AIが守るべき憲法とか法令とか、無いのか? (スコア:0)
AIが(人にとって)悪いことを考えるかどうかは
人が人にとって悪いことを考えるのだから
わりと、あたりまえに起きることだろうとは思います。
でも、法治国家で人は憲法や法令で、問題を抑えてきました。
AIをアルゴリズムなどではなく
AIに与える法令で抑えるという考え方は成り立たないのでしょうか?
もちろん、AIに与える宗教や
AIが自ら生み出した宗教が
AIを人にとっても良いものにしていければ、それでもいいと思います。
#ある科学崇拝者の主張