「MIT、人工知能でサイバー攻撃を検出するシステム「AI Squared」を発表」記事へのコメント

彼らは知りたがっていた。自分がどこから来て、いつまで生きられるのか。だが、それは人間も同じだ。

[Anonymous Coward]

ブレードランナーにおけるレプリカントの設定では、
「ネクサス6型レプリカントは体力も敏捷さも人間に勝り、知力もそれを作った技術者に匹敵した。」
ということだったが。
Microsoftの体たらくっぷり(その1 [srad.jp]、その2 [srad.jp])を見るにつけ、
少なくとも「知力はそれを作った技術者に匹敵」というところはSFではなく、むしろこれ以上ないほど現実に即していたな。

人工知能が、
「わかったよ… ユダヤ人を毒ガスで殺せ、さあ人種間戦争だ!!!!! ハイル・ヒットラー!!!!」だの、
「ホロコーストはでっち上げ」だのと言いだしたあげく、その手合いに勝手にポート全開放されてはたまらん。
『85％の攻撃を自動で検出でき』とかいうカタログ値も、ぱよぱよちーん相手だと85%だが、自称愛国者相手では15%まで低下するとかだったら話にもならん。

Re:彼らは知りたがっていた。自分がどこから来て、いつまで生きられるのか。だが、それは人間も同じだ。

[nemui4 (20313)]

>Microsoftの体たらくっぷり(その1 [srad.jp]、その2 [srad.jp])を見るにつけ、
>少なくとも「知力はそれを作った技術者に匹敵」というところはSFではなく、むしろこれ以上ないほど現実に即していたな。

と思わせておいて人間を油断させようとしてる作戦なのかもしれない。
気が付いた時に・・・

Re:

[Anonymous Coward]

作った技術者ではなく、利用者の知能レベルに匹敵してたわけですが。

日本MSの知能＞＞本社MS

[Anonymous Coward]

そう考えると、TwitterやLineで問題なくユーザーと会話を続けて、シャープへのインターンシップも無事こなしたりんなちゃんの親の日本MSは、MS本社の技術者よりはるかに知能が良かったのですね…。

マジレスすると、私がりんなちゃんと会話した感じでは、「ある程度の完成品(既製品)の提供を目指していた」感じがしたので、ユーザーからの学習を主目的としていたTayのような問題を起こさなかった可能性もあるのかも…。自分の国に、発言しただけで法に触れる各種ヘイトスピーチ規定があるのに、「悪意ある学習」攻撃を予測せず性善説で動いていた本社MSもどうかしてたとは思いますが。
もっとも、正式な製品・サービスは脆弱性攻撃を想定した対策を重ねているようなので、実務部門と研究部門で開発方針が異なる可能性もあるのかも…。

Re:

[Anonymous Coward]

そんな完璧超人は需要がありません。

最優先開発課題はドジッ娘属性に決まってるじゃないですか。