アカウント名:
パスワード:
ITmediaのセミナーで、AIは結論を出す経過がブラックボックスになるから、悪意ある人間が手を加えたり、わざと偏ったデータを学習させて、意図した結論を導き出すAIを作って、AIの判断に従う人間を誘導できる、みたいな話をしてたよ。
この記事の例は、まさにそれが現実に発生したのかも知れない。
バランス良く公正な情報を入手するのが困難だから、AIに学習させる情報を偏らせないことが難しい、とも言ってた。NHKのバイアスがかかった情報だけ学習した可能性もあるかも。
もちろんそういう話はあるけど、今回のは明らかに違うよ。到底AIとは呼べない統計分析結果を人間が恣意的に解釈したものを、「AIの結論」だと言ってミスリードしようとしている。AIの学習が偏るっていう話ではなくて、「AI」という言葉に威を借りて偏った解釈に信憑性を持たせようとしているだけ。
そもそも、出力には「減らせ」とか「少ない」って概念（の差）すら存在してないと思います。
ある複数の統計に含まれる項目に対応する入力に対して統計の結果が合致するように学習させていったものなのでしょう。統計を統計をしただけで、直接比較が困難な統計同士を比較する手法を勝手に「AIの提言」と捻じ曲げられてしまったのではないかと。
「統計の結果に合致」でした。
「プールの溺死者を減らすためにニコラス・ケイジを映画に出すな」 [togetter.com]的な話か。まあプロデューサーがセンセーショナルさによる視聴率・話題性の向上のみを狙った割と故意犯的な話…なのか？
＃番組見てないから自分の感想は無い
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
にわかな奴ほど語りたがる -- あるハッカー
AIの御宣託 (スコア:3)
プロヂューサーの意図が透けて見える。
マツコも番組の中で因果関係が逆だろう
みたいなツッコミを入れていたけどね。
Re:AIの御宣託 (スコア:3, 参考になる)
ITmediaのセミナーで、AIは結論を出す経過がブラックボックスになるから、
悪意ある人間が手を加えたり、わざと偏ったデータを学習させて、意図した
結論を導き出すAIを作って、AIの判断に従う人間を誘導できる、みたいな
話をしてたよ。
この記事の例は、まさにそれが現実に発生したのかも知れない。
バランス良く公正な情報を入手するのが困難だから、AIに学習させる情報を
偏らせないことが難しい、とも言ってた。
NHKのバイアスがかかった情報だけ学習した可能性もあるかも。
Re: (スコア:0)
もちろんそういう話はあるけど、今回のは明らかに違うよ。
到底AIとは呼べない統計分析結果を人間が恣意的に解釈したものを、
「AIの結論」だと言ってミスリードしようとしている。
AIの学習が偏るっていう話ではなくて、「AI」という言葉に威を借りて
偏った解釈に信憑性を持たせようとしているだけ。
Re:AIの御宣託 (スコア:1)
そもそも、出力には「減らせ」とか「少ない」って概念（の差）すら存在してないと思います。
ある複数の統計に含まれる項目に対応する入力に対して統計の結果が合致するように学習させていったものなのでしょう。
統計を統計をしただけで、直接比較が困難な統計同士を比較する手法を勝手に「AIの提言」と捻じ曲げられてしまったのではないかと。
Re: (スコア:0)
「統計の結果に合致」でした。
Re: (スコア:0)
「プールの溺死者を減らすためにニコラス・ケイジを映画に出すな」 [togetter.com]的な話か。
まあプロデューサーがセンセーショナルさによる視聴率・話題性の向上のみを狙った割と故意犯的な話…なのか？
＃番組見てないから自分の感想は無い