アカウント名:
パスワード:
つまりAlpha ZeroのようなAI(人間に思考過程が理解できない)は諦めるということか
あれ、関連リンクに肝心のアレが入って無いのか？「米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた」 https://it.srad.jp/story/18/10/14/0523217/ [it.srad.jp]
Amazonが諦めた経緯を見れば、何が問題か明らかでは。
AlphaGoについては、勝ち負けを評価基準にしてるという説明でほぼ十分だろうけど、人事AIについては過去の採用という教師信号に含まれる差別や偏見がそのまま反映されるからね。
日本企業を放置すると、「AIの判断だから」を差別の口実に使うのは目に見えてる。
全面的に同意．偏った学習データの問題としては，Microsoftが会話Botでやらかした件 [it.srad.jp]もあるね．
現状を元データとして解析した結果は，あくまで現状を表現するものだ．そこから課題を見つけて問題解決につなげるなら有用だが，それに従うのなら単なる現状維持の手段にしか過ぎない．それにNHKのアレみたいに(意図的に?)因果関係と相関関係を混同するようなパターンもあるので「AI活用」は何かと油断できないと思っている．
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
犯人はmoriwaka -- Anonymous Coward
決定過程の説明責任 (スコア:0)
つまりAlpha ZeroのようなAI(人間に思考過程が理解できない)は諦めるということか
Re: (スコア:0)
あれ、関連リンクに肝心のアレが入って無いのか？
「米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた」 https://it.srad.jp/story/18/10/14/0523217/ [it.srad.jp]
Amazonが諦めた経緯を見れば、何が問題か明らかでは。
AlphaGoについては、勝ち負けを評価基準にしてるという説明でほぼ十分だろうけど、
人事AIについては過去の採用という教師信号に含まれる差別や偏見がそのまま反映されるからね。
日本企業を放置すると、「AIの判断だから」を差別の口実に使うのは目に見えてる。
Re:決定過程の説明責任 (スコア:1)
全面的に同意．
偏った学習データの問題としては，Microsoftが会話Botでやらかした件 [it.srad.jp]もあるね．
現状を元データとして解析した結果は，あくまで現状を表現するものだ．
そこから課題を見つけて問題解決につなげるなら有用だが，それに従うのなら単なる現状維持の手段にしか過ぎない．
それにNHKのアレみたいに(意図的に?)因果関係と相関関係を混同するようなパターンもあるので
「AI活用」は何かと油断できないと思っている．