パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた」記事へのコメント

  • AIが”合理的に”判断した結果を、人類は受け入れられる準備が整っているんですかね。 今回はいろいろ不十分だったので助かったようですが。
    • by Anonymous Coward

      そもそも意図通りに学習したか、普通の人間にとってはブラックボックス状態。
      相関関係は有っても、実際は因果関係が無い危険なアルゴリズムの可能性が有る。

      また、限られた既存の学習データで学ばせているから過去は良くても、未来に向いてるかはまた別問題。

      今後はAI(という名のブラックボックス)をリバースエンジニアリングして有用なアルゴリズムを抽出するのが花形なお仕事になるのかも。

      • by Anonymous Coward on 2018年10月14日 20時42分 (#3497675)

        ディープラーニングってのは元々、サンプルと加工結果が99.x%一致する多段画像フィルターを作るだけのシステム。
        どうせ画像変換だからループも分岐もないしアルゴリズムというほどのものもない。因果関係なんか扱えない。
        批判が的外れすぎる。

        親コメント
        • by Anonymous Coward

          ループも分岐もない「数式」も「アルゴリズム」だと思っていましたが違いましたか?

          使う側は因果関係を求めてしまうし、因果関係を抽出できるのが理想ですよね。
          現状、疑似相関レベルどころか、偶然の一致を学習してしまう危険性も有ると認識しています。
          (大量のデータで偶然の一致は押し流す方向性ではありますが)

          最終段落は有用なパラメータ探しとでも言い換えましょうか。

          具体的にどのように的外れかご教授頂ければ幸いです。

コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell

処理中...