パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑」記事へのコメント

  • by Anonymous Coward on 2019年11月13日 14時01分 (#3715573)

    買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
    くだらない指摘

    • by Anonymous Coward

      コンピューターの判断でも差別は差別

      • by Anonymous Coward on 2019年11月13日 14時22分 (#3715598)

        >コンピューターの判断でも差別は差別

        判断させるアルゴリズムを仕込んだ人がいるよね。
        与信スコアよりも性別を優先させた人。

        #「コンピューター」って最近あんまり書か/言わないね。

        親コメント
        • >コンピューターの判断でも差別は差別

          判断させるアルゴリズムを仕込んだ人がいるよね。
          与信スコアよりも性別を優先させた人。

          #「コンピューター」って最近あんまり書か/言わないね。

          以前にもあった「AIが女性エンジニアの履歴書を低く判断」ってのと同じだね。
          そう判断しちゃうのはビッグデータがそう(男性エンジニアが圧倒的多数なのでAIは高く評価する)だから。
          それと同様のことが起きたんだろう。

          だからといってそれは差別であることに違いはないし、看過しちゃダメだよね

          親コメント
        • by Anonymous Coward on 2019年11月13日 14時35分 (#3715612)

          判断させるアルゴリズムを仕込んだ人がいるよね。
          与信スコアよりも性別を優先させた人。

          なんで優先させるアルゴリズムが仕込まれてるって確定出来るの?
          学習させたデータにあった偏りが出てしまった可能性はないの?

          親コメント
          • by Anonymous Coward

            何をもって偏りと言うかでもあるけど
            性別を省いたデータを与えたのに「女子大出身者は、生涯年収が低い。マイナス要因」などと出たケースがあった
            だから現時点での正確な事実だけを使えば差別や偏見はなくなる平等だとは必ずしも言えないことが分かってる

            • by Anonymous Coward

              ?
              元データに性別判定するものが何もないのに出力には性別という属性を推定して出してきたってこと?
              それとも女子大出身者は性別ではないとかいう謎理屈?

              • by Anonymous Coward

                「女子大出身者」を「女子」と判断するのは人間なら文字面や知識でできるけど
                AIにはそう覚えさせないといけないってことじゃない?

        • by Anonymous Coward

          今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース

          「社会的強者の方が仕事が出来るので、弱者は帰れ」では機会の平等が達成されない
          弱者に下駄履かせるのは、可哀想な弱者を保護してやるためでもあるけど、社会の多様性を確保して
          社会が長期的に見て局所最適に陥らないよう、数十年〜規模で衰退しないようにするためでもある

          だから「働いている可能性の低い女の場合や、女の可能性が高い経歴は、警戒して与信枠を低く抑えるべき」
          という「正確な計算結果」が出てしまった場合、それは差別であり排除すべき偏見ということになる
          仮に科学的事実であっても人権が優先するわけ

          • by Anonymous Coward

            >今アメリカで問題になってるのは「AIで正確に予測したら、社会的強者のスコアが高く出た」ケース

              AIって自然発生する神様ではないので、「正確に予測」ではなくて、
            コーディング(教師データの傾向、とかでもいいけど)されたとおりにしか判定しないよね。

            つまるところ、「正確に予測した」ではなくて、元々「社会的強者」を高くスコア付けるアルゴリズムだっただけでは?

            • by Anonymous Coward

              そう言っているのでは?
              というかAIが神様的に予測出すのだという前提は書いてないんじゃないか

            • by Anonymous Coward

              いいえ
              AIのソフトはみんな同じだし何度も言ってるように「正確=中立=合法」という発想は間違いという話

          • by Anonymous Coward

            人権が優先するというルールは数学的にどう表現するの?
            結局それが難しいという話に行き着くような気がする

            • by Anonymous Coward

              面倒だけれと、例えば未成年だとそれだけで制限が加えられるといった従来からの法的規制と同様の手書きによるルールを組み込んで行くしかないのでは?

              まあ社会的・経済的に大多数から支持されるルールの作成はもっと面倒な作業になるだろうし、例えばマイノリティに所属することで生じる不利な扱いをルールに則って補償して欲しければ、自らマイノリティであることを申告する必要が生じたりする訳だが。

    • 買い物ステレオタイプの妻は沢山買い物するから限度額が高いとか
      くだらない指摘

      差別をするなと言っているだけだ

    • by Anonymous Coward

      クレジット=信用、なわけで限度額は消費額に合わせてるわけではない。
      大量消費してくれる人は良いお客さんではあるけどリスクも高まるわけで。

      100万収入で100万使う人より、50万収入で20万使う人の方が自分は信用できる。

      • by Anonymous Coward

        クレジットカード会社の商売は人を単純に信用することじゃないから。
        決済手数料が収益であり、そのためには製造業が可能なら出荷量を増そうとするのと同様に、可能なら与信枠を増したいという動機がある。実際収入や預貯金と比べて与信枠が少ないと思うなら電話一本で増やして貰えたりする。

    • by Anonymous Coward

      ふとアップル商品を沢山買ってたらスコア高いんじゃねって気がした

      • by Anonymous Coward

        ウォズニアク氏のケースだとそうだろうね、他の支払いでは夫と妻とカード会社で偏りなく使っていても、行列に並んでAppleの新製品を買う時にはApple Cardを使うだろうから、利用回数も利用総額も奥さんのApple Cardと差がつくはず。

海軍に入るくらいなら海賊になった方がいい -- Steven Paul Jobs

処理中...