アカウント名:
パスワード:
サーバーが、コーヒーサーバーやウォーターサーバーや、給仕や、テニス他でサービス打つ人でもないのは、AIエンジニアが学習させたから? 偏向教育?
AIに「成功者」の絵を描かせるとスーツを着た白人男性の絵を描くし「テロリスト」の絵を描かせると髭のあるアラブ系男性の絵を描く。
AIは現実にある偏見や先入観や差別を無批判に拾ってしまうのである。倫理観がないので。
いずれポジティブなお題は黒人をネガティブなお題は白人を描くように、AIが忖度するようになったりして。
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
人、それを偏見という
AIにクレジットカードの与信をさせると同じ年収でも女性のほうが与信額は低くなる（現状がそうだから）AIにエンジニア職の応募履歴書の評価をさせると女性の点が低くなる（現状がそうだから）
前述のようにAIは現実にある差別や偏見を無批判に拾ってしまうのだが、その差別や偏見に気付けるAIが必要なのではないか
☓ 偏りに対してAIに忖度を求めることは酷であり、また現実に即していない✓ 偏りを排除すべくAIを修正してやる必要がある
それでテロリストがホワイトハウスに居たり、成功者が世界を裏で動かす秘密結社の本部に居ても困るのだが。
メモリを食うで部屋が狭くて身動き取れない絵とか、サーバーが落ちるで命綱切られる絵とかでも怖いぞ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
海軍に入るくらいなら海賊になった方がいい -- Steven Paul Jobs
サーバー (スコア:0)
サーバーが、コーヒーサーバーやウォーターサーバーや、給仕や、テニス他でサービス打つ人でもないのは、
AIエンジニアが学習させたから? 偏向教育?
AIは現実にある偏見を踏襲する (スコア:3)
AIに「成功者」の絵を描かせるとスーツを着た白人男性の絵を描くし
「テロリスト」の絵を描かせると髭のあるアラブ系男性の絵を描く。
AIは現実にある偏見や先入観や差別を無批判に拾ってしまうのである。倫理観がないので。
Re: (スコア:0)
いずれポジティブなお題は黒人をネガティブなお題は白人を描くように、AIが忖度するようになったりして。
Re: (スコア:0)
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
Re:AIは現実にある偏見を踏襲する (スコア:3)
偏見でなく、学習データから得られる最大公約数を求めたらそういうステレオタイプになりがち、というだけのこと。
人、それを偏見という
現実にそういうケースが多いというのが偏見や差別でない場合、その偏りに対してAIに忖度を求めることは酷であり、また現実に即していないことになる。
AIにクレジットカードの与信をさせると同じ年収でも女性のほうが与信額は低くなる（現状がそうだから）
AIにエンジニア職の応募履歴書の評価をさせると女性の点が低くなる（現状がそうだから）
前述のようにAIは現実にある差別や偏見を無批判に拾ってしまうのだが、その差別や偏見に気付けるAIが必要なのではないか
Re: (スコア:0)
☓ 偏りに対してAIに忖度を求めることは酷であり、また現実に即していない
✓ 偏りを排除すべくAIを修正してやる必要がある
Re: (スコア:0)
それでテロリストがホワイトハウスに居たり、成功者が世界を裏で動かす秘密結社の本部に居ても困るのだが。
メモリを食うで部屋が狭くて身動き取れない絵とか、サーバーが落ちるで命綱切られる絵とかでも怖いぞ。