In a thorough investigation from ProPublica published last year, these risk-assessment tools were found to be deeply flawed, with inherent human bias built in that made them twice as likely to flag black defendants as future criminals and far more likely to treat white defendants as low-risk, standalone offenders. Many algorithmic systems today, including those employed by Facebook, Google, and other tech companies, are similarly at risk of injecting bias into a system, as the judgement of human beings was used to craft the software in the first place.
Harm Assessment Risk Tool (スコア:1)
>2013年から2年間にわたって実施されたテストでは、「容疑者が低リスクである」というという予測は98％の確率で正確だった。一方、高リスク予測に関しては88％の正確度だった。
高リスク予測での精度が低リスクに比べて1割程低くなってのはサンプル数が充分じゃなかったってことかな。
Re:Harm Assessment Risk Tool (スコア:1)
リンク先から
人が作るソフトだから(先入観?)か、黒人の方が白人より二倍のバイアスが掛かってるという深刻な欠陥があるのかな。
#英語読みきれない・・・
Re: (スコア:0)
黒人のリスクを2で割れば解決じゃね。
Re: (スコア:0)
んなアホな
Re: (スコア:0)
AIに過去の判断例を学習させたんだろうから、人間が判断する際と同じ欠陥を継承しているんでしょう。