Anonymous Coward曰く、
病院で使用される診療・分析用コンピュータプログラムで、人種による偏差が出ているという。Science誌に掲載された論文によれば、病気の黒人患者よりも、比較的健康な白人患者を優遇する傾向にあったとされる。このシステムによるデータを人種で比較したところ、同じスコアでも、実際には黒人の方が白人よりも3割近くも病状が重かったそうだ(OneZero、Yahoo!ニュース、Slashdot)。
研究チームが調査対象としたのは、医療保険の「ユナイテッドヘルス」の子会社「オプタム」の判定システム「インパクトプロ」だとしている。調査では、この「インパクトプロ」を導入している医療機関における、プライマリ・ケア(総合診療)の患者の2013~2015年のデータに基づいて、白人4万3,539人と黒人6,079人のスコアと症状の比較を行った。
このプログラムでは、患者が病院の電子健康記録システムに登録されると、その患者に慢性疾患があるかどうか、年齢や以前の医療訪問の請求といったデータをもとに診断を行う。患者が追加医療を必要とすると判断された場合、つまりアルゴリズムで決定されたスコアリスクが97%以上の場合、患者は自動的に追加のケアが必要な側に分類される。
97%以上のハイリスクの患者を見ると、高血圧や糖尿病といった抱えている慢性疾患の数が、黒人の場合は平均で4.8なのに対し、白人の場合は3.8。黒人の方が26%も症状が重かった。そして、スコアリスクが97以上の患者全体に占める黒人の割合は17.7%に過ぎなかったとしている。
偏差が出た原因としては、アルゴリズムは今までに支払った医療費の金額に基づいて患者を分類しているためであるようだ。従来より多くの費用を支払っていた人が優先治療を受けやすいようになっている模様。