機械学習システムにおける人権の平等を目指す「トロント宣言」

あるAnonymous Coward 曰く、

機械学習システムで人権を傷つけた場合、誰が責任を負うのだろうか。MSのAI「Tay」のようにユーザーとのやり取りから人種差別や陰謀論を学習し、AIが差別的な発言を行う事例は存在している。

米国時間5月16日、人権と技術グループの連合体は、こうした問題を解決するためにトロントで機械学習に関する新しい宣言を発表した。この宣言はトロント宣言と呼ばれ、機械学習システムが既存の人権法に違反したり、差別しないようにする義務の確立に力を入れるという。

この宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマン・ライツ・ウォッチ、ウィキメディア財団が署名しているという。この宣言は、一般的な差別以外にも、アルゴリズム的な差別が発生した場合における是正の権利や仕組みについても焦点が当てられているとのこと（The Verge、Slashdot）。