アカウント名:
パスワード:
別に機械学習で無理矢理、人権無視して差別的学習をさせている訳じゃないし単に人間の差別的な書き込みが多くそれらを拾わざる負えなかっただけでけしてAIや開発者が人権侵害を犯している訳じゃないでしょ
何処ぞの画像認識システムが黒人とゴリラの判別が出来なくて人種差別と騒がれてたけど、技術的にそれらを判別するのは結構難しいと思われるし倫理的問題と技術的問題を切り分ける事も必要になりそうで宣言に署名したメンバーがそこらへんの切り分けが出来るような感じが無いのが気になるところ
AIや開発者が、人権侵害を積極的に行おうとする意図はないにせよ、結果として、AIが学習結果により人権を侵害する振る舞いをするなら、開発者は人権に対する意識をしっかり持ち、AIのその振る舞いを認識する義務とAIを再教育する義務を負うんじゃないかな。技術的問題だから……で正当化できるのは、表面的には差別と取られてしまった振る舞いまでで、その振る舞いが修正できるまでは社会に出てこないのが賢明だと思うけど。
AIが機械学習の結果として差別的に振る舞うのであれば、社会の目につくとこにあるわかりやすい差別の再生産ではなくて、社会の中に隠蔽され内包されている差別を見える化してくれる事を期待したい。AIがポリコレ棒を振り回しはじめた時に、トロント宣言に署名したような団体(そういう人権意識を持った開発者)はその差別性に気付けるんだろうか。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
「毎々お世話になっております。仕様書を頂きたく。」「拝承」 -- ある会社の日常
人間を学習した結果だぞ (スコア:1)
別に機械学習で無理矢理、人権無視して差別的学習をさせている訳じゃないし
単に人間の差別的な書き込みが多く
それらを拾わざる負えなかっただけで
けしてAIや開発者が人権侵害を犯している訳じゃないでしょ
何処ぞの画像認識システムが黒人とゴリラの判別が出来なくて
人種差別と騒がれてたけど、技術的にそれらを判別するのは結構難しいと思われるし
倫理的問題と技術的問題を切り分ける事も必要になりそうで
宣言に署名したメンバーがそこらへんの切り分けが出来るような感じが無いのが気になるところ
Re:人間を学習した結果だぞ (スコア:1)
AIや開発者が、人権侵害を積極的に行おうとする意図はないにせよ、
結果として、AIが学習結果により人権を侵害する振る舞いをするなら、
開発者は人権に対する意識をしっかり持ち、AIのその振る舞いを認識する義務と
AIを再教育する義務を負うんじゃないかな。
技術的問題だから……で正当化できるのは、表面的には差別と取られてしまった振る舞いまでで、
その振る舞いが修正できるまでは社会に出てこないのが賢明だと思うけど。
AIが機械学習の結果として差別的に振る舞うのであれば、
社会の目につくとこにあるわかりやすい差別の再生産ではなくて、
社会の中に隠蔽され内包されている差別を見える化してくれる事を期待したい。
AIがポリコレ棒を振り回しはじめた時に、
トロント宣言に署名したような団体(そういう人権意識を持った開発者)はその差別性に気付けるんだろうか。