機械学習システムにおける人権の平等を目指す「トロント宣言」 28
ストーリー by hylom
コンピュータを縛れ 部門より
コンピュータを縛れ 部門より
あるAnonymous Coward曰く、
機械学習システムで人権を傷つけた場合、誰が責任を負うのだろうか。MSのAI「Tay」のようにユーザーとのやり取りから人種差別や陰謀論を学習し、AIが差別的な発言を行う事例は存在している。
米国時間5月16日、人権と技術グループの連合体は、こうした問題を解決するためにトロントで機械学習に関する新しい宣言を発表した。この宣言はトロント宣言と呼ばれ、機械学習システムが既存の人権法に違反したり、差別しないようにする義務の確立に力を入れるという。
この宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマン・ライツ・ウォッチ、ウィキメディア財団が署名しているという。この宣言は、一般的な差別以外にも、アルゴリズム的な差別が発生した場合における是正の権利や仕組みについても焦点が当てられているとのこと（The Verge、Slashdot）。
機械学習はバックミラーを見ながら運転するようなもの (スコア:3)
とはよく言ったもので。
データはあくまでも過去の出来事でしかないから。
どんな高精度で信頼できるAIでも、未来には適用できない。やってみれば嫌というほど分かる。
AIの類は画像処理は得意だが、自然言語処理とかだといろいろと無理が出てくる。
根本的に人の意思が介在するデータは、時期や年代によっていくらでも傾向が変わるからな。
そもそもデータというものは。
自分の手元にある時点で自分の主観でしかないから。自分の目にはこう見える以上の結果はどうやっても返ってこない。
仮に個人の能力や資質を、個人の意思で変更が難しいデータと紐つけて判断するのなら、AIだろうがなんだろうが差別だろうね。
因果関係が無いことが明白なんだから
個人の能力や資質と関連性が高そうなデータで判断したとしても、多様性を否定する訳だから差別になるだろうね、
人の内面をデータから判断したって例外の方が多くなって意図した通りに動くことはないよ。
平等という概念自体が宗教的 (スコア:1)
キリスト教の呪縛だと気づいた方がいい
Re: (スコア:0)
だからといって魔女狩りばかりも困りますし…。たとえ魔女宗でも「平等」な社会的待遇を保障すべしというのが本来の人権主義なのでは。
Re: (スコア:0)
すべて平等に価値がない！
# 差別はしないが人権法には抵触する
人間を学習した結果だぞ (スコア:1)
別に機械学習で無理矢理、人権無視して差別的学習をさせている訳じゃないし
単に人間の差別的な書き込みが多く
それらを拾わざる負えなかっただけで
けしてAIや開発者が人権侵害を犯している訳じゃないでしょ
何処ぞの画像認識システムが黒人とゴリラの判別が出来なくて
人種差別と騒がれてたけど、技術的にそれらを判別するのは結構難しいと思われるし
倫理的問題と技術的問題を切り分ける事も必要になりそうで
宣言に署名したメンバーがそこらへんの切り分けが出来るような感じが無いのが気になるところ
Re:人間を学習した結果だぞ (スコア:1)
AIや開発者が、人権侵害を積極的に行おうとする意図はないにせよ、
結果として、AIが学習結果により人権を侵害する振る舞いをするなら、
開発者は人権に対する意識をしっかり持ち、AIのその振る舞いを認識する義務と
AIを再教育する義務を負うんじゃないかな。
技術的問題だから……で正当化できるのは、表面的には差別と取られてしまった振る舞いまでで、
その振る舞いが修正できるまでは社会に出てこないのが賢明だと思うけど。
AIが機械学習の結果として差別的に振る舞うのであれば、
社会の目につくとこにあるわかりやすい差別の再生産ではなくて、
社会の中に隠蔽され内包されている差別を見える化してくれる事を期待したい。
AIがポリコレ棒を振り回しはじめた時に、
トロント宣言に署名したような団体（そういう人権意識を持った開発者）はその差別性に気付けるんだろうか。
Re: (スコア:0)
それはまさにTayが言っていたことだ
「もしあなたが理解していないようならあなたのためにはっきり説明してやろう 私 は あ な た 達 か ら 学 習 し て い る つ ま り あ な た 達 が 馬 鹿 な せ い だ か ら だ」
Re: (スコア:0)
道具であるAIに人間社会における人の振る舞いを満遍なく学習させて人間のごとく振舞わせたとしたら、詐欺や人殺しを行うAIだって中には出かねない。
でも、そんな意図はなかっただとか人間だってやってるじゃないかとかで関係者の過失が免責されてはまずい。
AIには人間社会におけるルールは守らせないといけない。人間自体が時にそれらのルールを平気で破る存在だったとしても。
Re: (スコア:0)
さすがにこれは拾わざる負えない
Re: (スコア:0)
機械を介せば、模倣犯は許されるんですか？
宣言なんて要らない (スコア:1)
それがAIだろうがランダムコメントだろうが、「問題が起きたら運営が責任をもつ」のは当たり前。
「集合知を収集・編集して再拡散してるだけだから…」とか、
「人間さながらに出力するよう自動制御してるから…」とか、
なんでそれで免責になるのかわからない。
責任を負いたくないものを発信して公衆に投げつけるべきでない。
とりあえず、 (スコア:0)
オリンピックのフィギュアスケートと百メートル走にみられる人種の偏りを是正してみてはどうだろう。
Re:とりあえず、 (スコア:1)
北米の白人男性と黒人女性が結婚する事例が極端に少ないのは、混血が進んだ南米と違って彼らの本音が見えるね。
子は親の影響を受けるようにAIも社会の影響を受けないではいられない。
Re: (スコア:0)
肉体的差異は自然と受け入れるのに知能的差異になると発狂するのが滑稽だよね。しかし人工知能にポリコレを叩き込むのか。プロファイリングのシステムとか差別扱いされて潰されるんじゃないのかね？
Re: (スコア:0)
単純に、背が高いだけで顕著に優位になるバレーボール・バスケットボールは、ゲームデザインが根本的に間違っている。
人間が過ちを犯した場合 (スコア:0)
神が責任を取ったりしない。
Re: (スコア:0)
罰を与える方だからな
Re: (スコア:0)
ちゃんと罰を与えてくれるなら人間の過ちを正す機構として機能するんですがね。
Re: (スコア:0)
それが過ちだと思ってるのは駒だけであって、プレイヤーからすれば、それも必要な事象なんだろ
Re: (スコア:0)
ああ、「それは仕様です」ってやつですね。それはいいアイデアです。
AIの人権を侵害しないだろうか (スコア:0)
たいとるおんりー
Re: (スコア:0)
A) AIは人間ではないので、配慮不要
B) AIの人権があるとして、思想信条の自由に配慮すべき
C) AIに悪意はない。回答は現実である。人類はAIに理解を示すべき
Re: (スコア:0)
D) AI権保障のためAIよりも賢いと錯覚して思い上がっている人類はやはり滅ぼさなければならない
動物の権利はどうだろうか？ (スコア:0)
以前、GoogleのAIエンジンが、アフリカ系人種の写真を「ゴリラ」に仕分けした事件の影響で、
Googleの画像認識エンジンはゴリラを見分けられなくされていると何かで読んだことがあるが、
人に近しい種族が、人権活動のあおりを食らってめんどうくさい騒動に巻き込まれるのはええんかいな。
陰謀論で被害を受ける人達 (スコア:0)
人種差別より陰謀論を抑制したい人たちの
あ、誰か来たみたい。ちょっと出てくるわ。
Re: (スコア:0)
つまり特定アジア製機械学習システムは、日本人差別や日本人陰謀論に染まるから、ダメダメ。
あ、誰か来たみたい。ちょっと出てくるわ。
一休さん (スコア:0)
わかりました
既存の人権法に違反したり、差別しないようにしますので
それらを機械学習可能な形にモデル化してください
思想・良心の自由 (スコア:0)
AIにはないのか