パスワードを忘れた? アカウント作成
13606244 story
人工知能

機械学習システムにおける人権の平等を目指す「トロント宣言」 28

ストーリー by hylom
コンピュータを縛れ 部門より
あるAnonymous Coward曰く、

機械学習システムで人権を傷つけた場合、誰が責任を負うのだろうか。MSのAI「Tay」のようにユーザーとのやり取りから人種差別や陰謀論を学習し、AIが差別的な発言を行う事例は存在している。

米国時間5月16日、人権と技術グループの連合体は、こうした問題を解決するためにトロントで機械学習に関する新しい宣言を発表した。この宣言はトロント宣言と呼ばれ、機械学習システムが既存の人権法に違反したり、差別しないようにする義務の確立に力を入れるという。

この宣言には、すでにアムネスティ・インターナショナル、アクセス・ナウ、ヒューマン・ライツ・ウォッチ、ウィキメディア財団が署名しているという。この宣言は、一般的な差別以外にも、アルゴリズム的な差別が発生した場合における是正の権利や仕組みについても焦点が当てられているとのこと(The VergeSlashdot)。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • とはよく言ったもので。
    データはあくまでも過去の出来事でしかないから。
    どんな高精度で信頼できるAIでも、未来には適用できない。やってみれば嫌というほど分かる。

    AIの類は画像処理は得意だが、自然言語処理とかだといろいろと無理が出てくる。
    根本的に人の意思が介在するデータは、時期や年代によっていくらでも傾向が変わるからな。

    そもそもデータというものは。
    自分の手元にある時点で自分の主観でしかないから。自分の目にはこう見える以上の結果はどうやっても返ってこない。
    仮に個人の能力や資質を、個人の意思で変更が難しいデータと紐つけて判断するのなら、AIだろうがなんだろうが差別だろうね。
    因果関係が無いことが明白なんだから

    個人の能力や資質と関連性が高そうなデータで判断したとしても、多様性を否定する訳だから差別になるだろうね、
    人の内面をデータから判断したって例外の方が多くなって意図した通りに動くことはないよ。

  • by Anonymous Coward on 2018年05月26日 10時15分 (#3414571)

    キリスト教の呪縛だと気づいた方がいい

    • by Anonymous Coward

      だからといって魔女狩りばかりも困りますし…。たとえ魔女宗でも「平等」な社会的待遇を保障すべしというのが本来の人権主義なのでは。

    • by Anonymous Coward

      すべて平等に価値がない!

      # 差別はしないが人権法には抵触する

  • by Anonymous Coward on 2018年05月26日 11時07分 (#3414584)

    別に機械学習で無理矢理、人権無視して差別的学習をさせている訳じゃないし
    単に人間の差別的な書き込みが多く
    それらを拾わざる負えなかっただけで
    けしてAIや開発者が人権侵害を犯している訳じゃないでしょ

    何処ぞの画像認識システムが黒人とゴリラの判別が出来なくて
    人種差別と騒がれてたけど、技術的にそれらを判別するのは結構難しいと思われるし
    倫理的問題と技術的問題を切り分ける事も必要になりそうで
    宣言に署名したメンバーがそこらへんの切り分けが出来るような感じが無いのが気になるところ

    • by Anonymous Coward on 2018年05月26日 12時58分 (#3414619)

      AIや開発者が、人権侵害を積極的に行おうとする意図はないにせよ、
      結果として、AIが学習結果により人権を侵害する振る舞いをするなら、
      開発者は人権に対する意識をしっかり持ち、AIのその振る舞いを認識する義務と
      AIを再教育する義務を負うんじゃないかな。
      技術的問題だから……で正当化できるのは、表面的には差別と取られてしまった振る舞いまでで、
      その振る舞いが修正できるまでは社会に出てこないのが賢明だと思うけど。

      AIが機械学習の結果として差別的に振る舞うのであれば、
      社会の目につくとこにあるわかりやすい差別の再生産ではなくて、
      社会の中に隠蔽され内包されている差別を見える化してくれる事を期待したい。
      AIがポリコレ棒を振り回しはじめた時に、
      トロント宣言に署名したような団体(そういう人権意識を持った開発者)はその差別性に気付けるんだろうか。

      親コメント
    • by Anonymous Coward

      それはまさにTayが言っていたことだ
      「もしあなたが理解していないようならあなたのためにはっきり説明してやろう 私 は あ な た 達 か ら 学 習 し て い る つ ま り あ な た 達 が 馬 鹿 な せ い だ か ら だ」

    • by Anonymous Coward

      道具であるAIに人間社会における人の振る舞いを満遍なく学習させて人間のごとく振舞わせたとしたら、詐欺や人殺しを行うAIだって中には出かねない。
      でも、そんな意図はなかっただとか人間だってやってるじゃないかとかで関係者の過失が免責されてはまずい。
      AIには人間社会におけるルールは守らせないといけない。人間自体が時にそれらのルールを平気で破る存在だったとしても。

    • by Anonymous Coward

      さすがにこれは拾わざる負えない

    • by Anonymous Coward

      機械を介せば、模倣犯は許されるんですか?

  • by Anonymous Coward on 2018年05月27日 16時39分 (#3414941)

    それがAIだろうがランダムコメントだろうが、「問題が起きたら運営が責任をもつ」のは当たり前。

    「集合知を収集・編集して再拡散してるだけだから…」とか、
    「人間さながらに出力するよう自動制御してるから…」とか、
    なんでそれで免責になるのかわからない。

    責任を負いたくないものを発信して公衆に投げつけるべきでない。

  • by Anonymous Coward on 2018年05月26日 6時20分 (#3414528)

    オリンピックのフィギュアスケートと百メートル走にみられる人種の偏りを是正してみてはどうだろう。

    • by Anonymous Coward on 2018年05月26日 9時39分 (#3414560)

      北米の白人男性と黒人女性が結婚する事例が極端に少ないのは、混血が進んだ南米と違って彼らの本音が見えるね。
      子は親の影響を受けるようにAIも社会の影響を受けないではいられない。

      親コメント
    • by Anonymous Coward

      肉体的差異は自然と受け入れるのに知能的差異になると発狂するのが滑稽だよね。しかし人工知能にポリコレを叩き込むのか。プロファイリングのシステムとか差別扱いされて潰されるんじゃないのかね?

      • by Anonymous Coward

        単純に、背が高いだけで顕著に優位になるバレーボール・バスケットボールは、ゲームデザインが根本的に間違っている。

  • by Anonymous Coward on 2018年05月26日 8時59分 (#3414547)

    神が責任を取ったりしない。

    • by Anonymous Coward

      罰を与える方だからな

      • by Anonymous Coward

        ちゃんと罰を与えてくれるなら人間の過ちを正す機構として機能するんですがね。

        • by Anonymous Coward

          それが過ちだと思ってるのは駒だけであって、プレイヤーからすれば、それも必要な事象なんだろ

          • by Anonymous Coward

            ああ、「それは仕様です」ってやつですね。それはいいアイデアです。

  • by Anonymous Coward on 2018年05月26日 10時22分 (#3414572)

    たいとるおんりー

    • by Anonymous Coward

      A) AIは人間ではないので、配慮不要
      B) AIの人権があるとして、思想信条の自由に配慮すべき
      C) AIに悪意はない。回答は現実である。人類はAIに理解を示すべき

      • by Anonymous Coward

        D) AI権保障のためAIよりも賢いと錯覚して思い上がっている人類はやはり滅ぼさなければならない

  • by Anonymous Coward on 2018年05月26日 11時05分 (#3414582)

    以前、GoogleのAIエンジンが、アフリカ系人種の写真を「ゴリラ」に仕分けした事件の影響で、
    Googleの画像認識エンジンはゴリラを見分けられなくされていると何かで読んだことがあるが、
    人に近しい種族が、人権活動のあおりを食らってめんどうくさい騒動に巻き込まれるのはええんかいな。

  • by Anonymous Coward on 2018年05月26日 14時22分 (#3414639)

    人種差別より陰謀論を抑制したい人たちの

    あ、誰か来たみたい。ちょっと出てくるわ。

    • by Anonymous Coward

      つまり特定アジア製機械学習システムは、日本人差別や日本人陰謀論に染まるから、ダメダメ。

      あ、誰か来たみたい。ちょっと出てくるわ。

  • by Anonymous Coward on 2018年05月26日 22時38分 (#3414759)

    わかりました
    既存の人権法に違反したり、差別しないようにしますので
    それらを機械学習可能な形にモデル化してください

  • by Anonymous Coward on 2018年05月28日 10時34分 (#3415194)

    AIにはないのか

typodupeerror

私は悩みをリストアップし始めたが、そのあまりの長さにいやけがさし、何も考えないことにした。-- Robert C. Pike

読み込み中...