パスワードを忘れた? アカウント作成

Google、機械学習でなぜその結論に至ったかを分析するためのツール「Explainable AI」を発表」記事へのコメント

  •  AIが差別的なふるまいを学習してしまう問題ってのが過去何度かありましたが、このツールを使えば差別的なふるまいをする人がどのあたりを誇張、あるいは拡大解釈するのかを洗い出すことが可能になるのではないだろうか。

     そういったバイアスの存在が明確化できるのであれば、逆算的にバイアスがかかった情報からバイアスを排除した情報を抜き出してくることも可能になるはず。
     例えば、同じ内容を扱った朝日新聞と産経新聞の記事を比較することで、それぞれにかかっているバイアスを排除した中立的な記事作ることができる、とかそういう応用の仕方もできるのでは。

    ここに返信
    • by Anonymous Coward

      壁のしみが人の顔に見えるように、ランダムな文字列からでもバイアスを拾い上げて「このAIは偏ってる!」とするのが人間ですよ。

      • by Anonymous Coward

        「聖書の暗号」を思い出しちゃった。
        聖書(ヘブライ語だったっけ)をn字置きに抜き出してみると、これ未来予知になってる!ってやつ。
        あれ面白かったなあ。

    • by Anonymous Coward

      バイアスを可視化することはできるけど、「バイアスのない情報」は存在しないよ。

      どの記事のどの部分がどんな構文でどれだけ「一般言語コーパス」的なものから乖離しているかあげつらうことはできると思う。
      けど、それを元に「数学的に公平中立性が保証された簡潔な文章」みたいなものを構築することはできないよ。

      だって、バイアスのない正確な情報って現物そのものじゃん。スタートレックじゃないんだから。

      • by Anonymous Coward

        それはそれで可視化の価値はあるんじゃない?
        「どの情報にもバイアスは存在するから、ノイズが多すぎて使い物にならないだろう」って意味なら、そうかもしれないが・・・。

        • by Anonymous Coward

          可視化の価値はあると思うよ。ただ、「情報からバイアスを排除した情報」とか
          「バイアスを排除した中立的な記事」は情報や記事たり得ないから存在し得ないと思う。そんだけ。

    • by Anonymous Coward

      AIの話題でバイアスって用語を使うの紛らわしい

      • by Anonymous Coward

        人間のバイアスをあぶり出すため、と言ってるんだから妥当でしょ。ちゃんと読みなさいよ。

    • by Anonymous Coward

      これって、driverlessai等のソフトがInterpretabilityとか読んで提供していたものと本質は同じものでは?

      であれば、単にAIにインプットされたどのデータが、どの程度結果に影響しているか?を説明できるだけなので、そもそも全ての内部パラメータがブラックボックスな人間の知能には適用できない気がする。

      • by Anonymous Coward
        人間と同じ反応をするように学習させたAIの内部パラメーターを見ることで
        人間の知能の構造を推定しようって話ならば意味あるんじゃない
        • by Anonymous Coward

          AIの学習パラメータを表示するだけのツールだから人間とは全然関係ない

          • by Anonymous Coward
            君の頭の中の小さな中国人と彼が使ってる辞書を明らかにする役には十分だよ
            • by Anonymous Coward

              普段人から言語不明瞭って言われない?

              • by Anonymous Coward

                サールの「中国語の部屋」とか知らない?

              • by Anonymous Coward

                中国人の部屋は知ってるけど、AIソフトのバイナリファイルを可視化するツールの話に
                「人間の知能の構造を~」とか言い出すからちょっと人工知能寄りの人なのかなと思って

弘法筆を選ばず、アレゲはキーボードを選ぶ -- アレゲ研究家

処理中...