アカウント名:
パスワード:
必要は発明の母ともいうし、偏向を防ぐ必要性を作るという意味で法制化は悪い選択肢ではないと思う。
ただ、だからと言ってできないことを盛り込んでしまっても問題なので、偏向を防ぐために相当量の努力をするか、評価とやらで許容できるラインを実現可能なレベルに設定する必要があるだろう。説明責任としたのはそういう意図があってというか、現実を見ての話なんだろうかね。
最大の難関は「偏向していないかをチェックする手段」をどうするかだろうけど、遠からず必要になる技術だし、実現できれば非常に公益性は高いはず。
その「私はバイアスに苦しんできた。だから私の作品にはバイアスがない。私の作品を聖典として私の教えに従えばバイアスは消える。教えを広める機関を作りましょう」論法やめません?
偏向という抽象概念に努力という広範な形容を当てるよりも、まず目的を持ち挙動を観察し問題を定義し対策を立てられるようにするというのはより実効性が高い規制でしょう。ここには不偏の大権を求めるのか不偏という概念を諦めるかという抽象的な段階における大きな違いがあると思いますけど、そういうことってないですか?
「私の作品を聖典として私の教えに従えばバイアスは消える」ってのがどっから出てきたのかはよくわからんのですが、機関を作る論法ってのは何者ですかね。
個人的な意見としては以下なんですが、どこが分かりにくかったですか？バイアスをバイアスがかかった人間が正しく検知することは不可能だけど、「クレタ人のパラドックス」のように、数学的、統計的に解決するシステムは「技術が進めば」実現可能だと思うのですよ。
ただ、現段階ではいきなり完璧なものを作れと言われても無理なので、それを実現するための技術的努力を法で義務付けるのがよろしいのではないですかね。
思想的に中立な唯一の点や線を定義して、偏向/バイアスの強弱を一次元に集約することができる、という発想が私と決定的に食い違ってるところかなと思います。私が思うにその尺度を与えるルールセットはひとつの宗教教義における密教とか神秘とかドグマとかの類であって、根拠を持ち得ないし、その教義への帰依の度合いの指標にしかならないです。
私の視点から見れば、「偏向を防ぐ」という発想は啓蒙主義に立脚していて、現代にそぐわないものです。
＞思想的に中立な唯一の点や線を定義してうん、この前提が違いますね。ある事実に対して述べた記事が、どのようなバイアスを受けているかを調べるのに「思考的な中立基準は必要ない」ですよね。客観的に定義できる事実を排除して残した上澄みを見ればいいだけの話なので。必要なのは思考の中立ではなく、思考の余地のない事実です。
観測すら事実ではないし意見も事実ではないのにquote-unquote事実を述べた意見が中立とはこれいかに……
「中立は必要ではない」と書いたつもりでしたが、どうしてそのような結論になるのでしょうか？
思考こそ偏見であり偏見を滅亡させるため人類はなくすべきである、と仰りたい?
あのー、偏見を少しでも減らすには偏見が正しく評価出来る必要があって、その為に必要な評価規準は思考的中立ではなく、客観的事実だというだけの話なのですが……。
偏見が正しく評価出来ているかどうか誰がどうやって判定するの？
誰が、を排除するための客観的事実ですよ。
事実だけ並べたって結論は出せんよ。どこぞの誰ぞのセリフじゃないけど、データベースは結論を出せないんだ。事実は誰かに解釈されて初めて意味を帯びる。だけどその解釈が客観的中道か偏見かは別の誰かが判定しなきゃならない。
やり方次第でどうとでもなるよね。例えば、Amazonで問題になった採用事例を考えてみるとわかる。
AIが採用基準を学習させたところ、学習元のデータがそもそも偏っていた、という話しね。バイアスがかかっている疑いのあるパラメータをマスクしたデータを作って同じように食わせて結果を比較すれば、少なくともバイアスの有無は評価出来る。マスクデータを作ることは、現状はコストやら技術的な問題で難しいと言うだけで、客観的事実だけを元に作成することは不可能ではないはず。
これだけで一足跳びに全てのバイアスがこれで排除できるわけではないけどね。なぜなら、マスクしてないデータにもある種のバイアスはかかっている可能性が高いから。ただ、バイアスがあるかどうかは観測できる。
この理屈だと、多元連立方程式と同じで、パラメータが多ければそれだけの数のデータを集める必要がある。簡単なことではないし、統計的に安定した結果が出せるまでどれくらいのコストがかかるのかも素人には想像も付かないけど、専門知識を持つ人が時間と金を使って研究すれば方法は見つかると思うけどね。
男女に能力差があるという研究結果はいくらでも出てくる。その上で単純に能力のみ評価すると男性を雇う方が有効となる。さて、男性の方が就職しやすいというのは偏っているのか否か。どちらに判断するとしても、それは偏向バイアスがかかった結果だ。
純粋に能力差だけ評価した結果と一致すれば性差によるバイアスはないと判断してもいいと思うけどね。その結果を見て性差によるバイアスがかかっていると判断するのであれば、それはその判断自体に「能力ではなく性差でバイアスがかかっているに違いない」というバイアスがかかってるということになるよね。
>純粋に能力差だけ評価した結果と一致すれば性差によるバイアスはないと判断してもいいと思うけどね。性差が出るよう元のデータが偏っているという人がいたらどうするの？
元のデータ？「判断基準に性差が出てくるような基準が採用されたという主張がなされた」という意味かな？
そういう文句を言う人が客観的にバイアスがかかっていることを証明できるデータを見つけてこないと悪魔の証明になるわけで、「言い出す人がいたらどうするか」ってのは「言い分に妥当性があるかどうか」で対応が変わってくるんじゃないかな。
同様の手法で「業務適正に必要とされる能力」を別の統計データから割り出して採用基準と比較すれば「採用基準が妥当だったか」はチェックできるよね。それをしないで文句言うのであれば、水掛け論吹っ掛けてるだけだから門前払いするしかない。正さバイアスをかけているに違いないというバイアスで文句言ってるに過ぎないわけだからね。
(#3600851)(#3600893)だなぁ……
# 面倒なのでAC
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
人生unstable -- あるハッカー
偏向を防ぐ努力を義務化する、くらいが限界かな (スコア:1)
必要は発明の母ともいうし、偏向を防ぐ必要性を作るという意味で法制化は悪い選択肢ではないと思う。
ただ、だからと言ってできないことを盛り込んでしまっても問題なので、偏向を防ぐために相当量の努力をするか、評価とやらで許容できるラインを実現可能なレベルに設定する必要があるだろう。
説明責任としたのはそういう意図があってというか、現実を見ての話なんだろうかね。
最大の難関は「偏向していないかをチェックする手段」をどうするかだろうけど、遠からず必要になる技術だし、実現できれば非常に公益性は高いはず。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:2)
その「私はバイアスに苦しんできた。だから私の作品にはバイアスがない。私の作品を聖典として私の教えに従えばバイアスは消える。教えを広める機関を作りましょう」論法やめません?
偏向という抽象概念に努力という広範な形容を当てるよりも、まず目的を持ち挙動を観察し問題を定義し対策を立てられるようにするというのはより実効性が高い規制でしょう。ここには不偏の大権を求めるのか不偏という概念を諦めるかという抽象的な段階における大きな違いがあると思いますけど、そういうことってないですか?
Re: (スコア:1)
「私の作品を聖典として私の教えに従えばバイアスは消える」ってのがどっから出てきたのかはよくわからんのですが、機関を作る論法ってのは何者ですかね。
個人的な意見としては以下なんですが、どこが分かりにくかったですか？
バイアスをバイアスがかかった人間が正しく検知することは不可能だけど、「クレタ人のパラドックス」のように、数学的、統計的に解決するシステムは「技術が進めば」実現可能だと思うのですよ。
ただ、現段階ではいきなり完璧なものを作れと言われても無理なので、それを実現するための技術的努力を法で義務付けるのがよろしいのではないですかね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:2)
思想的に中立な唯一の点や線を定義して、偏向/バイアスの強弱を一次元に集約することができる、という発想が私と決定的に食い違ってるところかなと思います。私が思うにその尺度を与えるルールセットはひとつの宗教教義における密教とか神秘とかドグマとかの類であって、根拠を持ち得ないし、その教義への帰依の度合いの指標にしかならないです。
私の視点から見れば、「偏向を防ぐ」という発想は啓蒙主義に立脚していて、現代にそぐわないものです。
Re: (スコア:1)
＞思想的に中立な唯一の点や線を定義して
うん、この前提が違いますね。
ある事実に対して述べた記事が、どのようなバイアスを受けているかを調べるのに「思考的な中立基準は必要ない」ですよね。客観的に定義できる事実を排除して残した上澄みを見ればいいだけの話なので。必要なのは思考の中立ではなく、思考の余地のない事実です。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:2)
観測すら事実ではないし意見も事実ではないのにquote-unquote事実を述べた意見が中立とはこれいかに……
Re: (スコア:1)
「中立は必要ではない」と書いたつもりでしたが、どうしてそのような結論になるのでしょうか？
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:2)
思考こそ偏見であり偏見を滅亡させるため人類はなくすべきである、と仰りたい?
Re: (スコア:1)
あのー、偏見を少しでも減らすには偏見が正しく評価出来る必要があって、その為に必要な評価規準は思考的中立ではなく、客観的事実だというだけの話なのですが……。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
偏見が正しく評価出来ているかどうか誰がどうやって判定するの？
Re: (スコア:1)
誰が、を排除するための客観的事実ですよ。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
事実だけ並べたって結論は出せんよ。どこぞの誰ぞのセリフじゃないけど、データベースは結論を出せないんだ。
事実は誰かに解釈されて初めて意味を帯びる。だけどその解釈が客観的中道か偏見かは別の誰かが判定しなきゃならない。
Re: (スコア:1)
やり方次第でどうとでもなるよね。
例えば、Amazonで問題になった採用事例を考えてみるとわかる。
AIが採用基準を学習させたところ、学習元のデータがそもそも偏っていた、という話しね。
バイアスがかかっている疑いのあるパラメータをマスクしたデータを作って同じように食わせて結果を比較すれば、少なくともバイアスの有無は評価出来る。
マスクデータを作ることは、現状はコストやら技術的な問題で難しいと言うだけで、客観的事実だけを元に作成することは不可能ではないはず。
これだけで一足跳びに全てのバイアスがこれで排除できるわけではないけどね。なぜなら、マスクしてないデータにもある種のバイアスはかかっている可能性が高いから。
ただ、バイアスがあるかどうかは観測できる。
この理屈だと、多元連立方程式と同じで、パラメータが多ければそれだけの数のデータを集める必要がある。簡単なことではないし、統計的に安定した結果が出せるまでどれくらいのコストがかかるのかも素人には想像も付かないけど、専門知識を持つ人が時間と金を使って研究すれば方法は見つかると思うけどね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
男女に能力差があるという研究結果はいくらでも出てくる。
その上で単純に能力のみ評価すると男性を雇う方が有効となる。
さて、男性の方が就職しやすいというのは偏っているのか否か。
どちらに判断するとしても、それは偏向バイアスがかかった結果だ。
Re:偏向を防ぐ努力を義務化する、くらいが限界かな (スコア:1)
純粋に能力差だけ評価した結果と一致すれば性差によるバイアスはないと判断してもいいと思うけどね。
その結果を見て性差によるバイアスがかかっていると判断するのであれば、それはその判断自体に「能力ではなく性差でバイアスがかかっているに違いない」というバイアスがかかってるということになるよね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
>純粋に能力差だけ評価した結果と一致すれば性差によるバイアスはないと判断してもいいと思うけどね。
性差が出るよう元のデータが偏っているという人がいたらどうするの？
Re:偏向を防ぐ努力を義務化する、くらいが限界かな (スコア:1)
元のデータ？
「判断基準に性差が出てくるような基準が採用されたという主張がなされた」という意味かな？
そういう文句を言う人が客観的にバイアスがかかっていることを証明できるデータを見つけてこないと悪魔の証明になるわけで、「言い出す人がいたらどうするか」ってのは「言い分に妥当性があるかどうか」で対応が変わってくるんじゃないかな。
同様の手法で「業務適正に必要とされる能力」を別の統計データから割り出して採用基準と比較すれば「採用基準が妥当だったか」はチェックできるよね。
それをしないで文句言うのであれば、水掛け論吹っ掛けてるだけだから門前払いするしかない。正さバイアスをかけているに違いないというバイアスで文句言ってるに過ぎないわけだからね。
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
Re: (スコア:0)
(#3600851)(#3600893)だなぁ……
# 面倒なのでAC