パスワードを忘れた? アカウント作成

イギリス警察、AIを使って犯罪を犯す可能性のある人に「危険スコア」を付けるシステムをテスト運用」記事へのコメント

  • by ikotom (20155) on 2018年12月06日 6時33分 (#3527816)

    これ、どう見てもディストピアなんですが
    唯一ユートピアにつながる可能性もあって、
    この「犯罪の可能性」ってのが属人的なものでなく「環境要因」のみで
    決定されるなら、そのわずかな可能性が見えてくるんですよ。

    つまり「犯罪者の息子」「怒りっぽい」でなく
    「犯罪の多い地域に住んでいる」「友人にギャングがいる」
    などの環境スコアを計算して出すってことです。
    それなら、そういった環境スコアを減らす対策を当局が取ることで
    全体的な犯罪率を下げることができるでしょう。

    こういった環境要因の分析はたとえば銃犯罪の統計などで
    研究がなされており、たとえば「自宅に銃がある」と銃を用いた犯罪に
    手を染める確率は高くなります。まあ当然っちゃあ当然ですが。
    それでも「元々持ってる銃を使う」という傾向がわかれば
    「銃の違法売人」を締め上げても全体の犯罪数抑制はあまり効果がないってことは
    わかるわけです。

    ただし難しいのは何が環境かってことで
    「家庭が貧困である」なんてのは一見、環境要因でもあるように見えますし
    ただの偏見であるようにも思えます。
    実際は、貧困によって十分な教育が受けられなかったり
    貧困そのものでなく他の隠れた要因が影響を与えるはずなのですが、
    そのあたりの要因の特定が難しいのはこの手の分析でよくあることです。

    ですので正しく運用できれば社会的に良いものになるかもしれないが
    ほぼ確実に運用を間違ってディストピアになる可能性が
    あまりにも高い、と個人的には思わざるを得ませんね。

    このイギリスの件もgizmodoの説明を読む限りは、間違った偏見をベースに
    開発してそうで怖いですよ・・・。

    ここに返信
    • by Anonymous Coward on 2018年12月06日 8時14分 (#3527838)

      こういうの見ると、政府の基本7原則 [srad.jp]は大切だなと。

      1.AIは人間の基本的人権を侵さない
      6.企業に決定過程の説明責任

      この両者が、イギリスでもちゃんと確保できるんですかね。
      初期は慎重でも、過信して「理由が解らないけど、AI様が仰るので」とかいった逮捕が起きる未来しか見えない。

    • by Anonymous Coward

      「割れ窓」って奴ですね?

      • 今まで経験則的にやってたのをシステム化する感じなのかな。
        このシステムの結果を単なるリファレンスの一つとするなら良いけど、このスコアを絶対とされたらという不安。

        • by Anonymous Coward

          日本でも「顔の揺れ方で不審者を割り出す」とか言い出してるんで、オカルトとの垣根は限りなく低くなってるね。偏見でもAIって言い張れば通る「営業」本位の考え方。官公庁がこういう似非科学に税金を浪費するんじゃないかと思うと気が気じゃない。

        • by Anonymous Coward

          仮にAIが非常に優秀で正確だったとしても、人間が運用する時点でリファレンスとして扱うのも危険だと思う。
          算出する過程を第三者が客観的に検証できない限り、「AIの出したスコア」なんて運用段階でいくらでもでっち上げ可能だろうし。

          • by Anonymous Coward

            > 算出する過程を第三者が客観的に検証

            仮にモデルがmulti-layer neural networkであったとして、何をどう検証するのですか?

            • by Anonymous Coward

              > 仮にモデルがmulti-layer neural networkであったとして、何をどう検証するのですか?

              この場合、技術レイヤではなくて論理的な面の話。最終的なスコアがどんな要素をどう判断した結果算出されたのか、の妥当性を外部から検証できないと、スコアなんていじり放題だと思うんだけど違いますかね?

              • by Anonymous Coward

                スコア算出の論理がmulti-layer neural networkだったらどうするのか?という話です。入力されたデータからスコアの算出するのが学習済みモデルなので、そのモデルを見ずにしてどのように論理を判断できるのでしょう?

                ここでいうAIがただの線形モデルだったら、そのモデルの論理を理解するのも、パラメータ調整してチートするのも可能でしょう。しかし複雑なモデルを採用している場合、どうやってそのスコアの計算論理(計算自体は普通簡単ですが)を理解してその妥当性を判断するのか、少なくとも私にはわかりません。

              • by Anonymous Coward

                > どうやってそのスコアの計算論理(計算自体は普通簡単ですが)を理解してその妥当性を判断するのか、少なくとも私にはわかりません。

                いや、だから「妥当性の検証ができない方法で算出されたスコアを基準に判断するのは危険じゃないですか?」という話に対して「どうやって妥当性を判断するんですか」と返されても。判らないならなおさら「使えない」と判断するしかないんですが。

    • by Anonymous Coward

      相関はあっても因果はない場合の方が多くて、結局役に立たないってなりそう

      • by meamcarrier (41359) on 2018年12月06日 8時49分 (#3527861)
        ようするに偏見の数値化だよね
        人は客観的に見るのは難しいが、他の意見から偏見を読み取るのはやりやすいので、こういう条件だったらこう思われやすい、という数値としてみれれば役にたつかも。
        昨日雨の中子猫を助けていたので実は良い人の可能性が高い、とか
        • 不良が子猫を助ける
          DV夫がたまに優しくする
          と、心理学的な効果(なんか名前ついてたはず)で、常に優しい人より優しい人に感じる、みたいなのありますが
          AIが淡々と評価したらそういう偏見がなくなるかもしれない
          一方、AIの評価と人間の評価が乖離して、AIが非難されるかもしれないし、補正付きAIが主流になるかもしれない

        • by Anonymous Coward

          不良やヤクザが実は良い人理論

          こういう人たちがちょっといい事したら大幅に犯罪係数が下がったりして。

          • by Anonymous Coward

            そら下がるようなことすりゃ下がるやろ
            下がらん方が正しいと思ってる?
            偏見に満ちているのは人間だよなとつくづく思わせるコメント

        • by Anonymous Coward

          「・・・連続女児殺害事件の犯人はアニメファンで部屋にはフイギュアがずらり・・・」

          「hogeさんとこの息子さん結構な歳してアニオタだからきっとなにかやらかすわよ」

      • by Anonymous Coward
        相関があれば別に因果がなくても役には立つのでは?
        • 全くそう思う
          相関と因果を混同してるのは誰やねんって感じ

        • by Anonymous Coward

          >相関があれば別に因果がなくても役には立つのでは?

          病院に通っている人と、早く死ぬ人に相関のあることが分かったので、通院するのを止めました。

          • by Anonymous Coward

            観測を続けたら、病院へ行く人と長生きする人に正の相関が見つかるわけですね。

          • by Anonymous Coward
            そうですか私の観測によると死人が病院に行くことはあまりないようなので
            死にたくなければ病院には行っといた方がいいですよ
            • by Anonymous Coward

              死人が飲み屋に行くことも無いけどな。

              • by Anonymous Coward

                そうですか?たまに見ますよ。

          • by Anonymous Coward

            相関と因果の関係がわかってないんだなホント

            犯罪を病気に例えるなら病院に対応するのは刑務所(すでに結果は出ている)
            乳がん検診やメタボ検診と比較するべき(結果が出そうなところを重点的にチェックする)

            でもこの程度の理解が多いからもめるんだろうな

          • by Anonymous Coward

            「病院に通っている人と、早く死ぬ人に相関のあることが分かったので」
            これは相関関係の話。
            「通院するのを止めました。」
            これは相関関係を因果関係と取り違えてるバカの話。病院にいくことで早く死ぬと言う因果関係があるわけじゃない。
            そう取り違えるバカが多いと言う話をしたいんですかね?

    • by Anonymous Coward

      「前科者やブラクと付き合うのはやめなさい」、ユートピアだなあ…。

    • by Anonymous Coward

      何か特定の人たちへの肩入れが過ぎてものすごい偏った偏見だらけのダブルスタンダードな意見にしか見えないんですが。
      相関だけで言えば家庭が貧困ってのは十分に犯罪の可能性を上げる要因でしょうに、さらに言えば「犯罪の多い地域に住んでいる」なんてものよりもずっと相関あるでしょうになぜそこは違う扱いにしようとする?

      • > 家庭が貧困ってのは十分に犯罪の可能性を上げる要因

        それはよくある誤謬です。典型的な偏見なんですよ。
        理由は後述します。

        > なぜそこは違う扱いにしようとする?

        なぜって言われても、そういう統計結果があるからですよ。
        事実、違うからです。としか言いようがありません。

        これこそまさに、統計の分析の難しさなのですが、
        一見正しいように見えて正しくない、偏見の典型例として
        「大きすぎる名詞」というのがあります。

        たとえば黒人は犯罪率が高い、というのは偏見です。

        なぜなら「黒人全体」は大きすぎる名詞だからです。
        少なくとも「アメリカ在住の」黒人であるとか、
        「アメリカの荒れた地域の」黒人であるとか、実際に相関が表れるのは
        もっと限定した場合に限らないといけません。

        そして「アメリカの荒れた地域の」白人は、実は同じ地域の黒人同様に
        犯罪率が高いので、人種の違いは実は影響しておらず・・・
        ただ貧困地域の白人の総数が少ないから目立たないだけ、という事実を知ると
        「黒人は犯罪率が高い」というのが偏見であることがわかるんです。

        で、貧困というのもやはり大きすぎる名詞なのです。
        同じ貧困家庭でも、親が病気だから貧困な家庭と
        親が無職で酒ばかり飲んでいる家庭とで子供の犯罪相関率は大きく異なるからです。

        名詞を小さくする、つまり細かく属性を分けることで、
        貧困というのはただの結果であり、
        裏になにか隠れた真の要因があり、
        それが貧困や犯罪という結果に影響していると分かるのですよ。

        そういう結果と原因の取り違えがしばしば(専門の学者の間においても)
        起こり得るので統計の分析っていうのは難しいのです。

        • by Anonymous Coward

          何を犯罪とするかは法律により、法律は国による。
          黒人は多数の国にいるが、犯罪の前提が異なる他国の黒人を統計に含むわけはない。
          アメリカで「黒人は犯罪率が高い」というならそれはアメリカの法律での話であって
          >少なくとも「アメリカ在住の」黒人であるとか、
          は自明だ。

          • by Anonymous Coward

            なんでアメリカが自明になるんだよ
            ここは日本だし、元ネタはイギリスの話なんだけど

            • by Anonymous Coward

              アメリカで~なら、と書かれてる意味が読み取れないのか。

        • by Anonymous Coward

          そして「アメリカの荒れた地域の」白人は、実は同じ地域の黒人同様に
            犯罪率が高いので、人種の違いは実は影響しておらず・・・
            ただ貧困地域の白人の総数が少ないから目立たないだけ、という事実を知ると
          「黒人は犯罪率が高い」というのが偏見であることがわかるんです。

          じゃあ「アメリカの荒れた地域の人間は犯罪率が高い」とは言えるじゃないですか。
          だいたい普通統計とるのであれば件数だけじゃなく率もちゃんと弾き出してますよ。だからそんな心配無用です。
          貧困だって一緒ですよね?
          実際にデータとして現れる数値で取り違えなんて起きていないですよ。取り違えてるのはあなたじゃないですか?

          • by Anonymous Coward

            なにか根本的なところで誤解されてないですか。
            そんな話は誰もしてないですよ。

        • by Anonymous Coward

          あなたが解き明かそうとしてるのはより因果の強い相関関係や因果関係そのものなんですよ。まだ気付きませんか?
          相関の有無でのレッテル貼りを否定し、より因果の強い相関関係を使ってレッテル貼りすべきだという結局ダブスタの自己満じゃん。

          • by Anonymous Coward

            いいえ、これは擬似相関についての話です。
            https://ja.wikipedia.org/wiki/%E6%93%AC%E4%BC%BC%E7%9B%B8%E9%96%A2 [wikipedia.org]

          • by Anonymous Coward

            ikotomさんとは別人の昨日、因果関係については書いてないと書いたACです。
            こちらにぶら下げます。昨日、あれからも色々と考えて、
            無自覚に因果関係はあり得ないという前提で書いていたのだと気付きました。
            なぜあり得ないと思うのか、以下に理由を書きます。
            貧困にしろ、犯罪を犯す人が多い地域にしろ、その環境要因と
            そこに住む人が将来犯罪を犯す確率との間に相関関係が見られたとします。
            ここで、そういった環境に今は身をおいていない人がその環境におかれた時の事を考えます。
            その環境でスコアを付けるなら、その人のスコアもまた上がる事になります。
            要するに、犯罪を

      • by Anonymous Coward

        「家庭が貧困」でも「犯罪の多い地域に住んでいる」でも
        全体としてみれば犯罪の可能性をあげる要因かもしれませんが、
        人というのはそれぞれですから、全部の人がそうだとは限りませんよね。
        (むしろ犯罪を犯すまで行くのは少数派じゃないでしょうか)
        それなのに、ある人の人となりを全く知らないのに、
        「家庭が貧困」「犯罪の多い地域に住んでいる」と言うだけで
        犯罪を犯す可能性があるというレッテルを貼って良いのでしょうか。
        もしあなたが「家庭が貧困」「犯罪の多い地域に住んでいる」というような環境に生まれ、
        あなたの生まれつきの性質や成長過程での偶然の何かしらの出会いや

        • by Anonymous Coward

          まず因果関係と相関関係をはっきりさせなさいよ。
          その上でちゃんと違いを分かって言ってる?
          ここでの話は相関関係の話ですよ。つまり標本集団の傾向。だから個別の例外なんていくら挙げても意味がない。
          自分でも言ってるじゃない。
          > 「家庭が貧困」でも「犯罪の多い地域に住んでいる」でも
          > 全体としてみれば犯罪の可能性をあげる要因かもしれませんが、
          これが全てだよ。相関関係あるのは認めてるんでしょ。なぜ特定の話になると因果関係に持っていくのさ。

          • 相関関係と因果関係の区別が出来ないから、でしょうねぇ

          • by Anonymous Coward

            100人に一人が犯罪を犯す地域と10人に一人が犯罪を犯す地域というデータがあったとして、
            後者の地域の住人全体に、犯罪を犯す可能性というスコアを一律に加算するのっておかしくないですか?
            私にはそのような厳しい環境で犯罪を犯さずに生きている90%の人を愚弄する行為にすら感じられます。
            たとえそれが1400の要素のわずか1つだとしてもね。
            そして、そのようなデータがあるのなら、
            そのような厳しい環境で犯罪を犯さずに生きている人達に一律にマイナスのレッテルを貼るのではなく、
            そこに住む人達が生きやすいようにその悪い環境を変えようと試みるのが本道じゃないかって話です。

            • by Anonymous Coward

              愚弄とかそんな感情は余計なもの。必要ない。

            • by Anonymous Coward

              気持ちは理解できるけど、統計ってそういうものだから。
              100人に一人が犯罪を犯す地域と10人に一人が犯罪を犯す地域があるなら
              前者の犯罪可能性は 1% で 後者は 10% になるんだよ。
              純粋な数学的な話としてね。

            • by Anonymous Coward

              因果関係があるなんて誰も言ってないし、
              あなたは「因果関係を認めたつもりは全くありません」なら何と戦ってんのよ

              相関関係があってもそれを表に出しちゃいかんのだ、
              と言いたいならそう言いなさい
              長いばっかで解りにくいよ

    • by Anonymous Coward

      政治家は裏で悪いことをしているはずだとか、金持ちは脱税しているとかは、偏見ですよね

    • by Anonymous Coward

      「未解明の因子が多いから、精度の高い推測ができない。」って見方はできませんか?
      精度が見込めず実用性に疑問符が付くからディストピア的であって、そのAIの存在自体がディストピア的だと決まっている訳ではない、という意味で。

      • by Anonymous Coward

        うーん。お箸で月をつまめるか?って譬えで
        全長40万kmの箸を用意すれば可能である!って言ってるのと同じに思えます。
        もうそれはお箸の概念を超えており、現実に用意できると思えません。

        それこそシンギュラリティを超えた超知性を持つAIでもいれば可能でしょうが
        それは今この21世紀に存在するAIとは別の概念だと思うんですよね。

    • by Anonymous Coward

      ユートピアとディストピアって区別されるものなんですか?
      同じものじゃないんでしょうか

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

処理中...