パスワードを忘れた? アカウント作成

イギリス警察、AIを使って犯罪を犯す可能性のある人に「危険スコア」を付けるシステムをテスト運用」記事へのコメント

  • これ、どう見てもディストピアなんですが
    唯一ユートピアにつながる可能性もあって、
    この「犯罪の可能性」ってのが属人的なものでなく「環境要因」のみで
    決定されるなら、そのわずかな可能性が見えてくるんですよ。

    つまり「犯罪者の息子」「怒りっぽい」でなく
    「犯罪の多い地域に住んでいる」「友人にギャングがいる」
    などの環境スコアを計算して出すってことです。
    それなら、そういった環境スコアを減らす対策を当局が取ることで
    全体的な犯罪率を下げることができるでしょう。

    こういった環境要因の分析はたとえば銃犯罪の統計などで
    研究がなされており、たとえば「自宅に銃がある」と銃を用いた犯

    • by Anonymous Coward

      「割れ窓」って奴ですね?

      • 今まで経験則的にやってたのをシステム化する感じなのかな。
        このシステムの結果を単なるリファレンスの一つとするなら良いけど、このスコアを絶対とされたらという不安。

        • by Anonymous Coward

          日本でも「顔の揺れ方で不審者を割り出す」とか言い出してるんで、オカルトとの垣根は限りなく低くなってるね。偏見でもAIって言い張れば通る「営業」本位の考え方。官公庁がこういう似非科学に税金を浪費するんじゃないかと思うと気が気じゃない。

        • by Anonymous Coward

          仮にAIが非常に優秀で正確だったとしても、人間が運用する時点でリファレンスとして扱うのも危険だと思う。
          算出する過程を第三者が客観的に検証できない限り、「AIの出したスコア」なんて運用段階でいくらでもでっち上げ可能だろうし。

          • by Anonymous Coward

            > 算出する過程を第三者が客観的に検証

            仮にモデルがmulti-layer neural networkであったとして、何をどう検証するのですか?

            • by Anonymous Coward

              > 仮にモデルがmulti-layer neural networkであったとして、何をどう検証するのですか?

              この場合、技術レイヤではなくて論理的な面の話。最終的なスコアがどんな要素をどう判断した結果算出されたのか、の妥当性を外部から検証できないと、スコアなんていじり放題だと思うんだけど違いますかね?

              • by Anonymous Coward

                スコア算出の論理がmulti-layer neural networkだったらどうするのか?という話です。入力されたデータからスコアの算出するのが学習済みモデルなので、そのモデルを見ずにしてどのように論理を判断できるのでしょう?

                ここでいうAIがただの線形モデルだったら、そのモデルの論理を理解するのも、パラメータ調整してチートするのも可能でしょう。しかし複雑なモデルを採用している場合、どうやってそのスコアの計算論理(計算自体は普通簡単ですが)を理解してその妥当性を判断するのか、少なくとも私にはわかりません。

              • by Anonymous Coward

                > どうやってそのスコアの計算論理(計算自体は普通簡単ですが)を理解してその妥当性を判断するのか、少なくとも私にはわかりません。

                いや、だから「妥当性の検証ができない方法で算出されたスコアを基準に判断するのは危険じゃないですか?」という話に対して「どうやって妥当性を判断するんですか」と返されても。判らないならなおさら「使えない」と判断するしかないんですが。

最初のバージョンは常に打ち捨てられる。

処理中...