パスワードを忘れた? アカウント作成
13784631 story
人工知能

イギリス警察、AIを使って犯罪を犯す可能性のある人に「危険スコア」を付けるシステムをテスト運用 114

ストーリー by hylom
どうすればスコアを下げられるのか 部門より
あるAnonymous Coward曰く、

イギリス警察が、犯罪を予測するAIをテスト運用しているという(ギズモードSputnik)。

コンピュータによる犯罪予測については以前から研究が進められており、2010年には『米フロリダ州、「犯罪予測システム」導入へ』という話題もあった。日本でも京都府警神奈川県警が興味を示している。

今回イギリス警察が導入するシステムは、犯罪データベースや個人情報データベースから情報を収集し、「1400種の指標」から犯罪を犯す可能性がある人に対し「将来的に犯罪を犯す可能性」(危険スコア)を付けるという。

  • by ikotom (20155) on 2018年12月06日 6時33分 (#3527816)

    これ、どう見てもディストピアなんですが
    唯一ユートピアにつながる可能性もあって、
    この「犯罪の可能性」ってのが属人的なものでなく「環境要因」のみで
    決定されるなら、そのわずかな可能性が見えてくるんですよ。

    つまり「犯罪者の息子」「怒りっぽい」でなく
    「犯罪の多い地域に住んでいる」「友人にギャングがいる」
    などの環境スコアを計算して出すってことです。
    それなら、そういった環境スコアを減らす対策を当局が取ることで
    全体的な犯罪率を下げることができるでしょう。

    こういった環境要因の分析はたとえば銃犯罪の統計などで
    研究がなされており、たとえば「自宅に銃がある」と銃を用いた犯罪に
    手を染める確率は高くなります。まあ当然っちゃあ当然ですが。
    それでも「元々持ってる銃を使う」という傾向がわかれば
    「銃の違法売人」を締め上げても全体の犯罪数抑制はあまり効果がないってことは
    わかるわけです。

    ただし難しいのは何が環境かってことで
    「家庭が貧困である」なんてのは一見、環境要因でもあるように見えますし
    ただの偏見であるようにも思えます。
    実際は、貧困によって十分な教育が受けられなかったり
    貧困そのものでなく他の隠れた要因が影響を与えるはずなのですが、
    そのあたりの要因の特定が難しいのはこの手の分析でよくあることです。

    ですので正しく運用できれば社会的に良いものになるかもしれないが
    ほぼ確実に運用を間違ってディストピアになる可能性が
    あまりにも高い、と個人的には思わざるを得ませんね。

    このイギリスの件もgizmodoの説明を読む限りは、間違った偏見をベースに
    開発してそうで怖いですよ・・・。

    ここに返信
    • by Anonymous Coward on 2018年12月06日 8時14分 (#3527838)

      こういうの見ると、政府の基本7原則 [srad.jp]は大切だなと。

      1.AIは人間の基本的人権を侵さない
      6.企業に決定過程の説明責任

      この両者が、イギリスでもちゃんと確保できるんですかね。
      初期は慎重でも、過信して「理由が解らないけど、AI様が仰るので」とかいった逮捕が起きる未来しか見えない。

    • by Anonymous Coward

      「割れ窓」って奴ですね?

      • 今まで経験則的にやってたのをシステム化する感じなのかな。
        このシステムの結果を単なるリファレンスの一つとするなら良いけど、このスコアを絶対とされたらという不安。

        • by Anonymous Coward

          日本でも「顔の揺れ方で不審者を割り出す」とか言い出してるんで、オカルトとの垣根は限りなく低くなってるね。偏見でもAIって言い張れば通る「営業」本位の考え方。官公庁がこういう似非科学に税金を浪費するんじゃないかと思うと気が気じゃない。

    • by Anonymous Coward

      相関はあっても因果はない場合の方が多くて、結局役に立たないってなりそう

    • by Anonymous Coward

      「前科者やブラクと付き合うのはやめなさい」、ユートピアだなあ…。

  • by Anonymous Coward on 2018年12月06日 7時52分 (#3527832)

    今は犯罪があったときの容疑者候補ぐらに使うのだろうが、未来にはいつか犯罪をする人間として
    更生プログラムを強制的に受けさせるとかになったらなんだか怖いな

    ここに返信
    • by Anonymous Coward

      >「将来的に犯罪を犯す可能性」(危険スコア)を付けるという
      だから、
      まさしく潜在犯だよ。

      • by Anonymous Coward

        だけど現状は危険スコアが高いから(何もおきてなくても)拘束するとかではなく、
        何かあったときに真っ先に疑われるってレベルだろう・・・ってことでしょう。
        これが前者になったらさらにヤバイな、ってのが元コメ。

        • スコアが高い人にはカウンセリングするって言ってるんだからほとんどそこまで言ってんじゃないの
          しかしまぁ今んところ町の不良におっさんが説教するぐらいの話じゃろ
          自分が高スコアつけられたなら、どこがスコア高い原因なのかも含めて教えてほしいわ

    • by Anonymous Coward

      でその属性の犯罪履歴が多くなって更にデータが偏っていく予感

    • by Anonymous Coward

      うう。マイノリティ・レポートの立場は…予想するのはAIじゃないけど。

      • by Anonymous Coward

        シビュラシステムはAIなのだろうか。

    • by Anonymous Coward

      あれって怒りや罪悪感等の激しい感情を持つ=犯罪係数が上がるで
      そういう感情を持たないサイコパスは網にかからないって話だけど
      似たような結果になったら嫌だなぁ

    • by Anonymous Coward

      99.99%の的中率があったりするなら、意外とあっさりと受け入れられるのではないだろうか。

      • by Anonymous Coward

        的中率を上げるために、スコアが高いと判定された人に
        微罪適用したり、職質からの転び公妨でしょっぴくとか。

      • by Anonymous Coward
        0.01%の確率で冤罪にされてもいいならね…
  • AI制御のロボットがギャングと組んで強奪騒ぎやってなかったか。

    確か、CHAPPiEとか。

    --

    “人生の大半の問題はスルーカで解決できる...

    ここに返信
  • by nemui4 (20313) on 2018年12月06日 5時54分 (#3527808) 日記

    どんな内容やろ。
    24h以内に数回DHMOを摂取している、とか?

    ここに返信
  • by Anonymous Coward on 2018年12月06日 6時18分 (#3527813)

    ・警察官になる
    ・政治家の知り合いを作る

    ここに返信
  • by Anonymous Coward on 2018年12月06日 7時50分 (#3527830)

    「AIを使って犯罪を犯す可能性のあるすごいハッカー」を探し出して犯罪予備軍扱いするシステムかと空目しました・・・

    ここに返信
    • by Anonymous Coward

      過去の犯罪歴でポイントがつくだけでなく、その現場にいたり犯罪者の知人がいたら犯罪に関わる可能性ありとしてポイントがつく。
      その人そのものが犯罪者になるか、犯罪に巻き込まれる可能性のありそうな人を重点的に監視するシステム。
      何もしていなくても友人だった人が犯罪者になると登録される危険がある。

  • by Anonymous Coward on 2018年12月06日 9時21分 (#3527888)

    適性が低いと高出力車の購入はできません、とか。

    ここに返信
typodupeerror

※ただしPHPを除く -- あるAdmin

読み込み中...