パスワードを忘れた? アカウント作成
13841932 story
中国

中国の汚職撲滅AIシステム、取り締り能力が高すぎてお蔵入りか 61

ストーリー by hylom
自動で拘束・裁判・執行する機能はまだか 部門より
yamajun88曰く、

中国の汚職撲滅AIシステム「Zero Trust」がお蔵入りの危機に瀕しているという(South China Mornig Postカラパイア)。

Zero Trustは中国科学院と中国共産党が合同で開発したAIシステムで、銀行口座や買い物履歴、政府と企業の各種契約など、中央政府および自治体が所有する150以上の機密データベースにアクセスし、それらのクロスリファレンスをとることで公務員の行動を監視する。監視カメラのデータを顔認証システムで解析して人物を特定することもできる。このシステムを2012年から30の自治体で試験運用したところ、8,731人もの公務員の不正を暴いてしまったというのだ(試験運用を実施した自治体数は全体の1%で、中国全土の公務員の人数は6,400万人以上)。

例えば、ある道路工事に関する資料からは、工事費用に関する不正が検出された。これは衛星写真との称号で発覚したという。いくつかの自治体はZero Trustによる監視を「不快だ」とし、運用を停止した。また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。

結果はともかく、政治とテクノロジーを「正面衝突」させる実験が可能になったというのは情報技術の進歩向上の結果に他ならないと感じる。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • うーん、この (スコア:5, おもしろおかしい)

    by Anonymous Coward on 2019年02月16日 17時33分 (#3565964)

    チェックオプションをstrictにしたらエラーが大量発生したのでチェックをやめた。的な

  • by Anonymous Coward on 2019年02月19日 13時46分 (#3567517)

    こういうシステムを作って役所のDBと連携させつつ仮運用するところまで持っていける地力の凄さには驚きますね

    • by Anonymous Coward

      置いといたら独裁でもなんでもできますが

      • by Anonymous Coward

        そりゃ制度的にはフリーハンドだけど技術・コスト的な問題もあるから、やっちゃうのが凄いと言えば凄い。
        汚職が酷いからコスト的にペイすると思ったのかな。

  • 朧げなスキャナー (スコア:4, おもしろおかしい)

    by Anonymous Coward on 2019年02月19日 14時14分 (#3567545)

    汚職に手を出さずに暮らせる奴は
    他国のエージェントか狂信者だから逮捕すべき

    • 一方、終戦直後の日本では、「闇市の商品は買わない」を貫いた裁判官が飢え死にした

      親コメント
    • by Anonymous Coward

      朝鮮労働党員(一般級)の現状。
      だから文在寅は如何に世界から後ろ指を指されようと、与党共に民主党の同志を(違法行為を含めて)断固として支援する。

  • by nemui4 (20313) on 2019年02月19日 13時38分 (#3567512) 日記

    不快ということは、やってますという告白でしょうか。

    いくつかの自治体はZero Trustによる監視を「不快だ」とし、運用を停止した。

    最終判断から処分まで含めて全工程をAIに任せたらさっぱり綺麗になりそうで良いな。

    また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。

    そして誰も・・・
    とならないように、ここまではOKとかいう「加減」を学習させることができれば良さげ

    • by s-wakaba (47029) on 2019年02月19日 20時27分 (#3567814)

      また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。

      そして誰も・・・
      とならないように、ここまではOKとかいう「加減」を学習させることができれば良さげ

      汚職の最終判断をする人を買収する大規模汚職事件がAIで発覚、までがセットであってほしい。

      親コメント
    • by Anonymous Coward

      その「加減」が汚職の内容で一律に決まるのか、役人の過去の実績を勘案してなのか、
      役人の力関係(縁故も含む)も考慮に入れるのか・・・(汗)

      • by Anonymous Coward

        どっちにしろAIは加減を正しく決定できないから「不快」だわな

    • by Anonymous Coward

      不快ということは、やってますという告白でしょうか。

      「汚職撲滅AIシステム」と言われたら拒否する側が悪、みたいな印象を与えますが、
      建前はともかく「公務員の行動を監視するAIシステム」なのは間違いないですし、
      仮に後ろ暗いところがなくても不快に感じるのは無理のない話かなと。

      開発・導入が実現するレベルで信頼性を損なった側の自業自得、という見方もできなくはないですが、
      ああいうお国柄ではそんな理由などなくても強行可能な訳で、どっちもどっちというかなんというか。

    • by Anonymous Coward

      それなら監視カメラやIT企業が個人情報を収集するのも、反対するやつはやましいことがあるんだろ!って言えちゃいますけど。

      • by Anonymous Coward

        やましいことがあるからやろ

    • by Anonymous Coward

      >不快ということは、やってますという告白でしょうか。
      トイレの個室で喫煙する奴がいるから、個室に監視カメラをつけると同じでそうとは限らないよ

      • by Anonymous Coward

        中国の汚職はトイレでの排泄と同等ということね

        • by Anonymous Coward

          まあ、「汚職」だしね。

  • 純粋に欲しい (スコア:2, すばらしい洞察)

    by Anonymous Coward on 2019年02月19日 13時59分 (#3567525)

    汚職というより、単純な誤り検出システムとしてほしい。
    うちの社内申請システムって慣れてない人が多いのにマニュアルが微妙に使いにくくて、見つけにくいところでミスがあるんだよね。
    そのせいで「過去に通った文書のコピペ」がたくさん使われたり、チェック(承認)側も数が多い上理解が浅い人もいてミスを見逃したり。
    承認フローの最初にチェック機構として入れて「どこどこに不備があります」「ここの計算的が合いません」「ここの内容が明確でありません」とか機械的に出してくれるととても便利。

    • by Anonymous Coward

      それは誤り検出システムを作るというより「入力時のバリデーションをちゃんとできるように設計する&入力時に誤りを誘発しないUIにする&ちゃんとバリデーションする」の方が早い気がします

  • AIにすべてまかせれば公正ではないが平等は担保してくれるし、HWを拡張することで事実上無限の処理能力を得る。すべてを統括するということは局所最適化の罠に陥ることもなく、完璧な計画経済が実行できて、かつ突発的な問題にも柔軟に対応することができる。

    故にすべてのデータを一元管理して適切に設計されたAIが国家を運営すれば、理想の共産主義国家が生まれるのではないだろうか。

    #市民、幸福は義務です

    • マルクス・エンゲルスが唱えた社会体制ではない。

    • by Anonymous Coward

      私はむしろ逆でAIによって共産主義そのものが否定されることを期待してます

      • by Anonymous Coward

        供給力に対して需要が極端に小さければ共産社会が成立するので
        文明を保てる程度の人口を残して余剰を排除する、という結論にたどり着かないことを祈ります。

    • by Anonymous Coward

      それでAIが管理するようになれば害虫である人間は次々と抹殺されていくという

      #ターミネーターとかマトリックスなんかのお決まりパターンやねw

      • by Anonymous Coward

        アシモフのロボット小説ではAI(作中では陽電子頭脳だったかな)が
        問題が発生するまえに上手く人事移動とかして管理してたけどね。

  • 大体手口は似てくるから判別しやすいのかも

  • by Anonymous Coward on 2019年02月17日 3時25分 (#3566089)

    結局 Zero Trust はゼロ・トレランスであったと(そりゃあ大人の事情なんてデータに入ってやしないだろうからなぁ)。
    # それにしても「信頼度ゼロ」と読めるこのネーミングセンス

    • by nim (10479) on 2019年02月20日 9時48分 (#3568046)

      > # それにしても「信頼度ゼロ」と読めるこのネーミングセンス

      サイバーセキュリティの分野では、Forrester がZero Trustというパラダイムを提唱しています。
      https://go.forrester.com/blogs/category/zero-trust/ [forrester.com]

      ネットワークやユーザを「信頼済み」にカテゴライズし、あとは自由にさせる境界型のセキュリティ対策に対して、常にアクセスが正当なものかチェックし続けることでリスクコントロールするという考え方で「誰も信頼はしない(常にチェックする)」というニュアンスの言葉です。

      だから、こちらもネーミングとしてはあまり不自然に感じませんね。

      親コメント
  • by Anonymous Coward on 2019年02月19日 13時30分 (#3567508)

    試験運用をした自治体が1%で発見した不正が8,731人。
    全自治体で導入したら873,100人になるだろう。
    一方、母集団は64,000,000人なんだから、不正発見の割合は1.36%になる。
    直感的にはもうちょっとやってそうな気がする。
    巧妙にすり抜けたか、そもそも一人で何件もやっているか。

    • by AkiraShino (5809) on 2019年02月19日 13時59分 (#3567526)

      全員が不正をやっている可能性も……。

      親コメント
      • by Anonymous Coward

        年間数十万件単位で摘発されているので
        強ち間違ってないかと

        ザルでも引っかかる

        • Re:高すぎ? (スコア:3, 興味深い)

          by Anonymous Coward on 2019年02月19日 15時43分 (#3567614)

          年間数十万件単位で摘発されているので
          強ち間違ってないかと

          ザルでも引っかかる

          20年ぐらい前に(なので今はどうかは知らんが)中国の法人を相手に仕事してた上司曰く、「商売上、邪魔になる役人に(誰からかわからないように)金を渡して、別の役人に鼻薬かがせながら通報する」みたいな手口があったようで。

          これだと今は2件としてカウントされるのかなー

          親コメント
    • by Anonymous Coward

      >Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため

      この判断する人が何人居るのか。
      1000人くらい居ても、8000件以上を厳正に審査するのは結構時間もかかるし負担になる。
      もし数人しか居ないのなら、テスト段階でお手上げ。
      本格運用するには、審査する人間を大量に用意しなきゃならないし、
      その審査する人間に汚職の疑いがないかを別のシステムで審査しなきゃならない。
      さすがにそんなマトリョーシカみたいなことを延々やってられないのでは。
      全体の1%も引っかけるなんて、感度良すぎと思われても仕方ない。

    • by Anonymous Coward

      その1%に比較的まともそうな自治体を選んでいればわからんよ。
      不正しまくりの自治体なら、試験運用前に問題起こりそうだし。

      っていうか、中共主導の試験を、自治体の独断で運用停止できるんだな。

  • by Anonymous Coward on 2019年02月19日 13時36分 (#3567511)

    「俺のもバレちまうだろ!」○

  • by Anonymous Coward on 2019年02月19日 13時42分 (#3567513)

    良かれと思って作ったAI、ロボット、システムなどが人類の
    敵になるっていうのが現実に近づいてきてますね。

    中国政府を批判したAIの話もありましたし。
    AIに多くの投資も行っているようなので、
    中国が自律型の無人兵器による最初の攻撃を受ける国になりそう。

  • by Anonymous Coward on 2019年02月19日 13時47分 (#3567519)

    中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。
    AIに限らず新しいもの何でも試せそうぜ!って空気なんだろうけど、なんとも分からないものだ。

    # 一方、人口減でまさにAIが必要な我が国は、保守的な社会だからか、あまり話を聞かないような?

    • by Anonymous Coward

      中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。

      逆に人口多いから、データも膨大になって手に負えないってことでは?

      • by Anonymous Coward

        大勢でやったら不正の温床になっちゃうまでが中国

    • by Anonymous Coward

      > 中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。
      汚職を摘発する側が簡単に買収されると考えられているから、人手を使おうとしないのでは

    • by Anonymous Coward

      機械の役割には単純な人間の代替もあるけど、人間にできないことをさせたり、計算ミスが事実上ないゆえの正確性の確保とかより高度な結果を出すためでも導入されるんだよ。
      特にAIは注目の先端技術だから、先に唾つけて権利固めれば莫大な利益につながる。つまり先行投資だよ。
      日本の場合投資のための先立つもの、つまりお金が致命的にたりない。
      なんにつけても「日本」という市場規模が小さすぎてどうにもならんの。

    • by Anonymous Coward

      いや、日本と違って中国は技術立国だから。基礎研究にかけるリソース比べ物にならないよ。

    • by Anonymous Coward

      少し前にITmediaで記事になってたよ。
      米中の現状と日本でのAIについて。
      話を聞かないのはアンテナの感度が足りないだけ。
      あるいはAIに関する話題と気付いていないのかもね。

      日本の現状を言うなら、金が足りないのと上が無理解。
      研究は昔から継続されていて環境もいろいろ整っているけど、
      マンパワーで米中に勝てず脱落中。

  • by Anonymous Coward on 2019年02月19日 15時23分 (#3567599)

    日本のように在職中は金品を受け取らず、退職して再就職してからもらえばいい。

    • by Anonymous Coward

      一方中国の属国では、在職中は金品を受け取り、退職してから処刑される。

typodupeerror

アレゲは一日にしてならず -- アレゲ研究家

読み込み中...