中国の汚職撲滅AIシステム、取り締り能力が高すぎてお蔵入りか 61
ストーリー by hylom
自動で拘束・裁判・執行する機能はまだか 部門より
自動で拘束・裁判・執行する機能はまだか 部門より
yamajun88曰く、
中国の汚職撲滅AIシステム「Zero Trust」がお蔵入りの危機に瀕しているという(South China Mornig Post、カラパイア)。
Zero Trustは中国科学院と中国共産党が合同で開発したAIシステムで、銀行口座や買い物履歴、政府と企業の各種契約など、中央政府および自治体が所有する150以上の機密データベースにアクセスし、それらのクロスリファレンスをとることで公務員の行動を監視する。監視カメラのデータを顔認証システムで解析して人物を特定することもできる。このシステムを2012年から30の自治体で試験運用したところ、8,731人もの公務員の不正を暴いてしまったというのだ(試験運用を実施した自治体数は全体の1%で、中国全土の公務員の人数は6,400万人以上)。
例えば、ある道路工事に関する資料からは、工事費用に関する不正が検出された。これは衛星写真との称号で発覚したという。いくつかの自治体はZero Trustによる監視を「不快だ」とし、運用を停止した。また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。
結果はともかく、政治とテクノロジーを「正面衝突」させる実験が可能になったというのは情報技術の進歩向上の結果に他ならないと感じる。
うーん、この (スコア:5, おもしろおかしい)
チェックオプションをstrictにしたらエラーが大量発生したのでチェックをやめた。的な
Re:うーん、この (スコア:1)
昔の職場でWARNINGレベルを上げたら奇人扱いされたことを思い出した
民主化できてないのは置いといて (スコア:5, すばらしい洞察)
こういうシステムを作って役所のDBと連携させつつ仮運用するところまで持っていける地力の凄さには驚きますね
Re: (スコア:0)
置いといたら独裁でもなんでもできますが
Re: (スコア:0)
そりゃ制度的にはフリーハンドだけど技術・コスト的な問題もあるから、やっちゃうのが凄いと言えば凄い。
汚職が酷いからコスト的にペイすると思ったのかな。
朧げなスキャナー (スコア:4, おもしろおかしい)
汚職に手を出さずに暮らせる奴は
他国のエージェントか狂信者だから逮捕すべき
Re:朧げなスキャナー (スコア:2)
一方、終戦直後の日本では、「闇市の商品は買わない」を貫いた裁判官が飢え死にした
Re: (スコア:0)
朝鮮労働党員(一般級)の現状。
だから文在寅は如何に世界から後ろ指を指されようと、与党共に民主党の同志を(違法行為を含めて)断固として支援する。
最終判断 (スコア:2)
不快ということは、やってますという告白でしょうか。
いくつかの自治体はZero Trustによる監視を「不快だ」とし、運用を停止した。
最終判断から処分まで含めて全工程をAIに任せたらさっぱり綺麗になりそうで良いな。
また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。
そして誰も・・・
とならないように、ここまではOKとかいう「加減」を学習させることができれば良さげ
Re:最終判断 (スコア:3)
また、Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため、Zero Trustの能力に対する人的リソースの不足という問題も生じた。
そして誰も・・・
とならないように、ここまではOKとかいう「加減」を学習させることができれば良さげ
汚職の最終判断をする人を買収する大規模汚職事件がAIで発覚、までがセットであってほしい。
Re: (スコア:0)
その「加減」が汚職の内容で一律に決まるのか、役人の過去の実績を勘案してなのか、
役人の力関係(縁故も含む)も考慮に入れるのか・・・(汗)
Re: (スコア:0)
どっちにしろAIは加減を正しく決定できないから「不快」だわな
Re: (スコア:0)
不快ということは、やってますという告白でしょうか。
「汚職撲滅AIシステム」と言われたら拒否する側が悪、みたいな印象を与えますが、
建前はともかく「公務員の行動を監視するAIシステム」なのは間違いないですし、
仮に後ろ暗いところがなくても不快に感じるのは無理のない話かなと。
開発・導入が実現するレベルで信頼性を損なった側の自業自得、という見方もできなくはないですが、
ああいうお国柄ではそんな理由などなくても強行可能な訳で、どっちもどっちというかなんというか。
Re: (スコア:0)
それなら監視カメラやIT企業が個人情報を収集するのも、反対するやつはやましいことがあるんだろ!って言えちゃいますけど。
Re: (スコア:0)
やましいことがあるからやろ
Re: (スコア:0)
>不快ということは、やってますという告白でしょうか。
トイレの個室で喫煙する奴がいるから、個室に監視カメラをつけると同じでそうとは限らないよ
Re: (スコア:0)
中国の汚職はトイレでの排泄と同等ということね
Re: (スコア:0)
まあ、「汚職」だしね。
純粋に欲しい (スコア:2, すばらしい洞察)
汚職というより、単純な誤り検出システムとしてほしい。
うちの社内申請システムって慣れてない人が多いのにマニュアルが微妙に使いにくくて、見つけにくいところでミスがあるんだよね。
そのせいで「過去に通った文書のコピペ」がたくさん使われたり、チェック(承認)側も数が多い上理解が浅い人もいてミスを見逃したり。
承認フローの最初にチェック機構として入れて「どこどこに不備があります」「ここの計算的が合いません」「ここの内容が明確でありません」とか機械的に出してくれるととても便利。
Re: (スコア:0)
それは誤り検出システムを作るというより「入力時のバリデーションをちゃんとできるように設計する&入力時に誤りを誘発しないUIにする&ちゃんとバリデーションする」の方が早い気がします
共産主義とAIってもしかして相性良いのでは? (スコア:2)
AIにすべてまかせれば公正ではないが平等は担保してくれるし、HWを拡張することで事実上無限の処理能力を得る。すべてを統括するということは局所最適化の罠に陥ることもなく、完璧な計画経済が実行できて、かつ突発的な問題にも柔軟に対応することができる。
故にすべてのデータを一元管理して適切に設計されたAIが国家を運営すれば、理想の共産主義国家が生まれるのではないだろうか。
#市民、幸福は義務です
しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
共産主義とは共産党が支配する事 (スコア:0)
マルクス・エンゲルスが唱えた社会体制ではない。
Re: (スコア:0)
私はむしろ逆でAIによって共産主義そのものが否定されることを期待してます
Re: (スコア:0)
供給力に対して需要が極端に小さければ共産社会が成立するので
文明を保てる程度の人口を残して余剰を排除する、という結論にたどり着かないことを祈ります。
Re: (スコア:0)
それでAIが管理するようになれば害虫である人間は次々と抹殺されていくという
#ターミネーターとかマトリックスなんかのお決まりパターンやねw
Re: (スコア:0)
アシモフのロボット小説ではAI(作中では陽電子頭脳だったかな)が
問題が発生するまえに上手く人事移動とかして管理してたけどね。
悪いことのバリエーションはあんまりないってことかな (スコア:1)
大体手口は似てくるから判別しやすいのかも
ゼロ・トレランス (スコア:0)
結局 Zero Trust はゼロ・トレランスであったと(そりゃあ大人の事情なんてデータに入ってやしないだろうからなぁ)。
# それにしても「信頼度ゼロ」と読めるこのネーミングセンス
Re:ゼロ・トレランス (スコア:1)
> # それにしても「信頼度ゼロ」と読めるこのネーミングセンス
サイバーセキュリティの分野では、Forrester がZero Trustというパラダイムを提唱しています。
https://go.forrester.com/blogs/category/zero-trust/ [forrester.com]
ネットワークやユーザを「信頼済み」にカテゴライズし、あとは自由にさせる境界型のセキュリティ対策に対して、常にアクセスが正当なものかチェックし続けることでリスクコントロールするという考え方で「誰も信頼はしない(常にチェックする)」というニュアンスの言葉です。
だから、こちらもネーミングとしてはあまり不自然に感じませんね。
高すぎ? (スコア:0)
試験運用をした自治体が1%で発見した不正が8,731人。
全自治体で導入したら873,100人になるだろう。
一方、母集団は64,000,000人なんだから、不正発見の割合は1.36%になる。
直感的にはもうちょっとやってそうな気がする。
巧妙にすり抜けたか、そもそも一人で何件もやっているか。
Re:高すぎ? (スコア:1)
全員が不正をやっている可能性も……。
Re: (スコア:0)
年間数十万件単位で摘発されているので
強ち間違ってないかと
ザルでも引っかかる
Re:高すぎ? (スコア:3, 興味深い)
年間数十万件単位で摘発されているので
強ち間違ってないかと
ザルでも引っかかる
20年ぐらい前に(なので今はどうかは知らんが)中国の法人を相手に仕事してた上司曰く、「商売上、邪魔になる役人に(誰からかわからないように)金を渡して、別の役人に鼻薬かがせながら通報する」みたいな手口があったようで。
これだと今は2件としてカウントされるのかなー
Re: (スコア:0)
>Zero Trustが摘発した事案が汚職に当たるかどうかの最終判断は人に委ねられるため
この判断する人が何人居るのか。
1000人くらい居ても、8000件以上を厳正に審査するのは結構時間もかかるし負担になる。
もし数人しか居ないのなら、テスト段階でお手上げ。
本格運用するには、審査する人間を大量に用意しなきゃならないし、
その審査する人間に汚職の疑いがないかを別のシステムで審査しなきゃならない。
さすがにそんなマトリョーシカみたいなことを延々やってられないのでは。
全体の1%も引っかけるなんて、感度良すぎと思われても仕方ない。
Re: (スコア:0)
その1%に比較的まともそうな自治体を選んでいればわからんよ。
不正しまくりの自治体なら、試験運用前に問題起こりそうだし。
っていうか、中共主導の試験を、自治体の独断で運用停止できるんだな。
Zero Trustによる監視を「不快だ」× (スコア:0)
「俺のもバレちまうだろ!」○
もうずぐ物語が現実に? (スコア:0)
良かれと思って作ったAI、ロボット、システムなどが人類の
敵になるっていうのが現実に近づいてきてますね。
中国政府を批判したAIの話もありましたし。
AIに多くの投資も行っているようなので、
中国が自律型の無人兵器による最初の攻撃を受ける国になりそう。
Re:もうずぐ物語が現実に? (スコア:2)
この場合敵は汚職をしている公務員らなのではなかろうか。
Re: (スコア:0)
汚職撲殺AIを開発?
#悪即斬じゃなくて悪即撲
中国でAI研究が盛んなのが意外 (スコア:0)
中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。
AIに限らず新しいもの何でも試せそうぜ!って空気なんだろうけど、なんとも分からないものだ。
# 一方、人口減でまさにAIが必要な我が国は、保守的な社会だからか、あまり話を聞かないような?
Re: (スコア:0)
中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。
逆に人口多いから、データも膨大になって手に負えないってことでは?
Re: (スコア:0)
大勢でやったら不正の温床になっちゃうまでが中国
Re: (スコア:0)
> 中国なんて人口めちゃくちゃいるから人手でやれるだろうに、最近はAI研究や導入が凄く盛んな感じに報じられてるのが意外。
汚職を摘発する側が簡単に買収されると考えられているから、人手を使おうとしないのでは
Re: (スコア:0)
機械の役割には単純な人間の代替もあるけど、人間にできないことをさせたり、計算ミスが事実上ないゆえの正確性の確保とかより高度な結果を出すためでも導入されるんだよ。
特にAIは注目の先端技術だから、先に唾つけて権利固めれば莫大な利益につながる。つまり先行投資だよ。
日本の場合投資のための先立つもの、つまりお金が致命的にたりない。
なんにつけても「日本」という市場規模が小さすぎてどうにもならんの。
Re: (スコア:0)
いや、日本と違って中国は技術立国だから。基礎研究にかけるリソース比べ物にならないよ。
Re: (スコア:0)
パクリにかけるリソースもね
https://appleinsider.com/articles/19/02/18/huawei-cloning-apple-parts-... [appleinsider.com]
Re: (スコア:0)
appleinsider ってAppleのパクリを告発してるサイトじゃないんだ。知らなかった。
Re: (スコア:0)
少し前にITmediaで記事になってたよ。
米中の現状と日本でのAIについて。
話を聞かないのはアンテナの感度が足りないだけ。
あるいはAIに関する話題と気付いていないのかもね。
日本の現状を言うなら、金が足りないのと上が無理解。
研究は昔から継続されていて環境もいろいろ整っているけど、
マンパワーで米中に勝てず脱落中。
時間差汚職システムを導入すればいい (スコア:0)
日本のように在職中は金品を受け取らず、退職して再就職してからもらえばいい。
Re: (スコア:0)
一方中国の属国では、在職中は金品を受け取り、退職してから処刑される。