パスワードを忘れた? アカウント作成
16692250 story
人工知能

児童虐待死事件、AI判定を参考に一時保護措置を見送っていた 66

ストーリー by nagazou
判断は人間 部門より
三重県で5月に虐待の疑いがある女児が一時保護されずに死亡した事件が発生した。児童相談所は一時保護の判断にAIの「保護率39%」を参考にして総合的に判断したという内容が話題となっているようだ。三重県の児童相談所は、職員の不足を解消するために3年前にAIを導入し、業務の効率化を図っていたという。このシステムでは、過去のケースをデータベースとして利用し、特定の子どもの一時保護を検討する際に、類似したケースの保護率を表示する仕組み(STV毎日新聞朝日新聞)。

先の事件では、母親から虐待されている疑いのある4歳の女児を一時保護するかどうか判断する際、AIに尋ねて出た値が「保護率39%」だったという。約4割に相当する39%は、高いとも低いとも言えない数字だが、今回の事例では母親が児相の支援や指導に応じる姿勢があったという点などから、総合的に考えて保護を見送ったとしている。

他の自治体でも人手不足からAIの活用を模索しているとされる。その一方で過去の事例の詳細なデータ入力といった労働コストも必要であり、時間的な制約や別の意味での危険性の問題も存在するとの指摘もあるようだ。

maia 曰く、

三重県で4歳の娘への傷害致死容疑で母親が逮捕されたが、県はAI評価の「保護率39%」を参考に一時保護を見送り、在宅での定期見守りとしていたという。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • AIは単なる可視化ツールの一つであって、本当に木にしないと行けないのは、同程度に保護されるべき児童を全部保護して回ることが可能だったのか、じゃあないかねぇ。

    十分に余裕があれば保護率とやらが低くても保護に踏み切っただろうし、余裕がなければ高くても保護に移せないでしょ。保護するかどうかの判断閾値って、保護する側の人的リソースと保護対象の数に依存する変数なような気がするのだよね。

    そもそもの人的リソースが足りなきゃAIの判断がどれだけ正確でも同じ問題が起きるよ。

    --
    しもべは投稿を求める →スッポン放送局がくいつく →バンブラの新作が発売される
    • by Anonymous Coward on 2023年07月13日 19時41分 (#4494521)

      保護することにデメリット無しと考えてる人多そうだが
      動画知識ですまんが児相勤務の精神科医が
      確か言ってた内容だと
       保護の判断は難しい
       児相が保護すると親と児相の関係が悪くなってその後の関係修復が難しい。児相に協力してくれなくなったり。
       もちろん虐待死は防がないといけない
      とか言ってたからその辺も変数として関係するだろうな
      リソースの話しももちろんあるだろう

      親コメント
    • by Anonymous Coward

      自分がどうなろうと社会は知らんぷりなのに、他人がどうなろうと知るか。
      残念ながら、人が人を皆助ける社会では、もうないということ。
      上級国民という言葉もあるだろう。

      • by Anonymous Coward

        > 残念ながら、人が人を皆助ける社会では、もうないということ。

        元からそんな社会が実現したためしがないだろう。
        児童虐待を気にする社会になっただけ、有史以来、今が最もマシな社会かもしれない。
        ただ近所の助け合いは無く、他人への文句だけで終わるが。

        この事件も、AIが悪い、行政が悪いって話なんだよね。
        悪いのは圧倒的に親だってことをみんなスルーしがち。

  • by Anonymous Coward on 2023年07月13日 18時09分 (#4494451)

    保護を見送るという最終判断をしたのは人間なのだから。

    • by Anonymous Coward

      判断の参考になる数値を出したのはAIなので無関係とは言えないのでは?
      絶対無理ですってAIが言ったのに、それに反した判断をしたってのなら無関係でしょうけど。
      助言しただけ・AI利用しただけなら無罪とか言い出したら、詐欺師・山師が大喜びですよ。

      根本的にはただ確率を述べてる現状のAIを、人間の機微や心理に関する分野でアテにするのがどうかしているとは思いますが。
      ビッグデーターの解析とかなら向いてるんでしょうけどね。

    • by Anonymous Coward

      「母親が児相の支援や指導に応じる姿勢があったという点などから、総合的に考えて保護を見送った」
      なんて表記もあるから、完全に結末をAIに任せる感じじゃなく指標として採用してた感じだし
      最終判断の材料がこれだったら、人間がどうするか考えた末でも同じ結末になったと思う

    • by Anonymous Coward

      改善するためにAIを入れたのだからAIを入れてなかったら現状はもっとひどかったかもしれないって観点が抜けてんだよな。
      コロナで42万人死亡するとは何だったのかとか言ってるバカ共みたいに。

      • by Anonymous Coward
        もっとパーセンテージの高い子がいてそっちの対応を優先してたのかもしらんしな
        予算も人員も限られてんだから、AIにトリアージをさせるってのは一つの方法ではある。
        • by Anonymous Coward

          で、全員にブラックタグw

    • by Anonymous Coward

      そもそも、

      過去のケースをデータベースとして利用し、特定の子どもの一時保護を検討する際に、類似したケースの保護率を表示する仕組み

      ってAIなんだろうか?
      現在対応中のケースについて自然言語入力に対応している、とかならまだしも、条件を入れれば過去の類似ケースの対応内容をパーセンテージで表示する、ってただのデータベースのような気がするんだが。

      • by Anonymous Coward

        AI とは何かってのは明瞭な定義はない。
        AI の歴史に関する資料を見ればわかるがルールベースの判断も AI の一種として挙げられている。

        • by Anonymous Coward

          AIって言ったらPrologだもんな。
          # ICOT、第五世代コンピューター……なにもかもみな懐かしい……

          そもそも「知能」に明確な定義がないってのが過去のAI研究の反省点(?)じゃね。
          そういう面倒くさいことを議論しないで実用一辺倒なのが今のAIブームのいいところだと思います。

    • by Anonymous Coward

      精神保健法における強制入院も、これと同じです。
      「自害他害のおそれ」が、何%であれば入院させるべきなんだろう。

        「自殺しません」という念書など書かせても、やる人はやるから無意味だし、
      ゼロにすべきというなら一生入院になっちゃう。

  • by nekopon (1483) on 2023年07月13日 19時07分 (#4494501) 日記
    まさか保護が成功する確率(読み間違い
    • by Anonymous Coward

      必中掛け忘れたんだよ(スパロボ脳

    • by Anonymous Coward

      類似したケースの保護率を表示する仕組み

      こういう類例だと39%は保護してたってことでしょ。
      なら、そういうことじゃないのか。

  • by Anonymous Coward on 2023年07月13日 18時17分 (#4494460)

    39%ってかなり確率高いと思うんだけど。

    • > 早期の対応が必要な目安を80%以上としており、39%は「高くはない」という認識だったという。

      とあるので、39%では優先度低いですね…
      しかし報道では、もっと低い確率で保護したこともあるとのことで、
      特に数字ありきというわけでもなさげでした。

      職員に余裕があれば80%から下がってくるんでしょうね。

      親コメント
    • by Anonymous Coward

      降水確率だったら40%~50%くらいだとぎりぎり傘持って行かないかなあ
      60%だったら持って行く

    • by Anonymous Coward

      強硬な姿勢を取ってでも絶対に保護するって動きになるのはもっと高くないとでしょ
      40%前後なら、保護は必須要件ではないが警戒してあたるべし、くらいの動きでもいいんじゃないの

    • by Anonymous Coward

      あくまで参考に留めて最終的に判断を下すのが人間である以上、たとえ100%でも保護されない可能性はあります。

    • by Anonymous Coward

      「保護率39%」とか突拍子もなく数字出されてもそれをネタに遊ぶことしかできないな。
      もちっとマシなソース無いのかなw

    • by Anonymous Coward

      絶対値は意味を持たない。
      児相で対応可能な児童の人数がn人として、確率が高い順にn人を対応している。そのための確率導入。
      39%を対応すべきと思ったら、その分児相の職員を増やせばいいだけスラドダケ。

  • by Anonymous Coward on 2023年07月13日 18時38分 (#4494473)

    記事に出ているAIの詳細、39%とは何の数値か、がわからないので想像です。

    まず、AIがインプットに対して正しい答えを出すようになるには、「問題⇒正しい答え」のセットを用意してそれをAIに学習させてあげなければなりません(なお、『A⇒B、ただしCの評価軸でいい点数を獲れ』の問題設定さえ正しければAIは非常に優秀です)。

    まずは、「正しい答え」が「児童が幸福になるために」ということを大前提にかんがえてみましょう。
    しかし、これまでの日本の児童保護事業において、「相談⇒行政が保護しない・するの判断⇒結果として保護して・しないでよかった!」のデータセットで正しい答えをだす経験的データが揃えられたのでしょうか??
    成功体験をもとにそれをなぞるのが今のAIなので、成功体験がなければ学習ができません。
    AIで省力化したいとしても、そもそもAIを学習させる訓練データをどう用意するか、って問題ですね。

    さてここで他の視点から、AIとは示された指標でいい点数を取るのが目的として最適化されるものです。「結果として児童を保護して・しないでよかった!」までの「成功体験」が必要でないAIの方法もあります。
    それは「保護された児童の幸福」を成功の指標とするのではなくて、「保護施設の稼働率」を基準にする方法です。最初に行った『A⇒B,ただしC』のCを変えよとい
    と、思いついて書き始めたのですがまさかそれはないと思うのでここで筆を止めます。

    • Re:AI信仰 (スコア:1, 荒らし)

      by zambia (36932) on 2023年07月13日 18時44分 (#4494481)

      少なくとも学習に使われた範囲で、保護すべき子を保護しないことを繰り返して、しかもそれを誤りとしなかった(誤りと記録しなかった)ということでしょ

      親コメント
      • by Anonymous Coward

        虐待死とか発生しない限り保護すべきだったかどうかなんて検証できなくね? セーブしてリセットしてやり直して「あーやっぱ保護したほうが良かったね」とはいかないんだから

        • by Anonymous Coward

          そういう「納得いく正解」が用意できないものについてはAIに学習させるのは無理筋って話なんでは。
          なのにこの記事では「記事で明らかにされていない謎の基準で学習しているAI」で「39%」と判定している。

          • by Anonymous Coward

            正答がないから百分率表示なんだろ。
            最終的は判断はそれも要素に入れつつ、対応した職員が最低でも保護者の様子をみて判断をしてる。

            前々から「AI」「AI」バカの一つ覚えに世間様はわめいているが、
            これ要はデータベースを使った事例検証システムでしょ。
            経験自体が少ない職員を補助するためのベテランの集合知じゃないのか?
            ベテランだって助けられない児童はいるんだよ。それがAIがからんだからって「AI信仰はまずい」とかこれまた馬鹿の一つ覚えみたくわめくのはほんま頭悪いな。

            端的に言えば、このシステムがどんなもんかわからんのに一部だけ切り取って騒ぎ立てるマスコミ様も大衆様もそろってクズだってことだけがはっきりしてるってだけよ。

      • by Anonymous Coward
        べきなんて人間の保護司だってエスパーでもタイムリーパーでもないんだし
        それこそ死にでもしたら事後諸葛亮が判定してくれるだろうけど
        保護して良かったのか、保護してもなお酷い目にあったけどそれでも実は最悪の事態を避けることだけはできていたのか、たとえ後から評価しても分かるもんじゃないだろ。
        単に十分に熟練した保護司なら39%の確率で保護すると判断するだろう、程度のそれじゃあわかりませんと同じだよねって数字を出すのがせいぜいでは。
  • by Anonymous Coward on 2023年07月13日 19時15分 (#4494506)

    それをたかが条件分岐プログラムごときが見破れると思ってるのか?

    • by Anonymous Coward

      その偽装例も含めてデータ化しているのでは?

      • by Anonymous Coward

        結果が伴ってない時点で決定を委ねるべきではないのでは?
        結果が合っていたか精査して当たる確率が7、8割ほどになったら決定権を与えてもいいとは思いますが。

    • by Anonymous Coward
      偽装した帳簿をベンフォードの法則を応用して見破る、なんてのは人間より条件分岐プログラムの方が得意だろうね
      道具は何だって使いようよ
      • by Anonymous Coward

        イエス・ノーのチャートをやらせて返答時間や表情で診断とかって、あったりするのかな。

  • by Anonymous Coward on 2023年07月13日 19時26分 (#4494513)

    毎日新聞の記事によれば、

    県によると、システムは児相が過去に対応した約1万3000例をデータ化。一時保護を検討する際、年齢やけがの状況などを入力すると、過去の事例で保護した割合が表示される。子どもへの質問の仕方を提案する機能もあり、業務の効率化や経験が浅い職員を支援できるとしている。

    これさ、児童相談所が危機的な状況の子供を取りこぼすことなく保護してる実績があることが前提だよね
    虐待が明白なケースですら保護しきれていないケースが多い現状で
    「同等なケースではたったの4割弱しか保護されていないので問題なし」と言われて字面通りに受け取れるのか?

    • by Anonymous Coward

      明白とか後付で言える事後孔明と現場は違うからなぁ

    • by Anonymous Coward

      過去の類似事例で保護したのが何%かって、ただのExcel集計では……って気がした。
      まあ、表に出ていないいろいろがあるんだとは思うけど。

      • by Anonymous Coward

        何をもって類似とするか、その度合いをどう測るかだよ。

        >ただのExcel集計では……って気がした。
        住所正規化はExcelでできる!ぐらいの浅はかさ。

  • by Anonymous Coward on 2023年07月13日 22時02分 (#4494590)

    あまり例えは好きではないが
    野球で
    打率4割の打者に守備はいらぬとピッチャーとキャッチャーを除いてベンチに下がっていろ
    ってのはまっとうな判断なのかな
    九回裏0-0ノーアウトランナー3塁くらいの悪条件と思うのだけど

    • by Anonymous Coward

      君には職員の労働力不足という観点が抜けている。

      ピッチャーがあと1人しか投げる体力が残ってないときに、4割バッターと9割バッターどっちと対戦するのかね。

    • by Anonymous Coward

      なんでこんなデタラメな例えが出てくるんだ。定期監視にしただけだろ。

      4割打者というのは野手がいても4割安打を打つのだ。野手いなければ9割くらいはいく。
      出塁率なら10割だ。振り逃げすりゃいいのだから。

    • by Anonymous Coward

      このたとえ能力じゃあ嫌いになっても仕方ないな…

typodupeerror

犯人はmoriwaka -- Anonymous Coward

読み込み中...