1: 2025/03/03(月) 07:42:42.82
　虐待が疑われる子どもの一時保護を巡り、人工知能（ＡＩ）にその必要性を判定させるシステムについて、こども家庭庁が導入見送りを決めたことがわかった。国が2021年度から約10億円をかけて開発を進め、最終的な判断を下す児童相談所の職員を補助する役割が期待されていたが、テスト段階で判定ミスが６割に上った。ＡＩは虐待の判断にはなじまず、実用化は困難と結論付けた。

　同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が０～100の点数で表示される。

　試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。

　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。

　同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。

　開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。

　同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。

　国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の 杖つえ 』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。ＡＩの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

　◆ 一時保護 ＝児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、2022年度の虐待による一時保護件数は２万9860件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の21万4843件だった。(以下有料版で，残り:529文字）

読売新聞　2025/03/03 05:00
https://www.yomiuri.co.jp/national/20250302-OYT１T50076/

まとめサイト速報＋
71: 2025/03/03(月) 07:54:03.84
>>1
データ不足なだけじゃないの？

143: 2025/03/03(月) 08:00:24.53
>>71
センシティブな問題だからねぇ。子供の証言と外観だけで判別に必要なデータが取れるか疑問
1＋n＝m の等式が成り立つとき、mの値を求めよみたいなもんや

118: 2025/03/03(月) 07:58:21.95
AIに「判定」させようとするからうまくいかない。
将来はともかく今のAIは、人間が判定するための補助に使うもんだ。
あ？　補助されてもちゃんと判定できる人間がいないからAIに頼りたい？

124: 2025/03/03(月) 07:58:32.47
10億円返せよw

141: 2025/03/03(月) 08:00:07.86
ヘイSiri 6割くらい外れるAI作っといて

155: 2025/03/03(月) 08:01:31.38
学習させた奴が無能なんかな

157: 2025/03/03(月) 08:01:59.22
5000件w

162: 2025/03/03(月) 08:02:18.05
こんな学習させるサンプル少なすぎるものでAI判定とかアホか
AIは魔法の杖じゃないって理解しろよw

192: 2025/03/03(月) 08:05:29.72
そんなことあるか？
AIを使うにも能力が必要だからだろ？
てか今からAI開発加速するのに馬鹿なのか？

270: 2025/03/03(月) 08:12:00.07
１件のデータ読み込ませるのに、20万かけるとか、バカかよ。

291: 2025/03/03(月) 08:14:08.99
>>270
追記
これ、記録を画像データをスキャンして拡散モデルでAI作ったほうが安くて精度高かったんじゃないか？

275: 2025/03/03(月) 08:12:41.40
7.3兆円かけて何一つできない
解体しろ

329: 2025/03/03(月) 08:17:41.92
こんなんでも実は、AIの判定の方が人間より精度が高い可能性。
あと、使う人間の期待したような都合がいい判定が出なかったという可能性もあるか。

394: 2025/03/03(月) 08:24:31.51
AIじゃなくて人が判定した方が６割間違ってた可能性もあるよな

444: 2025/03/03(月) 08:30:57.86
つーかchat GPTに判定してもらった方がまだ確度出るだろ
5000から有用な代表事例ピックして判定プロンプト書けばいいだけ
1日作業だわ

459: 2025/03/03(月) 08:32:42.63
一ケタ少ないんちゃう

520: 2025/03/03(月) 08:39:31.87
で、この10億はどこに消えた？

526: 2025/03/03(月) 08:39:50.20
AI「こども家庭庁は不要です」

635: 2025/03/03(月) 08:53:04.10
インプットデータが正しければAIはかなりの精度だろ

インプットデータをどう収集するか人間対人間なんだから課題の方が大きい
AI対AIの構図にならないと無理

世の中のAIでなくなる職場の大半はインプットデータを無視して議論を進めてるからアホらしい

678: 2025/03/03(月) 08:57:31.40
人間とどっちが精度高くて処理件数はどうなんよ？
間に合ってないんだから仮稼働しても問題なかろ

引用元: https://asahi.5ch.net/test/read.cgi/newsplus/1740955362/
タグ ：
#AI
#こども家庭庁