《ニュース》

虐待が疑われる子供の一時保護の必要性を人工知能(AI)に判定させるシステムについて、こども家庭庁が見送りを決めたと報じられています。

《詳細》

3日付読売新聞は、こども家庭庁が全国の児童相談所で今年度中に導入することを目指して開発を進めてきたシステムについて、試作モデルを用いた検証で一時保護の必要性に関する判定ミスが約6割に上ったため、実用化は困難と結論付けたことを報じています。

このシステムにはAIが搭載されており、約5000件の虐待記録を学習させました。虐待の疑いがある事例について、傷の有無や部位、保護者の態度など91項目の情報を入力すると、虐待の可能性が0～100の点数で表示されるというものです。

検証では、全国10自治体の児童相談所の協力で行われ、約100件の事例についてAIにリスクを判定させ、児相幹部が精度を確認しました。すると、100件中62件について「著しく低い」といった疑義が生じたといいます。

中には「母に半殺し以上のことをされた」「服をつかまれて床に頭を叩きつけられた」と訴えていたものの、あざなどがなかったため、点数が「2～3」と判定されたものもあったといいます。逆に、重篤な虐待行為が起きていないのに子供の帰宅拒否が強い場合はスコアが高く出るものもありました。

検証では、「経験年数の浅い職員では対応の初動を誤る恐れがある」として、導入は時期尚早と指摘。それぞれのケースについての情報を反映しきれていない一方、これ以上項目を増やすことは現実的ではないとして、さらなるAIの改良が必要としています。こども家庭庁は今後、AIの発展状況を見ながら、開発を再開するかも含め検討するとしています。

《どう見るか》