TECH Meets BUSINESS
産業技術総合研究所が創出・支援するベンチャービジネス

AI技術とデータ化により子どもの虐待をゼロに!~児童虐待対応支援システム「AiCAN」~

これまで現場職員の経験や感覚で行われていた判断を、AI技術とデータ化により明確に示して業務を支援するシステム「AiCAN」。その開発から導入支援、研修、運用、アフターサポートまで一貫して行う株式会社AiCAN。すべての子どもが安全な世界を実現するために、児童虐待の現場からさまざまな知見を地域に広げ、豊かな社会づくりに寄与します。

髙岡昂太/Kota Takaoka

髙岡昂太/Kota Takaoka

2011年東京大学大学院教育学研究科臨床心理学コース博士課程修了。教育学博士、臨床心理士、公認心理師、司法面接士。2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員(ブリティッシュコロンビア大学)を経て、2017年より産業技術総合研究所人工知能研究センター確率モデリングチーム所属、主任研究員。2020年6月に株式会社AiCAN取締役(CTO)就任。

児童相談所の現場が抱える課題を解決するために

児童相談所の現場が抱える課題を解決するために

─ 株式会社AiCANが設立された経緯を教えてください。

髙岡昂太さん(以下、髙岡):

私は臨床心理士でもあり、これまでさまざまな現場に関わりながら研究してきました。2017年に産総研に入り、現在は主任研究員として心理学xAIx社会課題解決に関わる研究テーマに取り組んでいます。

すべての子どもたちが安全な世の中に変えたいというビジョンを目指し、特に子どもの虐待に関連する研究をチームで行ってきました。それを実現するAI技術の実証実験を行うなかで、単にAIを実装するだけで終わりではないと気づいたのです。現場の人に継続的に使っていただくための運用面の支援や研修、そして持続的なサービス提供などが必要であり、そのためには民間企業に技術移転しないといけない。そこで私自身も研究チームのメンバーも現場経験があり、そのノウハウを活かせるのであれば自分たちで起業しようと決意し、研究チームがそのまま発起人となって2020年3月に会社として設立しました。

― AI技術を児童相談業務支援に活用された背景は何だったのでしょうか?

髙岡:

現場である児童相談所はさまざまな課題を抱えています。過去の虐待死亡事例の検証報告では、「対応や判断を誤った」「情報共有が遅かった」と指摘されることがあります。ただ、現場の実情は忙しくて子ども一人ひとりに向き合う時間が限られていることもあります。また、通告の段階では親が嘘をついていたり、子どもが親から脅されていたりする場合もあり、不確実性が高い状況で判断しないといけないこともあります。他にも、経験豊かな方が辞められてしまったら知見を残った職員に引き継げないことも問題でした。

そういった課題を解決するために、過去の膨大なパターンのデータを使って現場を支援することはできないか。人間にはできない複雑な組み合わせの判断にAIを活用することで課題を解決できることが研究によって明らかになったので、それを事業化しようというのがはじまりです。市場は児童相談所だけでなく全国の市区町村、教育機関や病院、警察も対象であり、それぞれの課題解決を目指しています。

当社はAIベンチャーですが、AI技術はひとつの手段であると考えています。あくまでも現場の課題解決という目的がまずあり、そのために技術を手段として使っていくというスタンスです。

判断の質の向上と作業効率化、AIが現場をサポート

判断の質の向上と作業効率化、AIが現場をサポート

― AiCANシステムの仕組みについて教えてください。

髙岡:

児童相談の現場では、子どもの安全は最優先されるものという考えがグローバルスタンダードです。子どもの安全を最大化するには何が必要かを見つけるために技術を使うこと、それがAiCANの根幹をなしています。

AiCANは、タブレット端末のアプリケーション、クラウドデータベース、データを分析するAI技術の3つで構成されています。構築のアーキテクチャは、暗号化はもちろん、タブレットには一切情報が保存されず、インターネットを通さず閉域ネットワークで通信するなど、様々な専門家と相談しながら最も大切な個人情報保護に配慮しています。

アプリケーションとしては、訪問先にタブレットを持って行っていただき、チェックリストにチェックを追加して不明な情報が更新されていくと総合リスクの数値が変化していきます。下記のシミュレーション画面において、総合リスクの数値が100に近づくほど保護が必要な事例ということになります。対応日数は相談を受けてから終結までにかかる予測日数、重篤度は相対的にどれだけ危険であるか、再発確率は終結後に再発する確率を示し、それぞれコスト、リスク、ベネフィットを捉えて参考情報にしてもらうほか、類似ケースには過去事例で近いパターンの対応が表示されます。現場で入力して情報が増えるほど不明点が減って精度が上がる仕組みです。

AIを活用したAiCANのシミュレーション

データベースについては、たとえば従来のように紙ファイルでの記録管理や個別のWordファイルに自由記述したものでは、データの集積が難しくAIを用いた解析が非常に困難と言えます。AiCANでは私たちの現場経験や知見から必要なリスクや家庭の強みなどのチェックリストを提案し、入力の手間の削減とデータ化のサポートも含めた効率化を図っています。

― 現場支援システム開発における御社の強みは何でしょうか?

髙岡:

まず、良質なデータをいかに集められるかは現場のナレッジや業務を知っているかで変わってきます。現場経験のある私たちは業務フローを知り、必要なデータをわかった上で、より良いデータを得られる操作性も簡易なアプリケーションで提案できるということが当社の強みのひとつです。

また、AIによる予測の精度がどれほど高くても、現場の行政職員にそのような結果が出た理由を説明できないといけません。この説得力を高めるために、産総研から移転を受けた確率モデリングという技術を用いて、現場で説明可能なAIを開発し提案しています。機械学習と確率モデリングの両方を駆使しているのがもうひとつの強みになります。

さらに、現場で集約したデータや課題を機械学習と確率モデリングの両方で分析し、その結果を踏まえて政策や自治体の指針に活用できる知見を提供しています。たとえばマネジメントクラスが使える知見に基づいて、政策決定や組織の体制の変化などの提案を行っています。

― AiCANの導入によってどのような効果がもたらされるのでしょうか?

髙岡:

ひとつは判断の質の向上です。これまでは同じようなケースでも児童相談所によって保護したり保護しなかったりということが起こっていました。AiCANのシステムを活用すると、過去のデータや現在の情報をもとに重篤度や再発確率を予測し、保護した方がいいかどうかが総合リスクとして表示されます。実証実験の結果、AIを活用することで再発率が約53%減少することが示唆されています。

必要な判断を担保しながら、持ち運び可能なタブレットによる効率化で業務量も減らすことができます。実証実験ではシミュレーションの結果、1ケースあたりの延べ対応日数を約49%削減できると試算されています。

いつでもどこでも安全に情報の入力・閲覧・共有が可能

グループチャット機能でコミュニケーションも補完

現場や地域で共有できるデータは、やがて社会インフラとなる

現場や地域で共有できるデータは、やがて社会インフラとなる

― 今事業を推進していく上での課題は何でしょうか?

髙岡:

AIの予測はデータに基づくものです。そのため児童相談所や各自治体で自由に記述しているデータベースを標準化することが課題になります。

AiCANは人に代わってAIが診断するのではなく、あくまで現場が最終的に判断する際に参照頂くサポートシステムです。AIをどう理解するか、AIの数値をどう読み解くか、といったことを研修を通して伝えていくことが大切だと考えています。

児童虐待においては地域性も大きな要因です。屋外に児童を放置するケースでも寒い地域と温暖な地域では重みがまるで異なります。また、今後は、地域性や地域の行政サポートの違いも勘案し、意識して現場に納得感のあるAIチューニングをしていくことを心がけています。

― 今後の事業展開における展望を教えてください。

髙岡:

AiCANの導入支援や運用サポートに力を入れていきたいと考えています。現在お取り引きさせていただいているお客様のケースでは、業務傾向分析やAI読み解き方説明会を実施したり、導入フォローアップ研修で使い方の説明をしたり、よりスムーズにお使いいただけるようお問い合わせにも手厚く対応しております。三重県様の6か所の児童相談所に導入いただいた事例では、情報の入力から共有までの時間が半分になることを体験いただいております。

AiCANはAI技術が注目を集めがちですが、経験や感覚といったものが数値化されるデジタルトランスフォーメーションと、それを評価し現場にフィードバックしてPDCAを回して業務をより良く現場の方々と共に変えていくというところに本質があります。データを用いて最終的に子どもの安全を実現すること、私たちはそれを最も重視しています。

当社のターゲットは、心理学におけるマズローの欲求階層説のうち、健康的に生きていける「生理的欲求」と、暴力・体罰を振るわれない「安全欲求」の階層です。土台を固めることで子どもたちの幸せ、ひいては国の豊かさの拡大に貢献していきます。

マズローの欲求階層説

今後はデジタル庁や行政改革担当相など国の動きを注視しながら事業推進していくことが大事だと捉えています。その上で、現場における専門性を担保するために説明可能性を追求していきます。最終的には現場のユーザーエクスペリエンスにこだわり、良いものは発達障害やいじめ、性暴力など、様々な社会課題や関係団体と協働し、波及効果を生み出していきます。それが地域のナレッジとなり、データをもとに定常的かつ論理的に対策を判断できるシステムとすることで、社会的なインフラと呼べるものを構築していきたいと考えています。

※本記事内容は令和3年3月31日現在のものです。

株式会社AiCAN
〒135-0064  東京都江東区青海2-7-4 theSOHO 622

https://www.aican-inc.com/

Pickup注目の産総研発ベンチャー