鳥海研究室にて開発した犯罪被害リスク検知AIシステムが 「ピグパーティ」で試験運用を開始

鳥海　不二夫（東京大学 大学院工学系研究科 システム創成学専攻　教授）

西口　　真央（東京大学 大学院工学系研究科 システム創成学専攻　特任研究員）

３．発表概要：

東京大学大学院工学系研究科の鳥海研究室で開発した、誘い出しの被害リスクが高いユーザーをAIで発見、啓発するシステムが、株式会社サイバーエージェントが運営するアバターコミュニティアプリ「ピグパーティ」において試験運用を開始しました。

本システムは「ピグパーティ」ユーザーの行動ログをAIで分析し、誘い出しなどの被害リスクに繋がる「危なっかしい行動」を特定。ユーザーに対し「あなたの遊び方はトラブルに巻き込まれる可能性がある」というメッセージを送るといった啓発を行うことで、被害の未然防止を図るものです。

今後、社会的にメタバースが大きく発展していくと考えられる中、ユーザー行動ログを活用し安心・安全なメタバース市場の発展を目指す研究開発の一環として開発いたしました。

本研究は、RISTEX「未成年者のネットリスクを軽減する社会システムの構築」の支援により実施されました。

株式会社サイバーエージェントが運営する「ピグパーティ」は仮想空間で自分好みのピグ（アバター）を「きせかえ」たり、お部屋の「もようがえ」ができるほか、友だちとライブでコミュニケーションをとることができるアバターコミュニティアプリで、昨今話題のメタバースの走りとして2015年よりサービスを提供し、若年層を中心に人気を集めています。

警察庁が発表した2021年の犯罪情勢まとめ（注１）によると、デジタル空間における誘い出しなどの未成年者被害はここ数年で増加しています。一般的に、プラットフォーム上での誘い出し行動は規約違反として対策されている一方、違反にまでは至らずともリスクの高い行動は多く存在しています（図1参照）。

このような背景の元、見知らぬ相手からの誘い出しによる被害の未然防止を図るため、鳥海研究室と株式会社サイバーエージェントの研究開発組織「Data Tech Lab」との共同研究成果をもとに、新たなシステムを開発し「ピグパーティ」において試験運用を開始しました。

本システムは「ピグパーティ」ユーザーの行動ログをAIで分析し、誘い出しなどの被害リスクに繋がる「危なっかしい行動」を特定。ユーザーに対し「あなたの遊び方はトラブルに巻き込まれる可能性がある」というメッセージを送るといった啓発を行うことで、被害の未然防止を図るというものです（図2参照）。

2016年より、鳥海不二夫教授と「Data Tech Studio」は、インターネットに関する社会的課題を目的に様々なテーマで共同研究を進めてきました。今後も、社会的にメタバースが大きく発展していくと考えられる中、ユーザ行動ログを活用した研究開発を継続することで、安心・安全なメタバース市場の発展に貢献していきます。

 
５．注釈：

注１：令和３年の犯罪情勢（警察庁）より. https://www.npa.go.jp/publications/statistics/crime/situation/r3_hanzaijyousei.pdf

６．添付資料：
図1. 誘い出し被害のイメージ

図2. 啓発メッセージイメージ

プレスリリース本文：PDFファイル