2025年5月29日、システム創成学専攻 関口 海良 特任研究員、大澤 幸生 教授、堀 浩一 名誉教授（人間文化研究機構理事）が人工知能学会のAI ELSI賞（特別部門）を受賞されました。
AI ELSI賞（特別部門）
AI ELSI賞は、AI倫理やAIと社会との関係に関わる活動を広く対象とするものであり、人工知能学会倫理委員会が運営しています。今回2025年の実施は2019年、2021年（募集、2022年表彰）に続く第３回になります。例年はPerspective（展望）部門、Practice（実践）部門が設けられ、今回新たに特別部門が追加されました。
受賞された研究内容・活動について
受賞活動名「科学技術の倫理的設計のための実践的AI技術の開発とその産業応用」
関口特任研究員らは、倫理的設計のための方法や支援ツールを開発し、産業や教育に導入してきました。
第一に、AI技術を基盤とする製品やサービス、データ、および共同体や制度など社会システムの設計に倫理的観点を取り入れる支援ツール「Dfrome」（dfrome.org）を提供しました。これはAI倫理議論の多くが負の効果抑制に注力する中、AIの正の倫理的価値も推進しようとする点でELSIに一石を投じるものです。またデータ社会推進協議会や産学共同研究での実践を通じて有効性を確認し、Dfrome等のツールを用いたワークショップにより倫理的設計や社会的価値を生むデータ利活用の実践者を増やしました。本表彰への応募時点で、Dfromeは800人超のユーザーと約1,500の設計ツリーを産学界で得ており、コロナ感染拡大など実社会の問題解決にも貢献しました。
第二に、物語の階層構造からデータ利活用メカニズムを論じ、人とAIの相互作用を構造化する視点を提供しました。例えば、階層的物語表現支援技術「HieNaR」では生成AIの出力から背景にある世界観まで階層的に思考することで、AIの背景にある前提条件を明確化し、AIとの関係を体系的に検討できます。これにより過度な依存を防ぎ、人がデータとの共創関係を自然に生み出し、その知見を実生活に活かすことができるようになります。表彰式時点で本研究は、倫理的設計と階層的物語表現を統合した支援ツール（hienar.com）へと進化しました。
第三に、「倫理的AIを活用して倫理的AIを設計する」という循環的方法を提唱している点が革新的です。AIの自己発展プロセスにおいてそれが依拠する倫理的体系の位置づけを検討する手法は、今後私たちが行う様々なシステムの倫理的設計において大きな意義を持ちます。さらに、生成AIによる倫理的AI開発の段階を視野に入れたとしても、これら得られた知見は今後ますます重要になると考えられます。
今回は上記に示される取り組みに関して、「倫理的デザインのための支援ツールを提案している点，問題を工学として道具にて解決しようという実践的取り組みが高く評価され」（受賞理由より抜粋）、受賞に至りました。
今後の抱負・感想
関口 海良 特任研究員：この度はこのような名誉ある賞をいただき、心より光栄に存じます。AI倫理やAIと社会との関係を含む人工物の倫理的設計について、今後も研究開発に尽力し、学術・教育・産業など社会に貢献してまいりたいと存じます。