ゲーム理論指標によるビジョンモデルの説明

深層学習モデルは高い精度で画像を認識する一方，その判断根拠はブラックボックスになりがちです．本研究では，シャプレー値をはじめとするゲーム理論的な枠組みを使って，画像のどの領域（ピクセルやパッチ）がモデルの予測にどう協働しているかを定量的に分析しています．

単一のピクセルの重要度ではなく，複数の領域間の相互作用を通じて形成される「知識構造」としてAIの判断を捉える点が特徴です．また，シャプレー値のような平均化に基づく帰属手法は，文脈によっては誤った重要度を割り当てることがあるという課題にも取り組んでおり，least-core（最小コア）のような安定性に基づく概念を用いたより頑健な説明手法を研究しています．

これまでの成果

ゲーム理論的な相互作用を用いて重要なピクセル群を特定する研究をCVPR 2024で発表し，ピクセルの協調的な貢献度を通じて物体検出モデルの予測を説明する手法へと拡張しました．また，シャプレー値が文脈的な「おとり」領域を誤って重視してしまう現象を形式化し，least-coreに基づくより安定した帰属手法を提案しています（ICML 2026ワークショップ）．

ゲーム理論指標によるビジョンモデルの説明

これまでの成果

関連する研究実績