人には見えない摂動

深層学習モデルは，人間には知覚できないほど小さな入力の摂動によって，確信を持って誤った予測をしてしまうことがあります．この「敵対的摂動」という現象は，モデルの脆弱性であると同時に，人間とAIが世界をどう異なる形で捉えているかを映す鏡でもあります．

本研究では，敵対的摂動に対する頑健性の理論的な解析（平均場理論を用いた学習ダイナミクスの解明や，文脈内学習器の頑健性を高める事前学習戦略など）と，より広い誤分類（スーパークラスレベルでの誤り）や周波数領域・骨格データに対する攻撃など，異なるデータモダリティにまたがる脆弱性の設計・分析の両面から，この現象に取り組んでいます．

これまでの成果

敵対的摂動からの学習を理論的に説明する研究をNeurIPS/ICLRで発表し，平均場理論を用いた敵対的学習のダイナミクス解析（NeurIPS 2023, Spotlight）や，敵対的事前学習によって文脈内学習器を普遍的に頑健にできることを示す研究（ICLR 2026）を行いました．攻撃手法としては，スーパークラスレベルでの誤分類を引き起こす攻撃（ICML 2022ワークショップ），周波数スペクトルに基づく汎用的な頑健性への攻撃（ECCV 2023ワークショップ），骨格ベースの行動認識に対する骨長攻撃とフーリエ解析（AAAI 2022；CVIU 2024）など，複数の成果を発表しています．

関連する研究実績

★ トップ会議・論文誌* 責任著者

★ Adversarially Pretrained Transformers May Be Universally Robust In-Context Learners
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
International Conference on Learning Representations (ICLR), 2026 · pp. 124615–124659
Paper arXiv
Wide Two-Layer Networks can Learn from Adversarial Perturbations
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
Meeting on Image Recognition and Understanding (MIRU 2025), 2025
★ Theoretical Understanding of Learning from Adversarial Perturbations.
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
International Conference on Learning Representations, 2024 · pp. 56484–56532
Paper arXiv
Fourier analysis on robustness of graph convolutional neural networks for skeleton-based action recognition
Nariki Tanaka, Hiroshi Kera, Kazuhiko Kawamoto
Computer Vision and Image Understanding, 2024 · pp. 103936–103936
DOI arXiv
★ Adversarial Training from Mean Field PerspectiveSpotlight
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
Advances in Neural Information Processing Systems, 2023 · pp. 75097–75150
DOI Paper arXiv
Sparse fooling images: Fooling machine perception through unrecognizable images
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
Pattern Recognition Letters, 2023 · pp. 259–265
DOI arXiv
Exploiting Frequency Spectrum of Adversarial Images for General Robustness
Chun Yang Tan, Kazuhiko Kawamoto, Hiroshi Kera*
Meeting on Image Recognition and Understanding (MIRU 2023), 2023
arXiv
Superclass Adversarial Attack
Soichiro Kumano, Hiroshi Kera, Toshihiko Yamasaki
Meeting on Image Recognition and Understanding (MIRU 2022), 2022
arXiv
★ Adversarial Bone Length Attack on Action Recognition
Nariki Tanaka, Hiroshi Kera, Kazuhiko Kawamoto
Proceedings of the AAAI Conference on Artificial Intelligence, 2022, 2022 · pp. 2335–2343
DOI arXiv
Evolving Architectures With Gradient Misalignment Toward Low Adversarial Transferability
Kevin Richard G. Operiano, Wanchalerm Pora, Hitoshi Iba, Hiroshi Kera
IEEE Access, 2021 · pp. 164379–164393
DOI Paper arXiv