mai₂ lab.

計算パターンの学習 算術・代数・その他

計算パターンの学習
算術・代数・その他

そろばんから電卓,計算機代数システム(CAS)に至るまで,計算ツールの発展は人間が扱える計算の幅を大きく広げてきました.深層学習,特にTransformerは,この延長線上で「計算」に新しい可能性をもたらすのでしょうか.

本研究では,グレブナー基底やボーダー基底の計算といった計算代数上の困難な問題から,剰余加算やQRコード復号のような入力に敏感な算術パターンまで,Transformerに計算タスクを学習させることに取り組んでいます.また,モデルが計算を「どの順序で」処理・生成するかという学習順序自体が,学習のしやすさに大きく影響するという点にも着目しています.

これまでの成果

グレブナー基底の計算をTransformerに学習させる初めてのエンドツーエンドの試みをNeurIPS 2024で発表し,その後もアテンション機構を用いたボーダー基底計算(NeurIPS 2025)や,計算代数とTransformerを橋渡しするライブラリCALT(ISSAC 2025)の開発など,研究を継続的に発展させています.さらに近年は,大規模な剰余加算やQRコード復号における入力感度,算術・系列計算のための学習しやすい順序の発見(ICML 2025/2026,AI for Math Workshop)など,算術パターン学習へと研究の幅を広げています.

菊地英翔さんらの「Learning Large-Scale Modular Addition with an Auxiliary Modulus」がNeurIPS 2026に採択されました.補助的な法を用いた大規模剰余加算の学習を扱う研究です.

関連する研究実績

★ トップ会議・論文誌* 責任著者† 共同筆頭著者

  • ★ Learning Large-Scale Modular Addition with an Auxiliary Modulus

    Hanato Kikuchi, Ryosuke Masuya, Kazuhiko Kawamoto, Hiroshi Kera

    Conference on Neural Information Processing Systems (NeurIPS), 2026 · 採択済み

  • ★ Computational Algebra with Attention: Transformer Oracles for Border Basis Algorithms

    Hiroshi Kera*†, Nico Pelleriti†, Yuki Ishihara, Max Zimmer, Sebastian Pokutta

    Advances in Neural Information Processing Systems (NeurIPS), 2025 · pp. 9438–9480

  • Chain of Thought in Order: Discovering Learning-Friendly Orders for Arithmetic

    佐藤裕太, 川本一彦, 計良宥志*

    Information-Based Induction Sciences Workshop (IBIS 2025), 2025

  • Learning Moderately Input-Sensitive Functions: A Case Study in QR Code Decoding

    Kazuki Yoda, Kazuhiko Kawamoto, Hiroshi Kera*

    International Conference on Machine Learning (ICML), AI for Math Workshop, 2025

  • CALT: A Library for Computer Algebra with Transformer

    Hiroshi Kera*, Shun Arakawa, Yuta Sato

    ACM Communications in Computer Algebra, 2025 · pp. 121–128

  • Chain of Thought in Order: Discovering Learning-Friendly Orders for Arithmetic

    Yuta Sato, Kazuhiko Kawamoto, Hiroshi Kera*

    International Conference on Machine Learning (ICML), AI for Math Workshop, 2025

  • ★ Learning to compute Gröbner bases

    Hiroshi Kera*, Yuki Ishihara, Yuta Kambe, Tristan Vaccon, Kazuhiro Yokoyama

    Advances in Neural Information Processing Systems (NeurIPS), 2024 · pp. 33141–33187