4月23日から27日にかけてブラジル・サンパウロで開催された ICLR 2026 にて、下記の研究発表をおこないました。
- Kazuki Yano, Shun Kiyono, Sosuke Kobayashi, Sho Takase, Jun Suzuki.
“Pre-training LLM without Learning Rate Decay Enhances Supervised Fine-Tuning” - Taishi Nakamura, Satoki Ishikawa, Masaki Kawamura, Takumi Okamoto, Daisuke Nohara, Jun Suzuki, Rio Yokota.
“Optimal Sparsity of Mixture-of-Experts Language Models for Reasoning Tasks”