Publications / 研究発表一覧

Publications / 研究発表一覧

研究室に在籍する教員/研究員/学生が研究室の活動の一環として発表した成果の一覧です(2021年4月1日以降のみ)。2021年4月1日より前については個人ページを参照してください。

Journal Papers / 論文誌

  1. クイズコンペティションの結果分析から見た日本語質問応答の到達点と課題. [paper]
    有山知希, 鈴木潤, 鈴木正敏, 田中涼太, 赤間怜奈, 西田京介.
    自然言語処理, Vol.31, No.1, pp.47-783, 2024年3月.
  2. bot:A Multimodal Chatbot System Combining Rules and Various Response Generation Models. [paper]
    Shoji Moriya*, Daiki Shiono*, Riki Fujihara, Yosuke Kishinami, Subaru Kimura, Shusaku Sone, Reina Akama, Yuta Matsumoto, Jun Suzuki, Kentaro Inui (*equal contributions).
    Aoba_v3 Advanced Robotics, Vol. 37, Issue 21, pp.1392-1405, November 2023.
  3. Extracting representative subset from extensive text data for training pre-trained language models. [paper]
    Jun Suzuki, Heiga Zen, Hideto Kazawa.
    Information Processing & Management, Vol.60, No.3, May 2023. 
  4. Examining the effect of whitening on static and contextualized word embeddings. [paper]
    Shota Sasaki, Benjamin Heinzerling, Jun Suzuki, and Kentaro Inui.
    Information Processing & Management, Vol.60, No.3, May 2023. 
  5. 負例を厳選した対話応答選択による対話応答生成システムの評価. [paper]
    佐藤志貴, 赤間怜奈, 大内啓樹, 鈴木潤, 乾健太郎.
    自然言語処理, Vol.29, No.1, pp.53-83, 2022年3月. 
  6. Instance-Based Neural Dependency Parsing. [paper]
    Hiroki Ouchi, Jun Suzuki, Sosuke Kobayashi, Sho Yokoi, Tatsuki Kuribayashi, Masashi Yoshikawa, Kentaro Inui.
    Transactions of the Association for Computational Linguistics (2021), Vol.9, pp1493–1507, December 2021. 
  7. Subword-based Compact Reconstruction for Open-vocabulary Neural Word Embeddings. [paper]
    Shota Sasaki, Jun Suzuki and Kentaro Inui.
    IEEE/ACM Transactions on Audio, Speech, and Language Processing, 15 pages, November 2021. 
  8. 訓練事例の影響の軽量な推定. [paper]
    小林颯介, 横井祥, 鈴木潤, 乾健太郎.
    自然言語処理,Vol.28, No.2,pp.573-597,2021年6月. 
  9. 機械翻訳モデルの頑健性評価に向けた言語現象毎データセットの構築と分析. [paper]
    藤井諒, 三田雅人, 阿部香央莉, 塙一晃, 森下睦, 鈴木潤, 乾健太郎.
    自然言語処理, Vol.28, No.2, pp.450-478, 2021年6月. 

International Conferences / 国際会議論文

  1. VDocRAG:Retrieval-Augmented Generation over Visually-Rich Documents. [paper]
    Ryota Tanaka, Taichi Iki, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito, Jun Suzuki. 
    In The IEEE/CVF Conference on Computer Vision and Pattern Recognition 2025(CVPR2025),**pages,Jun 2025.
  2. Drop-Upcycling:Training Sparse Mixture of Experts with Partial Re-initialization. [paper]
    Taishi Nakamura, Takuya Akiba, Kazuki Fujii, Yusuke Oda, Rio Yokota, Jun Suzuki.
    In The Thirteenth International Conference on Learning Representations(ICLR 2025),**pages,April 2025.
  3. STEP: Staged Parameter-Efficient Pre-training for Large Language Models. [paper]
    Kazuki Yano, Takumi Ito, Jun Suzuki.
    In Findings of the Association for Computational Linguistics:NAACL 2025.** pages,April 2025.
  4. MQM-Chat: Multidimensional Quality Metrics for Chat Translation. [paper]
    Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, Kentaro Inui.
    In Proceedings of the 31st International Conference on Computational Linguistics(COLING 2025),pp.–,January 2025.
  5. Evaluating Model Alignment with Human Perception: A Study on Shitsukan in LLMs and LVLMs.[paper]
    Daiki Shiono, Ana Brassard, Yukiko Ishizuki, Jun Suzuki.
    In Proceedings of the 31st International Conference on Computational Linguistics(COLING 2025),pp.–,January 2025.
  6. Predicting Fine-tuned Performance on Larger Datasets Before Creating Them. [paper]
    Toshiki Kuramoto, Jun Suzuki.
    In Proceedings of the 31st International Conference on Computational Linguistics(COLING 2025),pp.–,January 2025.
  7. User Willingness-aware Sales Talk Dataset. [paper]
    Asahi Hentona, Jun Baba, Shiki Sato, Reina Akama.
    In Proceedings of the 31st International Conference on Computational Linguistics(COLING 2025),pp.-,January 2025.
  8. Document-level Translation with LLM Reranking:Team-J at WMT 2024 General Translation Task. [paper]
    Keito Kudo*, Hiroyuki Deguchi*, Makoto Morishita*, Ryo Fujii*, Takumi Ito*, Shintaro Ozaki*, Koki Natsumi*, Kai Sato, Kazuki Yano, Ryosuke Takahashi, Subaru Kimura, Tomomasa Hara, Yusuke Sakai, Jun Suzuki (*equal contribution).
    In Proceedings of Ninth Conference on Machine Translation (WMT-2024), pp.210-226, November 2024.
  9. A Multimodal Dialogue System to Lead Consensus Building with Emotion-Displaying. [paper]
    Shinnosuke Nozue, Yuto Nakano, Shoji Moriya, Tomoki Ariyama, Kazuma Kokuta, Suchun Xie, Kai Sato, Shusaku Sone, Ryohei Kamei, Reina Akama, Yuichiroh Matsubayashi, Keisuke Sakaguchi.
    The Special Interest Group in discourse and dialogue (SIGDIAL 2024), pp. 669-673, September 2024.
  10. How Well Do Vision Models Encode Diagram Attributes?. [Presentation]
    Haruto Yoshida, Keito Kudo, Yoichi Aoki, Ryota Tanaka, Itsumi Saito, Keisuke Sakaguchi, Kentaro Inui.
    Non-archival submission for ACL Student Research Workshop (ACL-SRW 2024) August 2024.
  11. A Large Collection of Model-generated Contradictory Responses for Consistency-aware Dialogue Systems. [paper]
    Shiki Sato, Reina Akama, Jun Suzuki, Kentaro Inui.
    In Findings of the 2024 Conference on Empirical Methods in Natural Language Processing (ACL 2024 Findings), pp.16047-16062,August 2024.
  12. STEP: Staged Parameter-Efficient Pre-training for Large Language Models. [paper]
    Kazuki Yano, Takumi Ito, Jun Suzuki.
    Non-archival submission for ACL Student Research Workshop (ACL-SRW 2024) August 2024.
  13.  Empirical Analysis of Large Vision Language Models against Goal Hijacking via Visual Prompt Injection. [paper]
    Subaru Kimura, Ryota Tanaka, Shumpei Miyawaki, Jun Suzuki, Keisuke Sakaguchi.
    Non-archival submission for NAACL Student Research Workshop (NAACL-SRW 2024), June 2024.
  14.  An Investigation of Warning Erroneous Chat Translations in Cross-lingual Communication. [paper]
    Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, and Kentaro Inui.
    In Proceedings of the 13th International Joint Conference on Natural Language Processing and the 3rd Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics: Student Research Workshop(IJCNLP-AACL 2023 SRW),pp.10–16, November 2023.
  15. Non-archival submission. [Web]
    Yukiko Ishizuki*, Daiki Shiono*, Ana Brassard, Jun Suzuki (*:equal contribution).
    the 18th Conference of the European Chapter of the Association for Computational Linguistics Student Research Workshop (EACL-SRW 2024), March 2024.
  16. The Impact of Integration Step on Integrated Gradients. [paper]
    Masahiro Makino, Yuya Asazuma, Shota Sasaki, Jun Suzuki.
    The 18th Conference of the European Chapter of the Association for Computational Linguistics Student Research Workshop (EACL-SRW 2024), pp.279-289, March 2024.
  17. Document-level Translation with LLM Reranking: Team-J at WMT 2024 General Translation Task.
    Keito Kudo*, Hiroyuki Deguchi*, Makoto Morishita*, Ryo Fujii*, Takumi Ito*, Shintaro Ozaki*, Koki Natsumi*, Kai Sato, Kazuki Yano, Ryosuke Takahashi, Subaru Kimura, Tomomasa Hara, Yusuke Sakai, Jun Suzuki (*equal contribution).
    In Proceedings of Ninth Conference on Machine Translation (WMT-2024),pp.210-226,November 2024.
  18. A Multimodal Dialogue System to Lead Consensus Building with Emotion-Displaying.
    Shinnosuke Nozue, Yuto Nakano, Shoji Moriya, Tomoki Ariyama, Kazuma Kokuta, Suchun Xie, Kai Sato, Shusaku Sone, Ryohei Kamei, Reina Akama, Yuichiroh Matsubayashi, Keisuke Sakaguchi.
    The Special Interest Group in discourse and dialogue (SIGDIAL 2024),pp.669-673,September 2024.
  19. How Well Do Vision Models Encode Diagram Attributes?.
    Haruto Yoshida, Keito Kudo, Yoichi Aoki, Ryota Tanaka, Itsumi Saito, Keisuke Sakaguchi, Kentaro Inui.
    Non-archival submission for ACL Student Research Workshop(ACL-SRW 2024),August 2024.
  20. STEP: Staged Parameter-Efficient Pre-training for Large Language Models.
    Kazuki Yano, Takumi Ito, Jun Suzuki.
    Non-archival submission for ACL Student Research Workshop (ACL-SRW 2024),August 2024.
  21. Detecting Response Generation Not Requiring Factual Judgment.
    Ryohei Kamei, Daiki Shiono, Reina Akama, Jun Suzuki.
    In Proceedings of the 2024 Annual Conference of the North American Chapter of the Association for Computational Linguistics Student Research Workshop(NAACL 2024 SRW),June 2024.
  22. Empirical Analysis of Large Vision Language Models against Goal Hijacking via Visual Prompt Injection.
    Subaru Kimura, Ryota Tanaka, Shumpei Miyawaki, Jun Suzuki, Keisuke Sakaguchi.
    Non-archival submission for the 2024 Annual Conference of the North American Chapter of the Association for Computational Linguistics Student Research Workshop(NAACL 2024 SRW),June 2024.
  23. Instruction-Following Evaluation for Large Vision-Language Models.
    Daiki Shiono, Shumpei Miyawaki, Ryota Tanaka, Jun Suzuki.
    Non-archival submission for the 2024 Annual Conference of the North American Chapter of the Association for Computational Linguistics Student Research Workshop(NAACL 2024 SRW),June 2024.
  24. Towards Automated Document Revision: Grammatical Error Correction,
    Masato Mita, Keisuke Sakaguchi, Masato Hagiwara, Tomoya Mizumoto, Jun Suzuki, Kentaro Inui.
    Fluency Edits, and Beyond.  In Proceedings of the 19th Workshop on Innovative Use of NLP for Building Educational Applications (BEA 19),pp**-**,June 2024.
  25. The Impact of Integration Step on Integrated Gradients.
    Masahiro Makino, Yuya Asazuma, Shota Sasaki, Jun Suzuki.
    In Proceedings of the 18th Conference of the European Chapter of the Association for Computational Linguistics Student Research Workshop (EACL-SRW 2024),pp.279–289,March 2024.
  26. Exploring Large Language Models’ Understanding of Shitsukan.
    Yukiko Ishizuki*, Daiki Shiono*, Ana Brassard, Jun Suzuki (*equal contributions).
    Non-archival submission for the 18th Conference of the European Chapter of the Association for Computational Linguistics Student Research Workshop (EACL-SRW 2024),March 2024.
  27. InstructDoc: A Dataset for Zero-shot Generalization of Visual Document Understanding with Instructions.
    Ryota Tanaka, Taichi Iki, Kyosuke Nishida, Kuniko Saito, Jun Suzuki.
    In Proceedings of the Thirty-Eighth AAAI Conference on Artificial Intelligence (AAAI 2024),pp.**-**,February 2024.
  28. A Challenging Multimodal Video Summary: Simultaneously Extracting and Generating Keyframe-Caption Pairs from Video.
    Keito Kudo, Haruki Nagasawa, Jun Suzuki, Nobuyuki Shimizu.
    In Proceedings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023).pp.**–**,December 2023.
  29. Investigating the Effectiveness of Multiple Expert Models Collaboration.
    Ikumi Ito, Takumi Ito, Jun Suzuki, Kentaro Inui.
    In Findings of the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023 Findings).pp.**–**,December 2023.
  30. SKIM at WMT 2023 General Translation Task.
    Keito Kudo, Takumi Ito, Makoto Morishita and Jun Suzuki.
    In Proceedings of 8th Conference on Machine Translation (WMT-2023),pp.**–**,December 2023.
  31. An Investigation of Warning Erroneous Chat Translations in Cross-lingual Communication.
    Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe and Kentaro Inui.
    In Proceedings of the 3rd Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 13th International Joint Conference on Natural Language Processing: Student Research Workshop (AACL-IJCNLP 2023 SRW),pp.**–**,November 2023.
  32. Refactoring Programs Using Large Language Models with Few-Shot Examples.
    Atsushi Shirafuji, Yusuke Oda, Jun Suzuki, Makoto Morishita, Yutaka Watanobe.
    In Proceedings of the 30th Asia-Pacific Software Engineering Conference (APSEC 2023), pp. **–**, September 2023.
  33. Use of an AI-powered Rewriting Support Software in Context with Other Tools: A Study of Non-Native English Speakers.
    Takumi Ito, Naomi Yamashita, Tatsuki Kuribayashi, Masatoshi Hidaka, Jun Suzuki, Ge Gao, Jack Jamieson, Kentaro Inui.
    In Proceedings of the ACM Symposium on User Interface Software and Technology (UIST),pp.**–**,September 2023.
  34. Assessing Chain-of-Thought Reasoning against Lexical Negation: A Case Study on Syllogism.
    Mengyu Ye, Tatsuki Kuribayashi, Jun Suzuki, Hiroaki Funayama, Goro Kobayashi.
    Non-archival submission for the ACL Student Research Workshop(ACL-SRW 2023),July 2023.
  35. B2T Connection: Serving Stability and Performance in Deep Transformers. [paper]
    Sho Takase, Shun Kiyono, Sosuke Kobayashi, Jun Suzuki.
    In Findings of the 61st Annual Meeting of the Association for Computational Linguistics (ACL2023 Findings),pp.3078–3095,July 2023.
  36. TohokuNLP at SemEval-2023 Task 5: Clickbait Spoiling via Simple Seq2seq Generation and Ensembling. [paper]
    Hiroto Kurita*, Ikumi Ito*, Hiroaki Funayama, Shota Sasaki, Shoji Moriya, Ye Mengyu, Kazuma Kokuta, Ryujin Hatakeyama, Shusaku Sone, Kentaro Inui (*equal contributions).
    In Proceedings of the 17th International Workshop on Semantic Evaluation (SemEval), pp. 1756–1762, July 2023. 
  37. Reducing the Cost: Cross-Prompt Pre-Finetuning for Short Answer Scoring. [paper]
    Hiroaki Funayama , Yuya Asazuma, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki, Kentaro Inui.
    The 24th International Conference on Artificial Intelligence in Education (AIED2023), pp.*-*, July 2023.
  38. NT5 at WMT 2022 General Translation Task. [paper]
    Makoto Morishita*, Keito Kudo*, Yui Oka*, Katsuki Chousa*, Shun Kiyono, Sho Takase, Jun Suzuki (*equal contributions).
    In Proceedings of Seventh Conference on Machine Translation(WMT-2022),December 2022.
  39. Bipartite-play Dialogue Collection for Versatile and Practical Automatic Dialogues Evaluation. [paper]
    Shiki Sato*, Yosuke Kishinami*, Hiroaki Sugiyama, Reina Akama, Ryoko Tokuhisa, Jun Suzuki (*equal contributions).
    In Proceedings of the 2nd Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 12th International Joint Conference on Natural Language Processing: Student Research Workshop (AACL-IJCNLP 2022 SRW),pp.8-16,November 2022.
  40. Chat Translation Error Detection for Assisting Cross-lingual Communications. [paper]
    Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, Ryoko Tokuhisa, Ana Brassard, Kentaro Inui.
    In Proceedings of the 3rd Workshop on Evaluation & Comparison of NLP Systems (Eval4NLP 2022),pp.88-95,November 2022. 
  41. Domain Adaptation of Machine Translation with Crowdworkers.
    Makoto Morishita, Jun Suzuki, Masaaki Nagata.
    In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP 2022) Industry Track,pp.**-**, October 2022.
  42. Target-Guided Open-Domain Conversation Planning. [paper]
    Yosuke Kishinami, Reina Akama, Shiki Sato, Ryoko Tokuhisa, Jun Suzuki, Kentaro Inui.
    In Proceedings of the 29th International Conference on Computational Linguistics (COLING 2022),pp.660–668,October 2022.
  43. N-best Response-based Analysis of Contradiction-awareness in Neural Response Generation Models. [paper]
    Shiki Sato, Reina Akama, Hiroki Ouchi, Ryoko Tokuhisa, Jun Suzuki, Kentaro Inui.
    In Proceedings of the 23rd Annual Meeting of the Special Interest Group on Discourse and Dialogue (SIGDIAL 2022), pp.637-644, September 2022.
  44. Prompt Sensitivity of Language Model for Solving Programming Problems. [paper]
    Atsushi Shirafuji, Takumi Ito, Makoto Morishita, Yuki Nakamura, Yusuke Oda, Jun Suzuki, Yutaka Watanobe.
    In Proceedings of the 21st International Conference on Intelligent Software Methodologies, Tools, and Techniques (SOMET 2022),September 2022.
  45. Balancing Cost and Quality: An Exploration of Human-in-the-loop Frameworks for Automated Short Answer Scoring. [paper]
    Hiroaki Funayama, Tasuku Sato, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki, Kentaro Inui.
    In Proceedings of the 23rd International Conference on Artificial Intelligence in Education (AIED 2022),pp.465–476,July 2022. 
  46. Scene-Text Aware Image and Text Retrieval with Dual-Encoder. [paper]
    Shumpei Miyawaki, Taku Hasegawa, Kyosuke Nishida, Takuma Kato, Jun Suzuki.
    In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics: Student Research Workshop(ACL 2022 SRW),pp.422–433,May 2022.
  47. JParaCrawl v3.0: A Large-scale English-Japanese Parallel Corpus. [paper]
    Makoto Morishita, Katsuki Chousa, Jun Suzuki, Masaaki Nagata.
    In Proceedings of the 13th International Conference on the Language Resources and Evaluation Conference (LREC 2022),pp.6704–6710,June 2022. 
  48. Shifted Absolute Position Embeddings for Transformers. [paper]
    Shun Kiyono, Sosuke Kobayashi, Jun Suzuki, Kentaro Inui.
    In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing(EMNLP 2021),pp.3309–3321.November 2021. 
  49. Context-aware Neural Machine Translation with Mini-batch Embedding. [paper]
    Makoto Morishita, Jun Suzuki, Tomoharu Iwata, Masaaki Nagata.
    In Proceedings of the 16th Conference of the European Chapter of the Association for Computational Linguistics(EACL 2021),pp.2513–2521.April 2021. 

Domestic Conferences / 国内学会

  1. 言語モデルにおける知識の既知性判断の内部表象. [Web]
    佐藤魁, 高橋良允, Benjamin Heinzerling, 田中健史朗, 趙羽風, 坂井吉弘, 井之上直也, 乾健太郎.
    2025年度人工知能学会全国大会(第39回),4 pages, May 2025.
  2. 旅費制約を考慮したマルチエージェントによる旅行計画生成システムの有効性検証. [Web]
    吉田倖, 野末慎之介, 阿部香央莉, 赤間怜奈, 鈴木潤.
    2025年度人工知能学会全国大会(第39回),4 pages, May 2025.
  3. 説得エージェントの拡張戦略設計と意図変化を用いた自動評価手法の提案. [Web]
    中野雄斗, 野末慎之介, 渡邉陽太郎, 髙﨑環, 赤間怜奈, 鈴木潤.
    2025年度人工知能学会全国大会(第39回),4 pages, May 2025.
  4. JHARS:RAG設定における日本語Hallucination評価ベンチマークの構築と分析. [paper]
    亀井遼平*, 坂田将樹*, 邊土名朝飛, 栗原健太郎, 乾健太郎 (*equal contributions).
    言語処理学会第31回年次大会,pp.833–838,March 2025.
  5. 議論形式のマルチエージェント自動評価の詳細分析. [paper]
    内藤悠, 佐藤魁, 佐々木翔大, 鈴木潤.
    言語処理学会第31回年次大会, pp.881–886, March 2025.
  6. モデル拡張を用いた段階的事前学習によるモデル系列の効率的な構築. [paper]
    矢野一樹, 高瀬翔, 小林颯介, 清野舜, 鈴木潤.
    言語処理学会第31回年次大会,pp.3120–3125,March 2025.
  7. モデル拡張によるパラメータ効率的な LLM の事前学習. [paper]
    矢野一樹, 伊藤拓海, 鈴木潤.
    言語処理学会第31回年次大会,pp.1658–1663,March 2025.
  8. LLMにおける内部表現を用いた日本語スタイル制御メカニズムの分析. [paper]
    高橋良允, 矢野一樹, 成瀬健太, 武井美緒, 梶佑輔, 鈴木潤.
    言語処理学会第31回年次大会,pp.**–**,March 2025.
  9. ダイアグラム理解に向けた大規模視覚言語モデルの内部表現の分析. [paper]
    吉田遥音, 工藤慧音, 青木洋一, 田中涼太, 斉藤いつみ, 坂口慶祐, 乾健太郎.
    言語処理学会第31回年次大会,pp.**–**,March 2025.
  10. 大規模言語モデルにおけるラベル平滑化の有効性.
    内藤悠, 岩川光一, 朱灏丞, 吉田倖, 李宰成, 木村昴, 塩野大輝, 葉夢宇, 工藤慧音, 矢野一樹, 佐々木翔大, 斉藤いつみ, 赤間怜奈, 鈴木潤.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  11. 語彙拡張を適用する継続事前学習における初期値学習法.
    李宰成, 吉田倖, 朱灏丞, 内藤 悠, 岩川光一, 工藤慧音, 塩野大輝, 葉夢宇, 木村昴, 矢野一樹, 佐々木翔大, 斉藤いつみ, 赤間怜奈, 鈴木潤.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  12. 大規模言語モデルの継続事前学習における学習率設定の検討.
    朱 灏丞, 李宰成, 岩川光一, 内藤 悠, 吉田 倖, 矢野一樹, 工藤 彗音, 木村昴, 葉夢宇, 塩野大輝, 佐々木翔大, 斉藤いつみ, 赤間怜奈, 鈴木潤.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  13. 大規模言語モデルにおけるチェックポイント平均法の有効性.
    岩川光一, 内藤 悠, 朱 灏丞, 李宰成, 吉田 倖, 矢野一樹, 工藤慧音, 葉夢宇, 木村昴, 塩野大輝, 佐々木翔大, 斉藤いつみ, 赤間怜奈, 鈴木潤.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  14. 高品質なデータを用いた追加事前学習が大規模言語モデルに与える影響.
    吉田 倖, 木村昴, 塩野大輝, 葉夢宇, 工藤 彗音, 矢野一樹, 李宰成, 朱 灏丞, 佐々木翔大, 斉藤いつみ, 赤間怜奈, 鈴木潤.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  15. 応答候補の多様性を用いた参照応答集合の評価に向けて.
    佐藤魁, 吉野幸一郎, 河野誠也, 赤間怜奈.
    第19回 YANSシンポジウム (YANS), 2024年9月.
  16. LLMを用いた文脈考慮による攻撃性検出性能の改善.
    中野雄斗, 佐藤志貴, 赤間怜奈.
    言語処理学会第30回年次大会,2024年3月.
  17. InstructDoc: 自然言語指示に基づく視覚的文書理解.
    田中涼太, 壱岐太一, 西田京介, 齋藤邦子, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  18. 対話モデルに対する敵対的プロンプトの効率的な最適化.
    矢野一樹, 綿岡晃輝, Thien Q. Tran, 髙橋翼, Seng Pei Liew, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  19. 異言語間対話支援における誤訳警告メッセージの有効性調査.
    Yunmeng Li (東北大), 鈴木潤 (東北大/理研), 森下睦 (NTT), 阿部香央莉 (MLS/理研/東北大), 乾健太郎.
    言語処理学会第30回年次大会, 2024年3月.
  20. Integrated Gradientsにおける理想の積分ステップ数はインスタンス毎に異なる.
    牧野雅紘, 浅妻佑弥, 佐々木翔大), 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  21. 選択性を考慮した語彙エントレインメント尺度.
    守屋彰二, 佐藤志貴, 徳久良子, 赤間怜奈, 横井祥, 乾健太郎.
    言語処理学会第30回年次大会, 2024年3月.
  22. 自然画像で学習された画像埋め込みにダイアグラムを特徴づける情報は含まれているか?
    吉田遥音, 工藤慧音, 青木洋一, 田中涼太, 斉藤いつみ, 坂口慶祐, 乾健太郎.
    言語処理学会第30回年次大会, 2024年3月.
  23. 大規模視覚言語モデルに関する指示追従能力の検証.
    塩野大輝, 宮脇峻平 (東北大), 田中涼太 (東北大/NTT), 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  24. 事実正誤判定が不要な生成応答の検出に向けたデータセットの収集と分析.
    亀井遼平, 塩野大輝, 赤間怜奈, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  25. 文脈内学習における文脈内事例の寄与度推定.
    葉夢宇, 栗林樹生, 小林悟郎, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  26. 英語中心の大規模言語モデルの言語横断汎化能力.
    謝素春, 佐々木翔大), Yunmeng Li, 坂田将樹, 赤間怜奈, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  27. 日本語日常対話コーパスへの基礎解析アノテーション.
    赤間怜奈, 浅原正幸, 若狭絢, 大村舞, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  28. 大規模言語モデル事前学習の安定化.
    高瀬翔, 清野舜, 小林颯介, 鈴木潤.
    言語処理学会第30回年次大会, 2024年3月.
  29. 雑談応答生成モデルによる矛盾応答の大規模収集.
    佐藤志貴, 赤間怜奈, 鈴木潤, 乾健太郎.
    言語処理学会第30回年次大会, 2024年3月.
  30. 応答候補の限られる発話に着目した参照応答ベースの評価基準の分析.
    佐藤魁, 守屋彰二, 赤間怜奈, 鈴木潤.
    第259回自然言語処理研究発表会, 2024年3月.
  31. セールストークを対象としたエンゲージメント駆動タスク指向対話の検討.
    邊土名 朝飛, 馬場 惇, 赤間怜奈.
    人工知能学会 音声・言語理解と対話処理研究会第99回研究会 (第14回対話システムシンポジウム), 2023年12月.
  32. Hagi bot: LLMを用いた対話状態追跡と人間らしい振る舞いで自然な議論を行うマルチモーダル対話システム.
    中野 雄斗, 野末 慎之介, 穀田 一真, 有山 知希, 佐藤魁, 曾根 周作, 亀井 遼平, 謝 素春, 成田 風香, 守屋彰二, 赤間怜奈, 松林 優一郎, 坂口 慶祐.
    人工知能学会 音声・言語理解と対話処理研究会第99回研究会 (第14回対話システムシンポジウム), 2023年12月.
  33. 言葉のニュアンスを計算する(招待セッション).
    赤間怜奈.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  34. 言語と世界の機械学習(招待セッション).
    小林颯介.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  35. 日本語質問応答研究に対して私が出した「答案」(招待セッション).
    鈴木正敏.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  36. セールストークを対象としたエンゲージメント駆動タスク指向対話の検討.
    邊土名朝飛, 馬場惇, 赤間怜奈.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  37. 統語構造に着目した対話エントレインメント分析の検討.
    守屋彰二, 佐藤志貴, 徳久良子, 赤間怜奈, 乾健太郎.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  38. LoRAチューニングの効果的な利用のための設定分析.
    矢野一樹, 伊藤拓海, 鈴木潤.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  39. 説明可能なチャートQAに向けた検討.
    木村昴, 田中涼太, 坂口慶祐.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  40. 言語識別器を用いた敵対的学習による多言語モデルの言語横断性の改善.
    金輝燦, 小町守, 鈴木潤.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  41. 生成応答に含まれる事実に基づかない情報の自動検出の試み.
    亀井遼平, 塩野大輝, 赤間怜奈, 鈴木潤.
    第18回NLP若手の会 シンポジウム (YANS), 2023年8月.
  42. 事前学習済み言語モデルの追加学習用データ量の増加に応じた分類性能伸長予測法の提案.
    倉元俊輝, 鈴木潤.
    2023年度人工知能学会全国大会(第37回), 2023年6月.
  43. 視覚的仮説推論に関する検討.
    長澤春希, 松本悠太, 長谷川拓, 西田京介, 鈴木潤.
    2023年度人工知能学会全国大会(第37回), 2023年6月.
  44. 文単位のNbest候補制約に基づく文書翻訳.
    駒田啓伍, 森下睦, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  45. XAIにおける忠実性評価手法の考察.
    牧野雅紘, 浅妻佑弥, 佐々木翔大, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  46. 訓練データ中の頻度バイアスを解消する前処理の提案.
    神戸隆志, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  47. 自然言語生成タスクの自動評価指標のためのドメイン外検出.
    伊藤拓海, 森下睦, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  48. 異言語間対話を支援する日英雑談対話誤訳検出.
    Yunmeng Li, 鈴木潤, 森下睦, 阿部香央莉, 徳久良子, Ana Brassard, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  49. 計算資源が限られた複数組織での出力選択による協働の検討.
    伊藤郁海, 伊藤拓海, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  50. 指示文からの画像生成における配置指定能力の調査.
    木村昴, 工藤慧音, 赤間怜奈, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  51. 画像キャプションを利用したIconQAタスクへのアプローチ.
    塩野大輝, 宮脇峻平, 長澤春希, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  52. CRFに基づく形態素解析器のスコア計算の分割によるモデルサイズと解析速度の調整.
    赤部晃一, 神田峻介, 小田悠介.
    言語処理学会第29回年次大会, 2023年3月.
  53. 最小コスト法に基づく形態素解析におけるCPUキャッシュの効率化.
    神田峻介, 赤部晃一, 後藤啓介, 小田悠介.
    言語処理学会第29回年次大会, 2023年3月.
  54. 思考連鎖指示における大規模言語モデルの否定表現理解.
    葉夢宇, 栗林樹生, 舟山弘晃, 鈴木潤.
    言語処理学会第29回年次大会, 2023年3月.
  55. 日本語日常対話コーパスの構築.
    赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  56. Follow-up質問による矛盾応答収集の提案.
    佐藤志貴, 赤間怜奈, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  57. 人間同士の雑談における話題遷移モデリング.
    岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  58. 事前学習モデルを活用したEnd-to-end型動画キーフレーム物語生成法.
    仲村祐希, 工藤慧音, 鈴木潤, 清水伸幸.
    言語処理学会第29回年次大会, 2023年3月.
  59. 白色化が単語埋め込みに及ぼす効果の検証.
    佐々木翔大, Benjamin Heinzerling, 鈴木潤, 乾健太郎.
    言語処理学会第29回年次大会, 2023年3月.
  60. aoba_v3 bot: 多様な応答生成モデルとルールベースを統合したマルチモーダル雑談対話システム.
    守屋彰二, 塩野大輝, 岸波洋介, 藤原吏生, 木村昴, 松本悠太, 曾根周作, 赤間怜奈, 鈴木潤, 乾健太郎. 
    人工知能学会 音声・言語理解と対話処理研究会第96回研究会 (第13回対話システムシンポジウム), 2022年12月.
  61. 人の話題遷移モデリングのための基礎分析.
    岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎.
    第17回NLP若手の会シンポジウム, 2022年8月.
  62. Transformerを多層にする際の勾配消失問題と解決法について.
    高瀬翔, 清野舜, 小林颯介, 鈴木潤.
    言語処理学会第28回年次大会, 2022年3月.
  63. ニューラル言語モデルの効率的な学習に向けた代表データ集合の獲得.
    鈴木潤, 全炳河, 賀沢秀人.
    言語処理学会第28回年次大会, 2022年3月.
  64. 多様な話者との自動対話に基づく雑談システムの自動評価.
    佐藤志貴, 岸波洋介, 杉山弘晃, 赤間怜奈, 徳久良子, 鈴木潤.
    言語処理学会第28回年次大会,2022年3月.
  65. 規範的な日本語日常対話コーパスの設計.
    赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎.
    言語処理学会第28回年次大会, 2022年3月.
  66. 論述リビジョンのためのメタ評価基盤.
    三田雅人, 坂口慶祐, 萩原正人, 水本智也, 鈴木潤, 乾健太郎.
    言語処理学会第28回年次大会, 2022年3月.
  67. 記述式答案自動採点における確信度推定とその役割.
    舟山弘晃, 佐藤汰亮, 松林優一郎, 水本智也, 鈴木潤, 乾健太郎.
    言語処理学会第28回年次大会, 2022年3月.
  68. 動画キーフレーム物語生成手法の提案.
    佐藤俊, 佐藤汰亮, 鈴木潤, 清水伸幸.
    言語処理学会第28回年次大会, 2022年3月.
  69. 文字情報を考慮したシーン画像検索.
    宮脇峻平, 長谷川拓, 西田京介, 加藤拓真, 鈴木潤.
    言語処理学会第28回年次大会, 2022年3月.
  70. BPersona-chat: A Coherence-Filtered Japanese-English Dialogue Corpus.
    Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, Ryoko Tokuhisa, Ana Brassard, Kentaro Inui.
    言語処理学会第28回年次大会, 2022年3月.
  71. シフト付き絶対位置埋め込み.
    清野舜, 小林颯介, 鈴木潤, 乾健太郎.
    言語処理学会第28回年次大会, 2022年3月.
  72. JParaCrawl v3.0: 大規模日英対訳コーパス.
    森下睦, 帖佐克己, 鈴木潤, 永田昌明.
    言語処理学会第28回年次大会, 2022年3月.
  73. 目標指向対話のためのサブゴール設計に基づく発話系列生成.
    岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎.
    第93回人工知能学会 言語・音声理解と対話処理研究会 第12回対話システムシンポジウム, 2021年11月.
  74. Towards Detecting Errors of Chat Translation: Evaluating Translated Chat with Classifiers and Building Auto-Evaluatable Translation Chat System.
    李云蒙, 阿部香央莉, 徳久良子, 森下睦, 鈴木潤, 乾健太郎.
    第16回NLP若手の会シンポジウム, 2021年8月.
  75. 対話システムの先読み能力実現に向けた未来の展開まで生成する学習戦略の提案と分析.
    岸波洋介, 赤間怜奈, 佐藤志貴, 鈴木潤, 徳久良子, 乾健太郎.
    人工知能学会全国大会(第35回). 2021年6月.
  76. 動画キーフレーム物語生成タスクの提案とデータセットの構築.
    北山晃太郎, 鈴木潤, 清水伸幸.
    人工知能学会全国大会(第35回). 2021年6月.

Invited Talks / 招待講演

  1. 大規模言語モデルとVision-and-Languageの最新動向.
    西田京介, 田中涼太.
    Visual Computing 2023, September 2023.
  2. 言語モデルに基づく文章生成:成功を支える技術/理論と現在の到達点/注意点.
    鈴木潤.
    第22回情報科学技術フォーラム (FFIT2023) 大規模言語モデルに関する特別講演, 2023年9月.
  3. ChatGPTを支える技術.
    鈴木潤.
    国立情報学研究所 オープンハウス2023, June 2023.
  4. Tutorial 2: A Gentle Introduction to Technologies Behind Language Models and Recent Achievement in ChatGPT.
    Jun Suzuki, Naoaki Okazaki, Kyosuke Nishida.
    The 27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD-2023), May 2023.
  5. ことばを扱う人工知能 −生成系 AI を支える自然言語処理−.
    赤間怜奈.
    宮城第一高校, May 2023.
  6. 日本語日常対話コーパスの構築と自然言語処理への活用.
    赤間怜奈.
    Evidence-based Linguistics Workshop 2022 「日本語における評価用データセットの構築と利用性の向上」分科会, 2022年9月.
  7. DNN時代の信頼される実験のやり方とは?.
    鈴木潤.
    言語処理学会第28回年次大会 (NLP 2022) ワークショップ2: 日本語における評価用データセットの構築と利用性の向上, 2022年3月.

Books / 書籍

  1. IT Text 自然言語処理の基礎. [book] 
    岡崎直観, 荒瀬由紀, 鈴木潤, 鶴岡慶雅, 宮尾祐介.
    オーム社, 2022年8月.
TOP