Publications

2021年4月1日以降、研究室に在籍する教員/研究員/学生が研究室の活動の一環として発表した成果の一覧です。2021年4月1日より前については個人ページを参照してください。

Journal Papers / 論文誌

  1. Jun Suzuki, Heiga Zen, and Hideto Kazawa. Extracting representative subset from extensive text data for training pre-trained language models. Information Processing & Management, Vol.60, No.3, May 2023. [paper]
  2. Shota Sasaki, Benjamin Heinzerling, Jun Suzuki, and Kentaro Inui. Examining the effect of whitening on static and contextualized word embeddings. Information Processing & Management, Vol.60, No.3, May 2023. [paper]
  3. 佐藤志貴, 赤間怜奈, 大内啓樹, 鈴木潤, 乾健太郎. 負例を厳選した対話応答選択による対話応答生成システムの評価. 自然言語処理, Vol.29, No.1, pp.53-83, 2022年3月. [paper]
  4. Hiroki Ouchi, Jun Suzuki, Sosuke Kobayashi, Sho Yokoi, Tatsuki Kuribayashi, Masashi Yoshikawa, Kentaro Inui. Instance-Based Neural Dependency Parsing. Transactions of the Association for Computational Linguistics (2021), Vol.9, pp1493–1507, December 2021. [paper]
  5. Shota Sasaki, Jun Suzuki and Kentaro Inui. Subword-based Compact Reconstruction for Open-vocabulary Neural Word Embeddings. IEEE/ACM Transactions on Audio, Speech, and Language Processing, 15 pages, November 2021. [paper]
  6. 小林颯介, 横井祥, 鈴木潤, 乾健太郎. 訓練事例の影響の軽量な推定. 自然言語処理, Vol.28, No.2, pp.573-597, 2021年6月. [paper]
  7. 藤井諒, 三田雅人, 阿部香央莉, 塙一晃, 森下睦, 鈴木潤, 乾健太郎. 機械翻訳モデルの頑健性評価に向けた言語現象毎データセットの構築と分析. 自然言語処理, Vol.28, No.2, pp.450-478, 2021年6月. [paper]

International Conferences / 国際会議

  1. Hiroto Kurita*, Ikumi Ito*, Hiroaki Funayama, Shota Sasaki, Shoji Moriya, Ye Mengyu, Kazuma Kokuta, Ryujin Hatakeyama, Shusaku Sone and Kentaro Inui (*equal contributions). TohokuNLP at SemEval-2023 Task 5: Clickbait Spoiling via Simple Seq2seq Generation and Ensembling. In Proceedings of the 17th International Workshop on Semantic Evaluation (SemEval), pp.*-*, July 2023. [paper]
  2. Hiroaki Funayama , Yuya Asazuma, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki and Kentaro Inui. Reducing the Cost: Cross-Prompt Pre-Finetuning for Short Answer Scoring. The 24th International Conference on Artificial Intelligence in Education (AIED2023), pp.*-*, July 2023. [paper]
  3. Makoto Morishita*, Keito Kudo*, Yui Oka*, Katsuki Chousa*, Shun Kiyono, Sho Takase, Jun Suzuki (*equal contributions). NT5 at WMT 2022 General Translation Task. In Proceedings of Seventh Conference on Machine Translation (WMT-2022), December 2022. [paper]
  4. Shiki Sato*, Yosuke Kishinami*, Hiroaki Sugiyama, Reina Akama, Ryoko Tokuhisa, Jun Suzuki (*equal contributions). Bipartite-play Dialogue Collection for Versatile and Practical Automatic Dialogues Evaluation. In Proceedings of the 2nd Conference of the Asia-Pacific Chapter of the Association for Computational Linguistics and the 12th International Joint Conference on Natural Language Processing: Student Research Workshop (AACL-IJCNLP 2-22 SRW), pp.8-16, November 2022. [paper]
  5. Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, Ryoko Tokuhisa, Ana Brassard and Kentaro Inui. Chat Translation Error Detection for Assisting Cross-lingual Communications. In Proceedings of the 3rd Workshop on Evaluation & Comparison of NLP Systems (Eval4NLP 2022), pp.88-95, November 2022. [paper]
  6. Makoto Morishita, Jun Suzuki and Masaaki Nagata. Domain Adaptation of Machine Translation with Crowdworkers. In Proceedings of the 2022 Conference on Empirical Methods in Natural Language Processing (EMNLP 2022) Industry Track, pp.**-**, October 2022. [paper]
  7. Yosuke Kishinami, Reina Akama, Shiki Sato, Ryoko Tokuhisa, Jun Suzuki and Kentaro Inui. Target-Guided Open-Domain Conversation Planning. In Proceedings of the 29th International Conference on Computational Linguistics (COLING 2022), pp.660–668, October 2022. [paper]
  8. Shiki Sato, Reina Akama, Hiroki Ouchi, Ryoko Tokuhisa, Jun Suzuki and Kentaro Inui. N-best Response-based Analysis of Contradiction-awareness in Neural Response Generation Models. In Proceedings of the 23rd Annual Meeting of the Special Interest Group on Discourse and Dialogue (SIGDIAL 2022), pp.637-644, September 2022. [paper]
  9. Atsushi Shirafuji, Takumi Ito, Makoto Morishita, Yuki Nakamura, Yusuke Oda, Jun Suzuki and Yutaka Watanobe. Prompt Sensitivity of Language Model for Solving Programming Problems. In Proceedings of the 21st International Conference on Intelligent Software Methodologies, Tools, and Techniques (SOMET 2022), September 2022. [paper]
  10. Hiroaki Funayama, Tasuku Sato, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki and Kentaro Inui. Balancing Cost and Quality: An Exploration of Human-in-the-loop Frameworks for Automated Short Answer Scoring. In Proceedings of the 23rd International Conference on Artificial Intelligence in Education (AIED 2022), pp.465–476, July 2022. [paper]
  11. Shumpei Miyawaki, Taku Hasegawa, Kyosuke Nishida, Takuma Kato and Jun Suzuki. Scene-Text Aware Image and Text Retrieval with Dual-Encoder. In Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics: Student Research Workshop (ACL 2022 SRW), pp.422–433, May 2022. [paper]
  12. Makoto Morishita, Katsuki Chousa, Jun Suzuki and Masaaki Nagata. JParaCrawl v3.0: A Large-scale English-Japanese Parallel Corpus. In Proceedings of the 13th International Conference on the Language Resources and Evaluation Conference (LREC 2022), pp.6704–6710, June 2022. [paper]
  13. Shun Kiyono, Sosuke Kobayashi, Jun Suzuki and Kentaro Inui. Shifted Absolute Position Embeddings for Transformers. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing (EMNLP 2021), pp.3309–3321. November 2021. [paper]
  14. Makoto Morishita, Jun Suzuki, Tomoharu Iwata and Masaaki Nagata. Context-aware Neural Machine Translation with Mini-batch Embedding. In Proceedings of the 16th Conference of the European Chapter of the Association for Computational Linguistics (EACL 2021), pp.2513–2521. April 2021. [paper]

Awards / 受賞

  1. 情報処理学会東北支部野口研究奨励賞, 2023年6月.
    赤間怜奈.
  2. 言語処理学会第29回年次大会 言語資源賞, 2023年3月.
    赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎. 日本語日常対話コーパスの構築.
  3. 言語処理学会第29回年次大会 スポンサー賞（日本電気賞）, 2023年3月.
    伊藤郁海, 伊藤拓海, 鈴木潤, 乾健太郎. 計算資源が限られた複数組織での出力選択による協働の検討.
  4. 言語処理学会第29回年次大会 スポンサー賞（高電社賞）, 2023年3月.
    駒田啓伍, 森下睦, 鈴木潤. 文単位のNbest候補制約に基づく文書翻訳.
  5. 言語処理学会第29回年次大会 委員特別賞, 2023年3月.
    伊藤郁海, 伊藤拓海, 鈴木潤, 乾健太郎. 計算資源が限られた複数組織での出力選択による協働の検討.
  6. 言語処理学会論文賞 2022年度最優秀論文賞, 2023年3月.
    佐藤志貴, 赤間怜奈, 大内啓樹, 鈴木潤, 乾健太郎. 負例を厳選した対話応答選択による対話応答生成システムの評価.
  7. The 23rd International Conference on Artificial Intelligence in Education (AIED2023) Best Paper Nominee, July 2022.
    Hiroaki Funayama, Tasuku Sato, Yuichiroh Matsubayashi, Tomoya Mizumoto, Jun Suzuki and Kentarou Inui. Balancing Cost and Quality: An Exploration of Human-in-the-loop Frameworks for Automated Short Answer Scoring.
  8. システムライブコンペティション5 優秀賞受賞, 2022年12月.
    守屋彰二, 塩野大輝, 岸波洋介, 藤原吏生, 木村昴, 松本悠太, 曾根周作, 赤間怜奈, 鈴木潤, 乾健太郎. aoba_v3 bot: 多様な応答生成モデルとルールベースを統合したマルチモーダル雑談対話システム.
  9. 言語処理学会第28回年次大会 最優秀賞, 2022年3月.
    鈴木潤, 全炳河, 賀沢秀人. ニューラル言語モデルの効率的な学習に向けた代表データ集合の獲得.
  10. 言語処理学会第28回年次大会 優秀賞, 2022年3月.
    高瀬翔, 清野舜, 小林颯介, 鈴木潤. Transformerを多層にする際の勾配消失問題と解決法について.
  11. 言語処理学会第28回年次大会 優秀賞, 2022年3月.
    三田雅人, 坂口慶祐, 萩原正人, 水本智也, 鈴木潤, 乾健太郎. 論述リビジョンのためのメタ評価基盤.
  12. 言語処理学会第28回年次大会 委員特別賞, 2022年3月.
    森下睦, 帖佐克己, 鈴木潤, 永田昌明. JParaCrawl v3.0: 大規模日英対訳コーパス.
  13. 言語処理学会2021年度論文賞. 2022年3月.
    小林颯介, 横井祥, 鈴木潤, 乾健太郎. 訓練事例の影響の軽量な推定.
  14. Google 2021 exploreCSR Award, 2021年11月.
    Reina Akama.
  15. 情報処理学会 2020年度 研究会推薦博士論文, 2021年8月.
    赤間怜奈. Data-oriented Approaches for Improving Neural Dialogue Generation / ニューラル対話応答生成の性能向上のためのデータ駆動アプローチ.
  16. AAMT 長尾賞, 2021年6月.
    清野舜, 伊藤拓海, 今野颯人, 森下睦, 鈴木潤.

Domestic Conferences / 国内学会

  1. 倉元俊輝, 鈴木潤. 事前学習済み言語モデルの追加学習用データ量の増加に応じた分類性能伸長予測法の提案. 2023年度人工知能学会全国大会(第37回), 2022年6月.
  2. 長澤春希, 松本悠太, 長谷川拓, 西田京介, 鈴木潤. 視覚的仮説推論に関する検討. 2023年度人工知能学会全国大会(第37回), 2022年6月.
  3. 駒田啓伍, 森下睦, 鈴木潤. 文単位のNbest候補制約に基づく文書翻訳. 言語処理学会第29回年次大会, 2023年3月.
  4. 牧野雅紘, 浅妻佑弥, 佐々木翔大, 鈴木潤. XAIにおける忠実性評価手法の考察. 言語処理学会第29回年次大会, 2023年3月.
  5. 神戸隆志, 鈴木潤, 乾健太郎. 訓練データ中の頻度バイアスを解消する前処理の提案. 言語処理学会第29回年次大会, 2023年3月.
  6. 伊藤拓海, 森下睦, 鈴木潤. 自然言語生成タスクの自動評価指標のためのドメイン外検出. 言語処理学会第29回年次大会, 2023年3月.
  7. Yunmeng Li, 鈴木潤, 森下睦, 阿部香央莉, 徳久良子, Ana Brassard, 乾健太郎. 異言語間対話を支援する日英雑談対話誤訳検出. 言語処理学会第29回年次大会, 2023年3月.
  8. 伊藤郁海, 伊藤拓海, 鈴木潤, 乾健太郎. 計算資源が限られた複数組織での出力選択による協働の検討. 言語処理学会第29回年次大会, 2023年3月.
  9. 木村昴, 工藤慧音, 赤間怜奈, 鈴木潤. 指示文からの画像生成における配置指定能力の調査. 言語処理学会第29回年次大会, 2023年3月.
  10. 塩野大輝, 宮脇峻平, 長澤春希, 鈴木潤. 画像キャプションを利用したIconQAタスクへのアプローチ. 言語処理学会第29回年次大会, 2023年3月.
  11. 赤部晃一, 神田峻介, 小田悠介. CRFに基づく形態素解析器のスコア計算の分割によるモデルサイズと解析速度の調整. 言語処理学会第29回年次大会, 2023年3月.
  12. 神田峻介, 赤部晃一, 後藤啓介, 小田悠介. 最小コスト法に基づく形態素解析におけるCPUキャッシュの効率化. 言語処理学会第29回年次大会, 2023年3月.
  13. 葉夢宇, 栗林樹生, 舟山弘晃, 鈴木潤. 思考連鎖指示における大規模言語モデルの否定表現理解. 言語処理学会第29回年次大会, 2023年3月.
  14. 赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎. 日本語日常対話コーパスの構築. 言語処理学会第29回年次大会, 2023年3月.
  15. 佐藤志貴, 赤間怜奈, 鈴木潤, 乾健太郎. Follow-up質問による矛盾応答収集の提案. 言語処理学会第29回年次大会, 2023年3月.
  16. 岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎. 人間同士の雑談における話題遷移モデリング. 言語処理学会第29回年次大会, 2023年3月.
  17. 仲村祐希, 工藤慧音, 鈴木潤, 清水伸幸. 事前学習モデルを活用したEnd-to-end型動画キーフレーム物語生成法. 言語処理学会第29回年次大会, 2023年3月.
  18. 佐々木翔大, Benjamin Heinzerling, 鈴木潤, 乾健太郎. 白色化が単語埋め込みに及ぼす効果の検証. 言語処理学会第29回年次大会, 2023年3月.
  19. 守屋彰二, 塩野大輝, 岸波洋介, 藤原吏生, 木村昴, 松本悠太, 曾根周作, 赤間怜奈, 鈴木潤, 乾健太郎. aoba_v3 bot: 多様な応答生成モデルとルールベースを統合したマルチモーダル雑談対話システム. 人工知能学会 音声・言語理解と対話処理研究会第96回研究会 (第13回対話システムシンポジウム), 2022年12月.
  20. 岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎. 人の話題遷移モデリングのための基礎分析. 第17回NLP若手の会シンポジウム, 2022年8月.
  21. 高瀬翔, 清野舜, 小林颯介, 鈴木潤. Transformerを多層にする際の勾配消失問題と解決法について. 言語処理学会第28回年次大会, 2022年3月.
  22. 鈴木潤, 全炳河, 賀沢秀人. ニューラル言語モデルの効率的な学習に向けた代表データ集合の獲得. 言語処理学会第28回年次大会, 2022年3月.
  23. 佐藤志貴, 岸波洋介, 杉山弘晃, 赤間怜奈, 徳久良子, 鈴木潤. 多様な話者との自動対話に基づく雑談システムの自動評価. 言語処理学会第28回年次大会, 2022年3月.
  24. 赤間怜奈, 磯部順子, 鈴木潤, 乾健太郎. 規範的な日本語日常対話コーパスの設計. 言語処理学会第28回年次大会, 2022年3月.
  25. 三田雅人, 坂口慶祐, 萩原正人, 水本智也, 鈴木潤, 乾健太郎. 論述リビジョンのためのメタ評価基盤. 言語処理学会第28回年次大会, 2022年3月.
  26. 舟山弘晃, 佐藤汰亮, 松林優一郎, 水本智也, 鈴木潤, 乾健太郎. 記述式答案自動採点における確信度推定とその役割. 言語処理学会第28回年次大会, 2022年3月.
  27. 佐藤俊, 佐藤汰亮, 鈴木潤, 清水伸幸. 動画キーフレーム物語生成手法の提案. 言語処理学会第28回年次大会, 2022年3月.
  28. 宮脇峻平, 長谷川拓, 西田京介, 加藤拓真, 鈴木潤. 文字情報を考慮したシーン画像検索. 言語処理学会第28回年次大会, 2022年3月.
  29. Yunmeng Li, Jun Suzuki, Makoto Morishita, Kaori Abe, Ryoko Tokuhisa, Ana Brassard, Kentaro Inui. BPersona-chat: A Coherence-Filtered Japanese-English Dialogue Corpus. 言語処理学会第28回年次大会, 2022年3月.
  30. 清野舜, 小林颯介, 鈴木潤, 乾健太郎. シフト付き絶対位置埋め込み. 言語処理学会第28回年次大会, 2022年3月.
  31. 森下睦, 帖佐克己, 鈴木潤, 永田昌明. JParaCrawl v3.0: 大規模日英対訳コーパス. 言語処理学会第28回年次大会, 2022年3月.
  32. 岸波洋介, 赤間怜奈, 佐藤志貴, 徳久良子, 鈴木潤, 乾健太郎. 目標指向対話のためのサブゴール設計に基づく発話系列生成. 第93回人工知能学会 言語・音声理解と対話処理研究会 第12回対話システムシンポジウム, 2021年11月.
  33. 李云蒙, 阿部香央莉, 徳久良子, 森下睦, 鈴木潤, 乾健太郎. Towards Detecting Errors of Chat Translation: Evaluating Translated Chat with Classifiers and Building Auto-Evaluatable Translation Chat System. 第16回NLP若手の会シンポジウム, 2021年8月.
  34. 岸波洋介, 赤間怜奈, 佐藤志貴, 鈴木潤, 徳久良子, 乾健太郎. 対話システムの先読み能力実現に向けた未来の展開まで生成する学習戦略の提案と分析. 人工知能学会全国大会(第35回). 2021年6月.
  35. 北山晃太郎, 鈴木潤, 清水伸幸. 動画キーフレーム物語生成タスクの提案とデータセットの構築. 人工知能学会全国大会(第35回). 2021年6月.

Invited Talks / 招待講演

  1. Jun Suzuki, Naoaki Okazaki, Kyosuke Nishida. Tutorial 2: A Gentle Introduction to Technologies Behind Language Models and Recent Achievement in ChatGPT. The 27th Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD-2023), May 2023.
  2. 赤間怜奈. ことばを扱う人工知能 ―生成系 AIを支える自然言語処理―. 宮城第一高校理数探求講演会, 2023年5月.
  3. 鈴木潤. ChatGPTを支えるAI技術. 東北大学データ駆動科学・AI教育研究センター 生成系AIセミナー, 2023年5月.
  4. 赤間怜奈. 女子中高生のための『数理・情報・AI』最前線！第6回. 理化学研究所革新知能統合研究センター オンラインセミナー, 2023年1月.
  5. 赤間怜奈. 日本語日常対話コーパスの構築と自然言語処理への活用. Evidence-based Linguistics Workshop 2022 「日本語における評価用データセットの構築と利用性の向上」分科会, 2022年9月.
  6. 鈴木潤. DNN時代の信頼される実験のやり方とは？ 言語処理学会第28回年次大会 (NLP 2022) ワークショップ2: 日本語における評価用データセットの構築と利用性の向上, 2022年3月.

Books / 書籍

  1. 岡崎直観, 荒瀬由紀, 鈴木潤, 鶴岡慶雅, 宮尾祐介. IT Text 自然言語処理の基礎. オーム社, 2022年8月. [book]

Media Infomaiton / メディア

  1. <TV> 鈴木潤. 仙台放送ニュース「学生がチャットＧＰＴ学ぶ 東北大学でセミナー〈仙台市〉」, 2023年5月9日放送.
  2. <Web> 赤間怜奈. Women with Sparkle!「#13 ことばがわかるコンピュータをつくる」, 2023年3月16日公開.