图1. 获奖论文
图2. 获奖证书
这次获奖的论文题为“Label Words are Anchors: An Information Flow Perspective for Understanding In-Context Learning”，研究了 In-context learning（ICL）的事情机制。首次创造了高下文学习中演示示例的标签词起着 “锚点” 浸染：1）在浅层打算层的处理过程中，语义信息聚拢到标签词表示中；2）在深层打算层的处理过程中，标签词中的聚合的信息为措辞模型的终极预测供应参考。基于这些创造，文章进一步提出了 “锚点重新加权” 方法来提高 ICL 的性能，以及用于诊断 ICL 缺点的剖析框架。这项事情也为未来的干系研究指引了新的方向。
图3. 高下文中演示示例的标签词作为“锚点”的示意图
论文作者来自北京大学孙栩教授团队和微信AI团队，个中论文的第一作者王乐安是在微信AI团队演习的北大研究生（本科为北京大学智能科学与技能系2019级全系第一名），这也是他中稿的第一篇自然措辞处理领域主会论文。在论文的研究过程中，北京大学孙栩教授团队和微信AI团队紧密互助，在研究方向、核心问题、实验改进、以及论文修正等方面进行了充分的谈论和深入的事情，个中王乐安踏实的数理根本和专业知识，孙栩教授清晰准确的辅导和建议令人印象深刻。
深耕前沿技能，微信AI团队多项研究可圈可点
微信AI团队在EMNLP2023的表现充分展示了其在AI领域的专业实力。微信AI团队保持着小而精的团队规模，团队成员险些全部来自国内外顶尖高校的硕士或博士，一贯保持着人才引入的高标准。除了本次 EMNLP2023 Best Paper (Long) Award，近年来团队成员参与的研究事情已经得到了多个主要奖项，包括RecSys2023 Best Paper (Short) Award, ACL2019 Best Paper (Long) Award等。
微信AI团队在多个领域的研究都取得了显著的成果。在环球学术界最具威信的机器翻译比赛（Workshop on Machine Translation，简称WMT）2020 ～ 2022连续三年里得到多个赛道冠军，比赛参与者包括浩瀚来自环球的企业、科研机构和高校所组成的顶尖团队。在2018和2019年的对话系统技能寻衅赛（Dialog System Technology Challenge，简称DSTC）中也蝉联多个赛道冠军。
微信AI团队一贯致力于业务与学术研究的结合，在业务中挖掘科研课题。他们认为，业务与研究是相互促进的关系：“通过研究来创造更好的方法，终极结果也可以直接应用在业务中。”本次会议中的多项事情已经进一步推动了对话系统、微信翻译、微信心书、微信输入法等多个业务场景的运用。
附：微信AI团队入选的8篇文章
1. Label Words are Anchors: An Information Flow Perspective for Understanding In-Context Learning
Lean Wang, Lei Li, Damai Dai, Deli Chen, Hao Zhou, Fandong Meng, Jie Zhou and Xu Sun.
2. HyperNetwork-based Decoupling to Improve Model Generalization for Few-Shot Relation Extraction
Liang Zhang, Chulun Zhou, Fandong Meng, Jinsong Su, Yidong Chen and Jie Zhou
3. Re3Dial: Retrieve, Reorganize and Rescale Conversations for Long-Turn Open-Domain Dialogue Pre-training
Jiaxin Wen, Hao Zhou, Jian Guan, Jie Zhou, Minlie Huang
4. Multi-Source Probing for Open-Domain Conversational Understanding
Yuanxi Li, Hao Zhou, Jie Zhou, Minlie Huang
5. Explicit Planning Helps Language Models in Logical Reasoning
Hongyu Zhao, Kangrui Wang, Mo Yu, Hongyuan Mei
6. D2TV: Dual Knowledge Distillation and Target-oriented Vision Modeling for Many-to-Many Multimodal Summarization
Yunlong Liang, Fandong Meng, Jiaan Wang, Jinan Xu, Yufeng Chen and Jie Zhou
7. Understanding Translationese in Cross-Lingual Summarization
Jiaan Wang, Fandong Meng, Yunlong Liang, Tingyi Zhang, Jiarong Xu, Zhixu Li and Jie Zhou
8. Enhancing Argument Structure Extraction with Efficient Leverage of Contextual Information
Yun Luo, Zhen Yang, Fandong Meng, Yingjie Li, Jie Zhou and Yue Zhang
雷峰网