公众号关注 “ML_NLP
设为 “星标”,重磅干货,第一时间送达!
机器学习算法与自然语言处理出品
@公众号原创专栏作者 忆臻
学校 | 哈尔滨工业大学 SCIR实验室博士生在读
本文对最近在多轮对话理解方向上进行了最新的整理和前沿的探索,重点围绕着对话回复选择和问答方向进行展开,最新综述,感兴趣的同学可以了解。
作者单位:上海交大

作者:Zhuosheng Zhang@张倬胜

指导老师:Hai Zhao
在人工智能领域,训练机器理解自然语言并与人类进行交互是一项难以实现的重要任务。近年来,随着深度学习研究的快速发展,特别是最近的预训练语言模型,已经设计出了多样化的对话系统。在这些研究中,最基本也是最具挑战性的部分是对话理解,其作用是教会机器理解对话背景。
在本文中,我们从对话建模的角度对以往的方法进行了回顾。我们总结了与纯文本阅读理解相比,对话理解的特点和挑战。然后,我们讨论了在对话理解任务中广泛使用的三种典型的对话建模模式,重点讨论了对话回复选择任务和问答任务,以及用来提高对话场景中的PrLMs语言建模技术,以提高对话场景中的PrLMs。最后,我们强调了近年来的技术进展,并指出了我们可以从实证分析中获得的经验和走向新的研究前沿的前景。
作者首先对于对话回复选择任务和问答任务给出了统一的框架和几种不同的建模方式:
相应的结果和结论,原文中有详细讨论:
最后,作者还对未来的前沿提供了思路和讨论,有如下5点:
1、Dialogue Context Decoupling
2、Background Knowledge Grounding
3、Dialogue-aware Language Modeling
4、Reliable Data Construction
5、Multilingual and Multimodal Dialogue
感兴趣的同学可以阅读原文:
https://arxiv.org/pdf/2103.03125.pdf
点击下方卡片,关注公众号“机器学习算法与自然语言处理”,获取更多信息:
下载1:四件套
在机器学习算法与自然语言处理公众号后台回复“四件套”
即可获取学习TensorFlow,Pytorch,机器学习,深度学习四件套!

下载2:仓库地址共享
在机器学习算法与自然语言处理公众号后台回复“代码”
即可获取195篇NAACL+295篇ACL2019有代码开源的论文。开源地址如下:https://github.com/yizhen20133868/NLP-Conferences-Code
重磅!机器学习算法与自然语言处理交流群已正式成立
群内有大量资源,欢迎大家进群学习!
额外赠送福利资源!深度学习与神经网络,pytorch官方中文教程,利用Python进行数据分析,机器学习学习笔记,pandas官方文档中文版,effective java(中文版)等20项福利资源
获取方式:进入群后点开群公告即可领取下载链接
注意:请大家添加时修改备注为 [学校/公司 + 姓名 + 方向]
例如 —— 哈工大+张三+对话系统。
号主,微商请自觉绕道。谢谢!

推荐阅读:
点击下方卡片,关注公众号“机器学习算法与自然语言处理”,获取更多信息:

继续阅读
阅读原文