作为一种具有大量关系事实的特殊图,知识图谱(KG)已经促生了诸多知识驱动的应用,如问答、医疗诊断和推荐等。为了从 KG 中学习并有益于下游任务,研究人员将近来提出的基于嵌入的方法作为一种有潜力的研究方向,这类方法可以学习实体和关系的低维向量表示。通过这类方法建模三元组(subject entity, relation, object entity)合理性的努力也做了很多,如 TransE、ComplEx、AutoSF 等模型,但这些模型依然无法捕获多个三元组之间的信息。
因此,为了更好地捕获 KG 中的复杂信息,研究人员提出使用关系路径(relational path)来学习关系的组成部分和三元组的长期依赖。这些路径可以保留每个三元组以及捕获一系列三元组之间的依赖关系。得益于这些关系路径,基于三元组的模型通过单独运行每个三元组实现了兼容。衍生出来的模型又利用循环神经网络(RNN)和图卷积网络(GCN)来利用 KG 中的实体和关系以及提取 KG 中的结构信息。然而,这些方法都存在不同程度的缺陷和不足。
在第四范式、香港科技大学这篇被 NeurIPS 2020 学术会议接收的论文《Interstellar: Searching Recurrent Architecture for Knowledge Graph Embedding》中,研究者受到神经架构搜索(NAS)的启发,提出将 Interstellar 作为一种处理关系路径中信息的循环架构。此外,该研究中的新型混合搜索算法突破了 stand-alone 和 one-shot 搜索方法的局限,并且有希望应用于其他具有复杂搜索空间的领域。
机器之心最新一期 NeurIPS 线上分享邀请到了第四范式资深研究员姚权铭博士,为大家详细解读此前沿研究。
分享主题:知识图谱嵌入的自动化
分享嘉宾:姚权铭博士,第四范式资深研究员,他组建了公司的机器学习研究团队,并主持、负责该团队的日常研究工作。姚权铭于 2018 年在香港科技大学计算机系取得博士学位,研究领域主要涉及机器学习、优化算法和自动化机器学习等技术方向。姚权铭是 40 多篇国际一流机器学习会议和期刊论文的作者;工作被 30+ IEEE Fellow 以及图灵奖得主 Bengio 教授引用;NIPS 2018 论文为当年 10 大高引论文之一。其工作获得过诸多奖项的认可:福布斯 30 Under30 精英榜(中国区)、吴文俊人工智能学会优秀青年奖、香港科学会优秀青年科学家、及谷歌全球博士奖研金等。
分享概要:知识图谱(KG)是一种重要的数据结构,它把现实世界那些可以被计算机记录且可以为人类所理解的事实组织起来。然而,如何学习并从知识图谱等这类组合式和离散型数据中进行推理是一项困难的任务。在本次分享中,姚权铭博士将首先解释 KG 中的重要特性并介绍自动化机器学习(AutoML)的定义。接着,姚博士将详细解读其最近使用 AutoML 技术探索 KG 重要特性的工作。最后展示进一步的研究工作。
直播时间:北京时间 11 月 24 日 20:00-21:00
  • 论文链接:https://arxiv.org/pdf/1911.07132.pdf
  • 代码链接:https://github.com/AutoML-4Paradigm/Interstellar
加入机动组,一起看直播
「机动组」是机器之心发起的人工智能技术社区,将持续提供技术公开课、论文分享、热门主题解读等线上线下活动,并在社群中提供每日精选论文与教程、智能技术研究周报,同时「机动组」也将不定期组织人才服务、产业技术对接等活动,欢迎所有 AI 领域技术从业者加入。添加机器之心小助手(syncedai5),备注「2020」,加入本次直播群。
ps:如果小助手无法添加,请将「微信 ID」发送邮件到 [email protected],我们将与你联系,邀你入群。
2020 NeurIPS MeetUp
受新冠疫情影响, NeurIPS 2020 转为线上举办。虽然这可以为大家节省一笔包括注册、机票和住宿的开支,但不能线下参与这场一年一度的学术会议、与学术大咖近距离交流讨论还是有些遗憾。
机器之心获得 NeurIPS 官方授权,将于 12 月 6 日在北京举办 2020 NeurIPS MeetUp,设置 Keynote、 论文分享和 Poster 环节,邀请顶级专家、论文作者与现场参会观众共同交流。
点击阅读原文,立即报名。
继续阅读
阅读原文