©PaperWeekly 原创 · 作者 | 苏剑林
单位 | 科学空间
研究方向 | NLP、神经网络
作为 LLM 的主流模型架构,Transformer 在各类任务上的总体表现都出色,大多数情况下,Transformer 的槽点只是它的平方复杂度,而不是效果——除了一个名为 Long Range Arena(下面简称 LRA)的 Benchmark。一直以来,LRA 一直是线性 RNN 类模型的“主场”,与之相比 Transformer 在上面有明显的差距,以至于让人怀疑这是否就是 Transformer 的固有缺陷。
不过,近日论文《Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors》将这“缺失的一环”给补齐了。论文指出,缺乏预训练是 Transformer 在 LRA 上效果较差的主要原因,而所有架构都可以通过预训练获得一定的提升,Transformer 的提升则更为明显。
论文题目:
Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors
论文链接:
https://arxiv.org/abs/2310.02980
旧背景
Long Range Arena(LRA)是长序列建模的一个 Benchmark,提出自论文《Long Range Arena: A Benchmark for Efficient Transformers》[1],从论文标题就可以看出,LRA 是为了测试各种 Efficient 版的 Transformer 而构建的,里边包含了多种类型的数据,序列长度从 1k 到 16k 不等,此前不少 Efficient Transformer 的工作也都在 LRA 进行了测试。虽然在代表性方面有些争议,但 LRA 依然不失为一个测试 Efficient Transformer 的长序列能力的经典 Benchmark。
▲ MEGA论文中的LRA结果
可能会让部分读者意外的是,标准的 Transformer(XFM)在这个 Benchmark 上的成绩并不出色,明显落后于一系列线性 RNN 类模型,比如经典的 SSM(S4 [2]、S4D [3]、S5 [4])或者此前我们介绍过的 LRU,甚至于此前的 SOTA 模型 MEGA [5],也需要在 GAU 的基础上装备线性 RNN 模块(论文里边称为 EMA)。
总而言之,此前 LRA 上的模型排行情况,强烈地透露着“Attention 可以有,但 RNN 必不可少”的信号。 
(注:LRA 的完整成绩排行可以在 https://paperswithcode.com/sota/long-range-modeling-on-lra 查阅。)
新结论
很明显,《Never Train from Scratch: Fair Comparison of Long-Sequence Models Requires Data-Driven Priors》的出现打破了这一印象,它指出用训练集预训练就可以大大缩小两者的差距,并进一步提出“无预训练,不公平”的观点。
▲ “Transformer+预训练”相比于Transformer及各种Effective版的提升
预训练的做法很简单,任务选择 MLM 或者 GPT 都可以,数据集则还是原本的训练集,这样一来除了增加了算力消耗外,并没有引入额外的知识来源,所以比较是公平的。事实上,不管是 Transformer 还是 RNN,经过预训练之后都能获得明显的提升,只不过 Transformer 的提升更加明显:
▲ “Transformer+预训练”与“S4+预训练”
▲ 与SOTA模型的对比
事后来看,论文的结论并不让人意外,甚至有点“显然成立”的感觉,但此前大家似乎都没往这个方向去想(或者是想到了但觉得不是关键?),所以作者们首先意识到并证明预训练在 LRA 的重要性,依然是非常值得称赞的。 
预训练的重要性实际上表明了 Inductive Bias 在 LRA 上的重要性,因为 LRA 为了使得序列足够 Long,它的 token 颗粒度是非常细的,比如文本任务是以字母为 token 的,图像任务是以像素为 token 并直接将二维图像展平为一维序列的,很明显这些任务既需要远程依赖,又有明显的局域性,线性 RNN 正好非常贴合它的特性。而 Transformer 相对来说没有那么明显的 Inductive Bias,它还需要额外加位置编码才有位置信息,而即便加了也没有显著的局域性,因此更需要预训练来适应数据特性,或者说,通过预训练来补充Inductive Bias。
全剧终
本文跟大家快速分享了一个较新的实验结论,即预训练能有效提高各种模型在 LRA 上的成绩,尤其是 Transformer 经过预训练之后,效果基本上也能接近 SOTA 梯队,这打破了笔者一直以来 LRA 必须要加线性 RNN 的印象。
参考文献
[1] https://arxiv.org/abs/2011.04006
[2] https://arxiv.org/abs/2111.00396
[3] https://arxiv.org/abs/2203.14343
[4] https://arxiv.org/abs/2208.04933
[5] https://arxiv.org/abs/2209.10655
更多阅读
#投 稿 通 道#
 让你的文字被更多人看到 
如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢?答案就是:你不认识的人。
总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。 
PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学术热点剖析科研心得竞赛经验讲解等。我们的目的只有一个,让知识真正流动起来。
📝 稿件基本要求:
• 文章确系个人原创作品,未曾在公开渠道发表,如为其他平台已发表或待发表的文章,请明确标注 
• 稿件建议以 markdown 格式撰写,文中配图以附件形式发送,要求图片清晰,无版权问题
• PaperWeekly 尊重原作者署名权,并将为每篇被采纳的原创首发稿件,提供业内具有竞争力稿酬,具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道:
• 投稿邮箱:[email protected] 
• 来稿请备注即时联系方式(微信),以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信(pwbot02)快速投稿,备注:姓名-投稿
△长按添加PaperWeekly小编
🔍
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
·
·
·
继续阅读
阅读原文