预训练不等于更强大，研究揭示大语言模型的 “灾难性过度训练” 现象

近日，来自卡内基梅隆大学、斯坦福大学、哈佛大学和普林斯顿大学的研究人员揭示了一个关于大语言模型（LLMs）训练的新发现：过度的预训练可能会导致模型性能下降，出现一种被称为“灾难性过度训练”的现象。

研究发现

• 实验结果：研究人员对OLMo-1B模型进行了比较，分别对其进行了2.3万亿和3万亿个标记的训练。结果显示，接受3万亿标记训练的模型在一些基准测试（如AlpacaEval和ARC）中的表现下降了多达3%，甚至不如仅用1.5万亿标记训练的模型。

• 关键机制：这种性能下降与“渐进敏感性”现象有关。随着模型接受的标记数量增加，模型对微小变化变得更加脆弱。例如，在微调过程中，即使是小的调整或噪音的引入，都可能导致先前的训练效果被逆转。

现象解释

• 敏感度增加：长时间的预训练会使模型对各种修改的广义敏感度系统性增加，导致模型在后续微调时更容易“遗忘”之前学到的知识。

• 拐点现象：研究中提出了“拐点”概念，即在这个点上，额外的训练开始导致性能下降。对于OLMo-1B模型，这一拐点通常出现在超过2.5万亿个标记之后。

影响与建议

• 重新审视训练策略：该研究挑战了“扩大预训练数据规模绝对有益”的普遍假设，提示开发者在追求模型规模时，应重新审视整个训练流程的设计。

• 优化训练管道：研究建议，重点应从单纯扩大数据和模型规模，转向优化整个训练管道，以平衡基础模型质量和训练后的适应能力。

这项研究为大语言模型的开发提供了新的视角，提醒人们在模型训练中寻找合适的平衡点，避免“灾难性过度训练”对模型性能的负面影响。