Meta 推出 WebSSL 模型：开启视觉学习的无语言新纪元

Meta 公司于 2025 年 4 月 24 日发布了 WebSSL 系列模型，这是其在无语言视觉学习领域的一次重要探索。

模型背景与目标

以往，以 OpenAI 的 CLIP 为代表的对比语言-图像模型已成为学习视觉表征的主流方法，这类模型在视觉问答（VQA）和文档理解等多模态任务中表现出色，但其高度依赖语言数据，数据集获取的复杂性和规模限制成为其进一步发展的瓶颈。Meta 的 WebSSL 模型旨在探索无语言监督下的视觉自监督学习（SSL）潜力，通过纯图像数据训练，摆脱对语言监督的依赖。

模型架构与训练

WebSSL 系列模型涵盖了 DINO 和 Vision Transformer（ViT）两种架构，参数规模从 3 亿到 70 亿不等。这些模型仅使用 MetaCLIP 数据集（MC-2B）中的 20 亿张图像子集进行训练，完全排除了语言监督的影响。训练过程中，统一使用 224×224 分辨率的图像，并冻结视觉编码器，以确保结果差异仅源于预训练策略。

模型性能表现

• 多模态任务表现：WebSSL 模型在视觉问答（VQA）任务上的表现随着参数规模的增加呈现出接近对数线性的提升趋势，而 CLIP 模型在参数超过 30 亿后性能趋于饱和。在 OCR 和图表任务中，WebSSL 表现尤为突出，经过数据筛选后，仅用 1.3% 的富文本图像进行训练，其在 OCRBench 和 ChartQA 任务中的性能就超越了 CLIP，提升幅度高达 13.6%。

• 传统视觉任务表现：WebSSL 模型在传统基准测试（如 ImageNet-1k 分类、ADE20K 分割）上也保持了强劲表现，部分场景甚至优于 MetaCLIP 和 DINOv2。

• 与语言模型对齐性：尽管 WebSSL 模型在训练过程中未使用任何语言监督，但其仍展现出与预训练语言模型（如 LLaMA-3）的良好对齐性，表明大规模视觉模型能够隐式学习与文本语义相关的特征。

模型意义与展望

WebSSL 模型的发布为视觉学习领域提供了一种新的思路，证明了在无语言监督下，纯视觉自监督学习（SSL）依然能够取得优异的性能。这一成果不仅挑战了以往认为语言监督是学习强大视觉表征的必要条件的假设，还为未来视觉模型的发展提供了更多可能性。