首页 > 快讯 > 百度隆重推出文心大模型4.5系列,十款全新模型闪亮登场!

百度隆重推出文心大模型4.5系列,十款全新模型闪亮登场!

发布时间:2025-06-30 12:24:37 | 责任编辑:张毅 | 浏览量:5 次

百度正式发布了文心大模型4.5系列模型,并且将其完全开源。用户可以通过文心一言(https://yiyan.baidu.com)立即体验这一最新的开源技术。
这一系列模型涵盖了多种参数配置,包括激活参数为47B 和3B 的混合专家(MoE)模型,以及稠密型模型0.3B 参数的设计,合计达到了十款不同的模型。
在训练和推理方面,文心4.5系列模型使用了飞桨深度学习框架,达到47% 的模型 FLOPs 利用率。实验结果显示,该系列模型在多项文本和多模态基准测试中表现优异,尤其是在指令遵循、世界知识记忆、视觉理解和多模态推理等任务上,取得了 SOTA(state-of-the-art)水平的成绩。
文心4.5系列模型的权重根据 Apache2.0协议开源,允许进行学术研究和产业应用。此外,飞桨还提供了开源的产业级开发套件,兼容多种硬件,降低了后训练和部署的门槛。
为了便于开发者使用,文心4.5系列还提供了一站式使用指南,包括如何快速掌握模型的精调和对齐。开发者可以通过 ERNIEKit 和 FastDeploy 等工具,轻松实现模型的训练和部署。FastDeploy 支持多种硬件平台,提供高性能、低门槛的推理部署体验。
此次开源不仅包括了模型的预训练权重和推理代码,还在多个平台上提供了下载和部署服务。用户可以在飞桨星河社区和 HuggingFace 等知名平台上找到并使用这些模型。值得注意的是,百度还推出了开放模型的 API 服务,用户可在百度智能云的千帆大模型平台上进行调用和使用。这意味着,无论是研究人员还是开发者,都能更方便地接触到最新的 AI 技术。
文心4.5系列模型的开源包含了预训练权重和推理代码,所有项目已被上传至:
Hugging Face(https://huggingface.co/baidu)、
GitHub(https://github.com/PaddlePaddle/ERNIE)
飞桨星河社区(https://aistudio.baidu.com/overview)。
如果需要深入了解技术细节,用户可下载技术报告(https://yiyan.baidu.com/blog/publication)进行查阅。
划重点:
🌟 文心4.5系列模型于6月30日正式开源,提供10款不同版本的模型。
📈 模型采用创新的多模态异构架构,提升多模态理解能力。
🛠️ 开发者可通过 ERNIEKit 和 FastDeploy 工具,快速进行模型的训练和部署。

百度隆重推出文心大模型4.5系列,十款全新模型闪亮登场!

6月30日,百度正式开源文心大模型4.5系列模型。此次开源的文心大模型4.5系列包含10款模型,涵盖47B、3B激活参数的混合专家(MoE)模型,以及0.3B参数的稠密型模型。这些模型实现了预训练权重和推理代码的完全开源,已可在飞桨星河社区、HuggingFace等平台下载部署使用,同时开源模型API服务也可在百度智能云千帆大模型平台使用。

模型特点

  • 创新架构:针对MoE架构提出创新性的多模态异构模型结构,适用于从大语言模型向多模态模型的持续预训练范式。

  • 性能提升:在保持甚至提升文本任务性能的基础上,显著增强了多模态理解能力。

  • 高效训练:使用飞桨深度学习框架进行高效训练、推理和部署,模型FLOPs利用率(MFU)达到47%。

开源优势

  • 宽松协议:按照Apache 2.0协议开源,支持学术研究和产业应用。

  • 兼容性强:基于飞桨提供开源的产业级开发套件,广泛兼容多种芯片,降低模型的后训练和部署门槛。

  • 全栈技术:百度实现了框架层与模型层的“双层开源”,构建了明显的AI全栈技术优势。

开发支持

此次开源同步升级发布了文心大模型开发套件ERNIEKit和大模型高效部署套件FastDeploy,为开发者提供开箱即用的工具和全流程支持。

©️版权声明:
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

最新Ai信息

最新Ai工具

发表回复