微软发布Phi-3系列AI模型,phi-3-mini模型可部署在手机上

发布时间:2024-04-24 14:02:30 · 责任编辑:字母汇 · 浏览量:84 次

微软研究院近期发布了Phi-3系列AI模型的技术报告,该系列包含三个版本:mini(38亿参数)、small(70亿参数)和medium(140亿参数)。这些模型在设计上旨在提高语言理解和推理能力,同时能够在移动设备上运行。

微软发布Phi-3系列AI模型,phi-3-mini模型可部署在手机上

据微软介绍,拥有38亿参数的phi-3-mini模型通过3.3万亿个tokens的训练,其基准跑分性能超过了Mixtral 8x7B和GPT-3.5。这一模型可以部署在手机等设备上,代表了微软在将大型AI模型优化以适应移动设备方面的最新进展。phi-3-mini在27亿参数的Phi-2模型的基础上,进一步整合了严格过滤的网络数据和合成数据。

微软也指出,尽管phi-3-mini模型在优质数据的训练下能够媲美更大参数的AI模型,但在如TriviaQA等某些任务上,仍然受到模型规模的限制。此外,phi-3-small和phi-3-medium两个模型在MMLU(大规模多语言理解)上的得分分别为75.3和78.2,显示了它们在多语言理解任务上的性能。

微软此前发布的Phi-2模型已经在某些性能指标上优于谷歌的Gemini Nano-2和Llama-2-7B模型。Phi-3系列模型的发布进一步证明了微软在AI领域的研究实力和对移动AI应用的深入探索。

这一进展对于希望在移动设备上实现更高级AI功能的开发者和企业来说是一个好消息,因为它意味着可以在资源受限的设备上部署更复杂的AI模型,从而提升应用的智能化水平和用户体验。同时,这也表明AI技术正逐渐向边缘计算领域扩展,使得AI应用更加广泛和便捷。

原文始发于微信公众号(百朋AI学堂):微软发布Phi-3系列AI模型,phi-3-mini模型可部署在手机上