首页 > 快讯 > Microsoft推出迷你参数创新模型Mu:与Phi-3.5-mini性能相当,助力Windows智能体升级

Microsoft推出迷你参数创新模型Mu:与Phi-3.5-mini性能相当,助力Windows智能体升级

发布时间:2025-06-24 09:54:04 | 责任编辑:张毅 | 浏览量:5 次

今天凌晨,微软正式发布了其最新创新小参数模型Mu。 这款模型参数仅为3.3亿,却在性能上能与微软此前发布的Phi-3.5-mini相媲美,而其体量仅为Phi-3.5-mini的十分之一。更令人瞩目的是,Mu在离线NPU笔记本设备上能实现每秒超过100个token的响应速度,这在小参数模型领域是极为罕见的突破。
Mu模型的一大亮点是支持在Windows中设置智能体。用户只需通过自然语言指令,智能体便能实时转化为系统操作,例如,一句“把鼠标指针调大一些,调整屏幕亮度”即可让智能体精准定位并一键完成设置调整,极大地提升了Windows系统的易用性。
Mu模型借鉴了微软之前发布的Phi Silica模型,专为小型本地部署进行优化,尤其适用于配备NPU的Copilot+ PC。其核心架构为仅解码器的Transformer,并在其基础上引入了三大创新:
此外,Mu模型还采用了预热稳定衰减时间表和Muon优化器等先进训练技术来进一步优化性能。微软使用A100GPU对Mu进行训练,遵循Phi模型开发中首创的技术,首先在数百亿个高质量教育token上进行预训练,以学习语言的语法、语义和世界知识。为了进一步提高准确性,Mu还从Phi模型中进行知识蒸馏,实现了显著的参数效率,参数量仅为Phi-3.5-mini的十分之一,却达到了相似的性能。
为提升Windows系统的易用性,微软一直致力于打造一个能理解自然语言并无缝修改系统设置的AI智能体。微软计划将Mu模型驱动的智能体集成到现有搜索框中,以实现流畅的用户体验,这要求对众多可能的设置实现超低延迟响应。
在测试了多种模型后,Mu因其合适的特性被选中。尽管基线Mu模型在未经微调的情况下精度会下降50%,但微软通过将训练规模扩大到360万个样本(提升1300倍),并将处理的设置从约50项扩展至数百项,成功弥补了这一差距。通过采用自动化标注的合成方法、带元数据的提示调优、多样化措辞、噪声注入和智能采样等技术,用于设置智能体的Mu微调模型成功达到了质量目标。测试显示,Mu模型打造的智能体在Windows设置的理解和执行操作方面表现出色,响应时间控制在500毫秒以内。

Microsoft推出迷你参数创新模型Mu:与Phi-3.5-mini性能相当,助力Windows智能体升级

北京时间6月24日凌晨,微软在官网发布了创新小参数模型Mu。以下是关于该模型的详细介绍:

模型概况

  • 参数规模:Mu模型仅有3.3亿参数,但其性能可以比肩微软之前发布的小参数模型Phi-3.5-mini,且体量仅为Phi-3.5-mini的十分之一。

  • 响应速度:在离线NPU的笔记本设备上,Mu可以跑出每秒超过100 tokens的响应,这在小参数模型领域非常罕见。

功能特点

  • 支持Windows智能体:Mu支持在Windows中设置智能体,可将自然语言指令实时转化为系统操作,例如语音调整鼠标指针或屏幕亮度。

重要意义

  • 性能提升:Mu模型在保持较小参数规模的同时,实现了与Phi-3.5-mini相当的性能,这为在资源受限的设备上运行高效的AI模型提供了新的可能性。

  • 应用拓展:通过支持Windows智能体,Mu能够更好地与Windows系统集成,为用户提供更加便捷和智能的交互体验,例如通过语音指令完成系统操作,这将进一步拓展AI技术在个人电脑端的应用场景。

©️版权声明:
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

最新Ai信息

最新Ai工具

发表回复