首页 > 快讯 > 微软推出了重磅新品Mu: 3.3亿参数的紧凑型模型,专为设备端设计,成为Windows11 AI助手背后的智能技术核心

微软推出了重磅新品Mu: 3.3亿参数的紧凑型模型,专为设备端设计,成为Windows11 AI助手背后的智能技术核心

发布时间:2025-06-24 14:55:58 | 责任编辑:吴昊 | 浏览量:6 次

微软正式宣布推出全新设备端小语言模型(SLM)Mu,专为Windows11的设置应用打造智能AI代理,标志着本地化AI技术在操作系统交互中的重要突破。作为一款紧凑高效的模型,Mu通过深度优化神经处理单元(NPU)运行,为用户提供低延迟、高隐私的自然语言交互体验。小编基于最新信息整理了Mu的亮点与行业影响,带您一探究竟。
Mu:专为Windows设置设计的智能核心
Mu是一款拥有3.3亿参数的编码器-解码器语言模型,专为Co pilot+ PC上的NPU优化,目标是通过自然语言指令简化Windows设置操作。例如,用户只需说出“打开暗黑模式”或“调高屏幕亮度”,Mu即可直接调用相应设置功能,无需手动导航复杂菜单。这一AI代理目前已在Windows Insiders Dev Channel的Co pilot+ PC上开放测试,支持数百种系统设置的精准理解与执行。
Mu的关键特性包括:
高效本地处理:完全在设备端运行,响应速度超过每秒200次样本生成,首词生成延迟降低约47%,解码速度提升4.7倍。
隐私优先:本地化处理无需将用户数据发送至云端,显著提升数据安全性。
硬件协同:与AMD、英特尔和高通的NPU深度适配,确保跨平台的高性能表现。
这些特性使Mu成为Windows11用户交互的革命性工具,尤其适合追求效率和隐私的个人与企业用户。
技术创新:从云端到边缘的优化之路
Mu的开发依托微软在小语言模型领域的深厚积累,继承了此前Phi-Silica模型的经验。 其采用编码器-解码器架构,相较于传统的仅解码器模型,显著降低了计算和内存开销,特别适合边缘设备。微软通过以下技术实现了Mu的极致效率:
量化技术:将模型权重从浮点数转换为低位整数,减少内存占用并提升推理速度,同时保持高精度。
参数共享:输入编码与输出解码共享权重,进一步压缩模型规模。
任务特定微调:利用超过360万个样本对Mu进行微调,使其精准理解Windows设置相关的复杂指令。
Mu的训练过程在Azure机器学习平台上使用NVIDIA A100GPU完成,结合高质量教育数据和Phi模型的知识蒸馏技术,确保了模型在小规模参数下的卓越性能。
用户体验:从繁琐菜单到自然对话
Windows设置应用的复杂性长期以来困扰着用户,Mu的出现彻底改变了这一现状。通过自然语言交互,用户无需深入菜单即可完成设置调整,极大地降低了操作门槛。 例如,对于模糊指令如“提高亮度”(可能涉及主显示器或副显示器),Mu通过优先处理常见设置和结合传统搜索结果,确保指令的准确执行。
目前,Mu仅支持搭载高通骁龙X系列处理器的Co pilot+ PC,但微软已承诺未来将扩展至AMD和英特尔平台的NPU设备,覆盖更广泛的用户群体。
行业意义与未来展望
Mu的发布不仅是微软在设备端AI领域的里程碑,也反映了行业向高效、隐私导向的边缘计算AI发展的趋势。与依赖云端的大型语言模型(LLM)相比,Mu以更低的资源消耗实现了接近Phi-3.5-mini的性能,展现了小模型的巨大潜力。
然而,Mu的部署仍面临挑战:
硬件限制:当前仅限于部分高端Co pilot+ PC,普及速度取决于NPU硬件的推广。
复杂指令处理:对于模糊或多义指令,Mu的理解能力仍有优化空间。
生态扩展:业界关注微软是否会开放Mu供开发者定制,或扩展至其他应用场景。
小编认为,Mu的成功将推动操作系统与AI的深度融合,未来或将催生更多本地化AI代理,重新定义人机交互范式。我们将持续关注Mu的更新与反馈,敬请关注小编的Twitter账号,获取最新AI技术动态。
博客:https://blogs.windows.com/windowsexperience/2025/06/23/introducing-mu-language-model-and-how-it-enabled-the-agent-in-windows-settings/

微软推出了重磅新品Mu: 3.3亿参数的紧凑型模型,专为设备端设计,成为Windows11 AI助手背后的智能技术核心

微软于2025年6月24日宣布推出Mu,这是一款内置于Windows 11的新型设备端小型语言模型。以下是关于Mu的详细介绍:

基本信息

  • 参数规模:Mu拥有3.3亿参数,与微软之前发布的Phi-3.5-mini模型相比,体量仅为后者的十分之一。

  • 架构设计:采用编码器-解码器架构,这种架构相比同尺寸的解码器模型,能够将首token延迟降低约47%,并将解码速度提高4.7倍。

  • 训练平台:微软利用NVIDIA A100 GPU在Azure机器学习平台上对Mu进行了训练。

运行效率

  • 运行速度:Mu能够在配备专用神经处理单元(NPU)的设备上高效运行,在本地以每秒超过100个token的速度运行,这在小参数模型领域非常罕见。

  • 功耗表现:其设计注重能效,能在低功耗设备上实现高性能。

应用功能

  • 系统设置优化:Mu被集成到Windows 11的系统设置应用中,为用户提供更加智能和自然的语言交互体验。用户可以通过自然语言指令,让Mu帮助他们完成系统设置中的各种操作。

  • 搜索功能增强:Mu能够理解用户的自然语言查询,并将其无缝集成到系统设置应用中现有的搜索框内,从而为用户提供更加流畅的使用体验。

使用限制

目前,Mu仅限于使用Copilot+个人电脑的用户使用,且该功能最近已在开发频道向Windows预览体验计划成员开放。如果用户想体验这一全新人工智能代理功能,可以下载Windows 11 Build 26120.3964(KB5058496)或更高版本。

总结

微软推出Mu模型,旨在为Windows 11用户提供更加智能和自然的语言交互体验。Mu凭借其小巧的参数规模和高效的运行性能,在设备端AI交互领域展现出巨大潜力。未来,随着技术的进一步发展和应用场景的不断拓展,Mu有望为用户带来更多便捷和创新的体验。

©️版权声明:
本网站(https://aigc.izzi.cn)刊载的所有内容,包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。除此以外,将本网站任何内容或服务用于其他用途时,须征得本网站及相关权利人的书面许可,并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

最新Ai信息

最新Ai工具

发表回复