苹果MLX架构全面兼容阿里巴巴Qwen 3系列

阿里巴巴旗下的通义千问团队于2025年6月17日正式发布并开源了Qwen 3全系列32款MLX量化模型。这一举措意味着Qwen 3模型已经全面适配苹果的MLX架构，能够高效运行在苹果的M系列芯片设备上。

适配背景

MLX是苹果开发的开源机器学习框架，专为苹果自研芯片（如M1、M2、M3等）设计，能够充分利用苹果设备的高性能神经引擎（Neural Engine）和统一内存架构（Unified Memory Architecture），从而实现更快的推理速度和更低的能耗。此前，苹果机器学习科学家Awni Hannun曾表示，Qwen 3与MLX是最佳搭档。

适配内容

此次发布的Qwen 3系列模型基于MLX框架进行了深度优化，每款模型均提供4bit、6bit、8bit和BF16四种不同精度的量化版本。这种多样化的量化选项使得Qwen 3能够适应从高端设备（如Mac Pro、Mac Studio）到低端设备（如iPhone）的各种硬件条件。

适配意义

• 全场景覆盖：Qwen 3模型的适配使得从Mac Pro、Mac Studio到Mac mini、MacBook，再到iPad和iPhone等苹果设备都能轻松部署。

• 性能提升：在苹果设备上，Qwen 3能够实现更快的推理速度和更低的能耗。例如，在M2 Ultra芯片上运行235B混合专家模型（MoE）时，仅需132GB内存即可实现每秒28个token的生成速度。

• 隐私保护：由于MLX框架支持直接从Hugging Face加载模型，简化了模型部署流程，开发者可以在本地设备上运行Qwen 3模型，无需复杂的环境配置。

未来展望

此次适配被业内视为阿里巴巴为国行Apple Intelligence（苹果智能）做准备的重要一步。此前有消息称，阿里巴巴将成为苹果在中国大陆的大模型合作商。尽管苹果智能在iOS 18.4版本中已经支持简体中文，但其生成式人工智能功能尚未在中国大陆正式上线。此次Qwen 3与MLX架构的适配，可能意味着苹果智能在中国大陆的落地仍在按部就班地推进。