Hyena Edge由Liquid AI发布，引领智能手机边缘设备革新潮流
发布时间：2025-04-27 11:17:37 | 责任编辑：吴昊 | 浏览量：9 次
《Hyena Edge由Liquid AI发布，引领智能手机边缘设备革新潮流》相关软件官网
Liquid AILiquid AI近日在国际学习表示会议（ICLR）2025前发布了新款模型 “Hyena Edge”。这是一款基于卷积的多混合模型，旨在为智能手机及其他边缘设备提供更高效的人工智能解决方案。该公司成立于波士顿，源自麻省理工学院(MIT)，致力于超越目前大多数大型语言模型(LLM)所依赖的 Transformer 架构。
Hyena Edge 在计算效率和语言模型质量方面均表现出色。根据实测数据，在三星 Galaxy S24Ultra 手机上，Hyena Edge 的延迟更低，内存占用更少，并且在各项基准测试中表现优于相同参数的 Transformer++ 模型。这一新架构的设计标志着边缘人工智能技术的新纪元。
与市面上大多数为移动部署设计的小型模型不同，Hyena Edge 放弃了传统的重注意力设计，取而代之的是利用 Hyena-Y 系列的门控卷积，替换了三分之二的分组查询注意力（GQA）操作。Hyena Edge 的架构源于Liquid AI的 “定制架构合成”(STAR)框架，该框架通过进化算法自动设计模型结构，以优化延迟、内存使用和模型质量等多个硬件特定目标。
为验证 Hyena Edge 的实际应用能力，Liquid AI在三星 Galaxy S24Ultra 上进行了测试，结果显示该模型在较长序列长度下的预填充和解码延迟速度比 Transformer++ 快了30%。同时，在所有测试的序列长度下，Hyena Edge 的内存使用量均低于传统模型，这使其成为资源受限环境中的理想选择。
在基准测试方面，Hyena Edge 在1000亿个标记上进行了训练，并在包括 Wikitext、Lambada、PiQA、HellaSwag、Winogrande、ARC-easy 和 ARC-challenge 在内的多个标准小型语言模型测试中表现出色，尤其在 Wikitext 和 Lambada 的困惑度评分上有显著提高，PiQA、HellaSwag 和 Winogrande 的准确率也有所提升。
Liquid AI还计划在未来几个月内开源一系列Liquid基础模型，包括 Hyena Edge，旨在构建能够从云数据中心扩展到个人边缘设备的高效通用人工智能系统。Hyena Edge 的成功不仅在于其卓越的性能指标，更展示了自动化架构设计的潜力，为未来的边缘优化人工智能设定了新的标准。
官方博客:https://www.liquid.ai/research/convolutional-multi-hybrids-for-edge-devices
划重点:
🌟 Hyena Edge 是Liquid AI公司推出的新型卷积模型，专为智能手机等边缘设备设计。
🚀 该模型在计算效率和内存使用上优于传统的 Transformer++ 模型，适合资源受限的环境。
📈 Hyena Edge 在多个标准语言模型基准测试中表现卓越，并计划在未来开源以促进技术普及。
Liquid AI 近日推出了 Hyena Edge 模型，这是一款专为智能手机及其他边缘设备设计的基于卷积的多混合模型，标志着智能手机边缘设备新时代的到来。
技术特点
- 架构创新：Hyena Edge 采用了一种全新的架构，摒弃了传统的重注意力机制，而是用 Hyena-Y 系列的门控卷积替换了三分之二的分组查询注意力（GQA）操作。这种设计源自 Liquid AI 的 “定制架构合成”（STAR）框架，该框架通过进化算法自动设计模型结构，优化延迟、内存使用和模型质量等多个硬件特定目标。
- 性能优势：在三星 Galaxy S24 Ultra 智能手机上的测试显示，Hyena Edge 的预填充和解码延迟比参数匹配的 Transformer++ 模型快了 30%，且随着序列长度增加，速度优势更加明显。此外，Hyena Edge 在所有测试序列长度下均使用更少的 RAM，非常适合资源受限的边缘设备。
- 语言模型质量：Hyena Edge 在 1000 亿个标记上进行了训练，并在多个标准小型语言模型测试中表现出色，包括 Wikitext、Lambada、PiQA、HellaSwag、Winogrande、ARC-easy 和 ARC-challenge。尤其在 Wikitext 和 Lambada 的困惑度评分上有显著提高，PiQA、HellaSwag 和 Winogrande 的准确率也有所提升。
市场定位
- 边缘设备优化：Hyena Edge 的设计目标是为智能手机和其他边缘设备提供更高效的人工智能解决方案，使其能够在本地运行复杂的 AI 工作负载。其低延迟和低内存占用的特性使其成为资源受限环境中的理想选择。
- 开源计划：Liquid AI 计划在未来几个月内开源 Hyena Edge，以推动技术的更广泛应用。这一举措将有助于开发者和企业更便捷地在边缘设备上部署 AI 应用，进一步拓展 AI 在移动设备上的应用场景。
Hyena Edge 的推出不仅展示了替代架构在实际应用中的潜力，也为边缘优化 AI 设定了新的标准。随着移动设备对 AI 功能的需求不断增加，Hyena Edge 有望成为未来边缘计算的重要支柱。
本网站(https://aigc.izzi.cn)刊载的所有内容，包括文字、图片、音频、视频等均在网上搜集。
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律的规定，不得侵犯本网站及相关权利人的合法权利。除此以外，将本网站任何内容或服务用于其他用途时，须征得本网站及相关权利人的书面许可，并支付报酬。
本网站内容原作者如不愿意在本网站刊登内容，请及时通知本站，予以删除。
