# Arm 和 Google 联手，让手机本地跑音频模型快了 2 倍多

> 原标题：加速设备端AI：Arm与Google AI Edge的优化实践

- 来源：AI HOT 精选
- 发布时间：2026-05-14T16:08:39.666Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/20633
- 原文：https://developers.googleblog.com/accelerating-on-device-ai-a-look-at-arm-and-google-ai-edge-optimization

## 摘要

Arm 的新指令集 SME2 把矩阵计算单元直接塞进了 CPU，不用再纠结是忍受 CPU 慢还是外挂专用加速器。Google AI Edge 的 LiteRT 和 XNNPACK 能自动调用这套指令，拿 Stability AI 的音频生成模型 stable-audio-open-small 在 Arm 手机上测试，生成速度提升超过 2 倍，内存占用降...

## 推荐理由

我会先打个折：这篇只针对一款音频模型在 Arm 设备上的优化，覆盖面不宽。但 2 倍加速和 4 倍内存缩减这两个数字很实在，不是实验室跑分，是直接落到移动端和笔记本上的效果。文章把 SME2 指令集怎么跟 Google AI Edge 的推理管线配合讲得比较清楚，没有堆术语吓人。对正在头疼边缘端延迟和内存成本的团队来说，这是一条能直接抄作业的参考。信息量够上 featured，但别指望它能推广到所有生成式模型。

## 锐评

这条消息对做端侧推理的人挺实用。Arm 的新指令集 SME2 相当于把原本需要外挂加速器的矩阵运算直接集成进了 CPU，不用再在速度和兼容性之间做取舍。Google AI Edge 这边的 LiteRT 和 XNNPACK 能自动识别并调用这套指令，开发者不用自己改模型结构。拿 Stability AI 的 stable-audio-open-small 在 Arm 手机上跑，音频生成速度提升超过 2 倍，内存占用降到原来的四分之一，这两个数字在手机这种资源紧张的环境里确实能省不少事。

不过得打个折。全文只展示了这一个音频模型的测试结果，没提视觉、语言类模型的表现。不同模型的计算图差异很大，SME2 的加速效果能不能泛化到其他任务，正文没给数据。另外，实际功耗和发热也没披露，这对手机端部署比单纯的速度数字更重要。建议等第三方用更多模型跑一遍再看要不要跟进。