# Arm 和 Google 联手，让手机本地跑音频模型快了 2 倍多

> 原标题：加速设备端AI：Arm与Google AI Edge的优化实践

- 来源：AI HOT 精选
- 发布时间：2026-05-14T16:08:39.666Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/20633
- 原文：https://developers.googleblog.com/accelerating-on-device-ai-a-look-at-arm-and-google-ai-edge-optimization

## 摘要

Arm 的新指令集 SME2 把矩阵计算单元直接塞进了 CPU，不用再纠结是忍受 CPU 慢还是外挂专用加速器。

## 推荐理由

Arm 与 Google AI Edge 用 SME2 指令集把矩阵计算单元放进 CPU，手机本地音频模型推理提速 2 倍多、内存占用降为四分之一，端侧推理管线与硬件指令的配合方式由此有了具体样本。

## 锐评

2 倍加速加 4 倍内存缩减，这两个数放在移动端音频模型上挺能说明问题。SME2 把矩阵单元塞进 CPU，等于不用再为跑个语音模型外挂 NPU，省的是整条硬件链路和功耗预算。做端侧语音的可以盯一下这条，但别指望它推广到所有生成式模型，材料里就一款音频模型。反正边缘端延迟和内存这两笔账，能省一个量级就是真金白银。
