尽管存在质疑声音，人工智能功能依然是现代智能手机创新的基石。但要快速高效地驱动最新最强大的 AI 工具，就需要能够胜任这一任务的处理器，无论是专用的 AI 加速器，还是配备特殊指令以加速机器学习工作负载的 CPU。
在一篇博客文章中，Arm 详细介绍了其可扩展矩阵扩展 2（SME2）CPU 扩展的相关内容，并暗示这一技术将在未来搭载下一代移动 CPU 的安卓智能手机上推出。根据此前的公告，这很可能会在未来几个月内实现，并且将以 Lumex 品牌取代之前的 Cortex 品牌。
简单来说，SME 最初是 Armv9 架构的一部分，是一组可选的高级 CPU 架构扩展，专门设计用来加速矩阵数学运算——这是机器学习算法依赖的复杂乘法运算类型。SME2 实际上在 2022 年底左右首次亮相，它基于这些功能，Arm 表示该技术支持实时移动推理任务，涵盖图像处理、自然语言处理以及语音生成等应用。
SME2 加速了你 CPU 上的 AI 工作负载，它即将登陆未来的安卓手机。
Arm 还分享了一些数据，这些数据无疑让 SME2 看起来非常有实力。根据 Arm 的说法，谷歌的 Gemma 3 模型在采用 SME2 增强硬件后，AI 响应速度提升了 6 倍。该模型仅用单个 CPU 核心，就能在不到一秒钟内完成对 800 字文本的摘要，虽然目前还不清楚 Arm 指的是哪款 CPU。
这一切对未来的文本摘要和智能回复功能来说非常有前景，这些功能的响应速度可能远超现有实现。无论如何，对消费者来说，此次发布的核心信息是 SME2 硬件能力“即将”登陆安卓智能手机。
面向移动设备的服务器级功能
到目前为止，SME 由于其高要求，主要应用于服务器和工作站级别的处理器。然而，SME2 设计得更具可扩展性，可以部署在功耗较低的设备上，比如笔记本电脑、平板电脑，以及即将推出的高端智能手机。虽然安卓芯片大多跳过了原始的 SME 版本，但苹果目前用于 iPad 的 M4 芯片是最接近支持 SME2 的移动设备。不过，苹果尚未将该功能引入 iPhone 系列。这为下一代安卓设备在 AI 性能上获得显著优势打开了大门。
值得注意的是，安卓系统已经做好了支持 SME2 的准备。SME2 已在谷歌的 XNNPACK 库中启用，并且支持多个框架，如 llama.cpp、阿里巴巴的 MNN 以及微软的 ONNX。同样，开发者若使用 Arm 的 KleidiAI 软件库（与这些框架集成），一旦 SME2 硬件在安卓智能手机上可用，就能自动利用其优势，同时仍保持对 SME 和 NEON 扩展的向后兼容性。这为 SME2 的快速普及提供了极大的便利。
苹果在 iPad 上支持 SME，但 iPhone 上尚未支持。安卓有望实现跨越式领先。
公平来说，我们早已从 Arm 的 Chris Bergey 在 Computex 上得知，SME 将出现在未来的移动 Arm CPU 中。一张演示幻灯片显示，Arm 下一代的 TRAVIS CPU 将支持 SME（根据最新公告，很可能是 SME2）。有传闻称这款核心将用于联发科的天玑 9500，以及可能的其他下一代移动 SoC，比如三星的 Exynos 系列。谷歌的 Tensor 通常会落后几代，但预计到 2026 年的 Tensor G6 可能会采用 Arm 的 SME 技术。
不过，由于高通现在采用定制 CPU 核心路线，即将推出的骁龙 8 Elite 2 可能不会具备相同的功能，这意味着大量下一代安卓旗舰机型不会立即支持 SME2。根据早期传闻，骁龙 8 Elite 2 将支持 SME1 和 SVE2 扩展，这仍然是对现有架构的显著升级，但不会具备与 Arm 自家 Lumex 核心相同的 SME2 能力。苹果自研芯片是否会在下一代实现自己的 SME 方案还有待观察。考虑到 A18 芯片已经基于 Armv9.2 架构，但若要引入 M4 上采用的 SME2 硬件，还需要将其集成到自家的定制手机 CPU 核心中。
无论如何，在智能手机的 CPU 上实现更快的机器学习运行都是一件大事。对于终端用户来说，更好的性能意味着在文本摘要、设备端翻译和图像识别等多种任务上都有显著提升，但这对整个 AI 开发生态系统来说也是一个积极的进展。尽管 Android NN 已经存在，但针对 SoC 上专用的机器学习硬件进行编码对于较小的开发者来说仍然是一项繁重的工作，他们更倾向于运行在 CPU 上以覆盖更多设备。
在 CPU 上直接支持更强大指令集的手机，将极大地促进这些应用场景的发展。如果事实如此，这将是下一代安卓智能手机的又一大胜利，而其最大的竞争对手苹果在 AI 领域仍然处于起步阶段。