虽然花了很长时间，但微软终于兑现了为 ARM 上的 Windows提供一整套开发者工具的承诺。从硬件到软件，还包括对 ARM 特定平台功能的支持。时机恰到好处。这是因为最新一代的 Surface 设备在英特尔 i7 等硬件上搭载了微软基于高通的 SQ3 处理器。
ⓒ 盖蒂图片银行
微软专注于 ARM 的战略中最有趣的部分是它与 Windows 中基于机器学习的应用程序的集成。当微软发布 Surface 时，它展示了使用 SQ3 神经处理单元 (NPU) 的实时音频和视觉处理，以及使用预训练模型的背景模糊和噪声消除。据微软称，SQ3 NPU 每秒可执行 15 万亿次运算，因此开发人员有足够的空间在代码中使用它。这比在 CPU 上运行模型快 80 到 90 倍，比在 GPU 上运行模型快 20 倍。
通过神经网络处理加速人工智能
NPU 在 Windows 中是新事物，但 老挝 WhatsApp 号码数据 它是超大规模云中的关键元素。带有自己的 NPU 的 ARM 片上系统是微软首席执行官 Satya Nadella 所说的“智能边缘”的重要组成部分。Microsoft 已使用 Intel NPU 硬件和 NXP ARM 处理器在其 Azure Percept IoT 设备中实现了此配置。它在云中构建和训练机器学习模型，然后以标准格式导出它们，并利用 NPU 硬件在本地运行时运行它们。
抛开微软自己的模式不谈，如果我们想打造自己的模式怎么办？虽然有些部分还不清楚，但整体情况已经大体揭晓。
您应该从低成本的开发硬件开始。基于 ARM 的 Surface Pro 9 及其前身 Surface Pro 微软也认识到了这一点，并在今年早些时候的 Build 大会上宣布了基于 ARM 的开发硬件“Project Volterra” 。
Volterra 项目 © Microsoft
经过几次供应链延迟后，该硬件现在以Windows Dev Kit 2023 的形式提供，价格低廉，为 599 美元。它配备了Snapdragon 8cx Gen 3 处理器、32GB RAM 和 512GB 存储。尽管它没有 5G 连接，但您可以将其视为基于 ARM 的 NUC，它使用基于 ARM 的 Windows 设备中使用的移动硬件的变体。
该产品设计为可堆叠式，使开发人员能够更轻松地使用桌面上的多个设备进行编码、构建和测试。性能和存储容量足以运行 Visual Studio 实例和测试。更复杂的任务可以留给在 Azure 上运行的 Ampere Altra 服务器完成。
由于微软将 NPU 视为 Windows 的未来
因此需要一个以 NPU 为中心 数字列表 的开发平台，例如这种基于 ARM 的系统。高通声称其 AI Engine NPU 达到 29 TOPS，并表示它支持“在轻薄笔记本电脑上运行的云规模模型。通过将这些任务从 CPU 卸载到 NPU，八个 ARM 内核和 GPU 可以使用和渲染 NPU 输出，以保持应用程序的响应能力。微软在最近的 Surface 发布会上展示的一个示例应用程序展示了它在实践中的工作原理。SQ3的NPU管理复杂的音频和视频任务，结果通过现有的相机应用程序合成并显示在Teams等工具中。
Microsoft NPU 支持的核心是 ONNX（开放神经网络交换），一种便携式神经网络格式。ONNX 利用 Azure 机器学习平台的计算能力来构建和训练模型，然后通过 Windows ML 或 ML.NET API 或直接使用 Qualcomm 神经处理 SDK 将其导出以在 Windows 设备上本地运行。
目前，Windows ARM 设备需要使用 Qualcomm 工具来访问 NPU。如果微软和高通联手为 AI Engine API 开发 DirectCompute 包装器，则可能会支持 Windows ML 和 ML.NET，但目前在基于高通的 ARM 设备或英特尔硬件上运行 ONNX 需要单独的要求。需要构建您的应用程序版本。.NET ONNX 运行时库已经有高通优化版本，因此在高级工具中实现它应该相对容易。
Microsoft 和 Qualcomm 提供了完整的工具链，用于在 Windows Dev Kit 2023 硬件上创建 NPU 应用程序。Visual Studio 2022 的 ARM 版本已提供预览版，并且还计划发布 ARM 优化的 .NET 7。您还可以注册适用于 AI 的 Qualcomm 神经处理 SDK 的私有 Windows 版本，通常以其旧名称 Snapdragon 神经处理引擎 (SNPE) 来引用。
