神经处理单元 (NPU) 是处理器制造商提到的最新硬件。这些芯片应该用于处理 AI 处理,每个大型制造商对 NPU 都有自己的看法。让我们看看在不久的将来我们会看到什么。
NPU 及其在笔记本电脑中的位置
如果你现在还没有听说过人工智能电脑及其对更强大处理能力的需求,那么你可能不知道 NPU 已经取得了多大的进展。NPU 应该是现有 CPU 的补充,但专门用于处理人工智能处理。芯片制造商已经注意到在芯片上进行人工智能专用处理的重要性,而 NPU 就是为了解决这个问题而采取的举措。
Snapdragon 的 X Elite 是新 NPU 中的第一款,但英特尔和 AMD 一直在提高赌注,无论是在处理能力还是架构设计方面。这些制造商中的每一家都有专门设计用于Copilot+ PC 的芯片系列,这应该可以释放微软 AI 助手的潜力。
这些芯片主要设计用于笔记本电脑,但这并不意味着我们将来不会看到 NPU 芯片的桌面版本。将现有的产品与预期报告进行比较,我们可以了解 NPU 开发的进展以及在不久的将来可以期待什么。
英特尔的下一代 NPU:NPU 4
英特尔最新的芯片集成了 NPU 和一些新奇的附加功能,使 AI 处理更加高效。NPU 4 包含在英特尔的 Lunar Lake 架构中。深入研究后,您会发现这款 NPU 为 AI 应用程序处理提供了许多好处。
英特尔声称,该 NPU 的峰值处理能力可达每秒 48 万亿次运算 (TOPS),是英特尔迄今为止最强大的 NPU 创新。当前一代 NPU 4 的性能远远超过英特尔上一代 NPU 3,计算能力提高了四倍多。
这部分归因于芯片的架构。该芯片运行两个并行的 NPU,每个 NPU 都有自己独立的推理管道,可以更好地解释任务数据。每个单元都有自己的乘法累加 (MAC) 阵列,这有助于完成 AI 处理所需的复杂矩阵数学运算。最重要的是,每个单元中包含的 SHAVE DSP 的处理能力是其前代产品的四倍,可以创建更复杂的神经网络。
对 Lunar Lake 的研究表明,它可能能够在本地运行微软的 Copilot。此外,Lunar Lake 很可能具有非常高效的功率特征。英特尔表示,他们的 Thread Director 创新将降低 NPU 的能耗,使其成为低功耗应用的有吸引力的选择。
我们什么时候才能使用这项技术?虽然英特尔最初建议软发布该芯片,但Lunar Lake 笔记本电脑现在已经面世。
AMD 的下一代 NPU:XDNA 2
那么 AMD 在 NPU 领域能提供什么呢?AMD 进军 NPU 市场的最新产品是 XDNA 2 芯片。该公司声称,该芯片的性能可以超越英特尔的 NPU 4,可提供 50 TOPS,而 NPU 4 仅为 48。在 XDNA 的第二代产品中,AMD 将芯片上的引擎块从 20 个增加到 32 个。这一增加使两代NPU TOPS 增加了五倍。
XDNA 架构本身基于空间流数据架构。AMD 将其设计为灵活且适应性强,具有动态可编程性,可以为 AI 处理创建自定义层次结构。XDNA 2 引擎本身就是处理技术的一项创新。
我提到过,NPU 有引擎块,这对于系统的适应性至关重要。每个块都可以被视为一个独立的工作器,拥有自己的计算和内存资源。这种独立的处理方法使芯片能够做更多的事情,同时需要更少的功率。该芯片被设计为既能处理标准处理,又能处理 AI 处理,就像微软的 Copilot 一样。
值得注意的是,AMD 是第一家在芯片中包含 NPU 的芯片处理器。虽然这使他们在 NPU 方面处于领先地位,但它也为 AMD 突破 NPU 功能的界限打开了大门,因为他们有将 NPU 与 CPU 集成的经验。如果你想知道什么时候可以试用这些 NPU,它们已经发布了。AMD将于 2024 年 7 月推出首款 Ryzen AI 300 笔记本电脑。
高通的下一代 NPU:Snapdragon X Elite
新一代 NPU 中最早上市的芯片之一是 Snapdragon X Elite。虽然这家芯片制造商对开发移动芯片并不陌生,但这是该公司首次进军笔记本电脑市场。Snapdragon 投入了大量资源来分一杯羹,并表明他们的芯片可以与其他知名制造商竞争。
它的性能略低于英特尔和 AMD 的产品,最大处理能力为 45 TOPS。当该芯片发布时,它的表现优于市场上的所有产品。然而,随着 AMD 和英特尔准备发布其全新改进的 NPU,Snapdragon X Elite 可能超出了其水平。
Snapdragon X Elite 以耗电高于竞争对手而著称,搭载该芯片的笔记本电脑由于芯片产生的热量较多,噪音也更大。X Elite 搭载了 Snapdragon 称之为“Oryon”的新处理器核心。
Oryon 本身就是一项创新,因为它是近几年设计的第一款全新“从头开始”的处理器。它不仅计划用于骁龙未来的 NPU,还将融入移动芯片市场。NPU 是芯片在市场上站稳脚跟的绝佳方式。然而,尽管微软的 Prism 仿真层取得了巨大成功,但 Windows-on-Arm 软件已经出现了问题。
如果您有兴趣测试骁龙对其芯片做了什么,您现在就可以购买笔记本电脑。该公司于 2024 年 4 月放弃了这些笔记本电脑,从那时起,尽管价格昂贵,但它们还是得到了广泛的采用。大多数人都以这些笔记本电脑为起点,看看 NPU 驱动的笔记本电脑与非 NPU 驱动的同类产品相比如何。
笔记本电脑上配备 NPU 重要吗?
如今,人工智能似乎是科技界的一个流行词,而吹捧 NPU 的制造商可能只是在赶潮流。笔记本电脑有必要配备 NPU 吗?当前的人工智能处理迭代主要使用 GPU来完成工作。
除非你正在设计一个在机器上运行的 LLM,或者你真的依赖微软的 Copilot,否则当前一代的 NPU 并不是必需的。然而,它们是未来的标志。虽然你现在可能不需要在你的机器上使用 NPU,但拥有一个 NPU 成为完成某些工作的必要条件只是时间问题。