NPU 不是 GPU，它更像 AI 推理加速器
NPU 常被简单理解成“AI 芯片”，但更准确地说，它是为神经网络计算优化的专用加速器。

CPU 通用，GPU 并行，NPU 更强调在有限功耗下高效执行 AI 推理。手机、智能摄像头、车载座舱和 IoT 设备里，很多 AI 功能不能一直依赖云端，就需要端侧 NPU 在本地完成推理。

NPU 的核心通常是张量或矩阵计算阵列。模型经过编译和算子映射后，被切分成适合硬件执行的计算任务。权重和特征数据在片上缓存与外部内存之间流动，计算阵列负责高频的乘加运算。

它的价值不只是“算得快”，而是“每瓦能做多少 AI 计算”。端侧设备功耗、散热和电池都有限，能效比往往比峰值算力更重要。

但 NPU 的瓶颈也很现实。不同模型、不同算子、不同框架不一定都能完美适配。模型量化可能带来精度损失，片上缓存不足会增加访存成本，工具链不成熟会提高部署门槛。

所以 NPU 的竞争，不只是硬件阵列规模，还包括编译器、SDK、模型适配、系统接口和应用生态。

看懂 NPU，就会明白端侧 AI 的关键不是把模型塞进设备，而是让模型在本地低功耗、低延迟、稳定运行。