AI 强者：Snapdragon 8 Gen 2 AI 功能深入探讨 [+视频]

heyjoypaul

如果您错过了去年 Snapdragon 峰会上发布的Snapdragon 8 第二代移动平台，那么您有机会通过我们录制的直播听到一些最激动人心的亮点。您会注意到，在为期三天的活动中，大量提到了人工智能 (AI)，其中最引人注目的是我们迄今为止推出的 最强大的AI 引擎，位于 Snapdragon 8 Gen 2 移动平台内。

让我们深入探讨我们为今年的高通人工智能 台湾WhatsApp 号码 引擎所做的最重要的性能和能效技术创新。

高通图像
专用电力输送系统
我们对 Snapdragon 8 Gen 2 的 Qualcomm Hexagon 处理器进行的架构改进包括专用的电力传输系统，这就像升级您家中的电气断路器系统一样。现在，Hexagon 处理器拥有自己的断路器和专用电力传输系统。这使我们能够自由地将一定量的功率转移到 Hexagon 以适应其工作负载 - 提高繁重工作负载的性能或降低功耗以实现极大的节能。   

微瓦片推理  
微块推理是业界首创的以超低功耗提升人工智能性能的方法。推理深度学习神经网络的一种传统方法是将整个网络加载到 Hexagon 中，运行网络的一层，然后写入双倍数据速率 (DDR) 内存，然后读取第二层，运行，写入 DDR ，然后重复。  

此方法需要对网络中的每一层进行 DDR 读写。对于具有多层的更大的神经网络 (NN)，这将成为一项非常昂贵的操作，并且会消耗大量电量。该方法还缺乏对所有加速器的利用，因为处理器的三个加速器（标量、矢量和张量）一次只有一个处于活动状态。   

业界解决内存问题的另一种方法是一种称为深度优先加速的技术。该概念基于将 NN 层分割成更小的图块，在一个图块上执行多个层，然后读取到内存中。这消除了对 DDR 内存的中间读取和写入。  



微图块推理是一项新技术，由最新的 Hexagon 处理器实现。由于标量加速器中提供大量紧密耦合的控制处理，我们可以将神经网络层分割成更小的微块，从而加快深度和复杂神经网络的推理过程，并实现更好的节能效果。 Hexagon处理器具有足够的控制处理能力，可以将单个网络分解成数万个微块。通过同时运行多个微块，标量、矢量和张量加速器都会同时工作，组合多达 10 个或更多层，以消除几乎所有中间内存读写。微块加速是在 Hexagon 处理器上进行硬件加速，可与任何正在推理的神经网络配合使用。  

加快变压器网络速度
除了微瓦片推理之外，我们还加速了激活函数和组卷积，并将张量加速器的性能提高了一倍。通过所有这些准备工作，我们现在可以处理更难、更复杂的神经网络，例如变压器网络——一种通过跟踪顺序数据中的关系来学习上下文的复杂网络。它具有多种应用程序，例如语言翻译、转录以及您每天使用的相机用例中改进的图像分割。随着我们在移动领域的庞大生态系统，越来越多的应用程序正在采用变压器网络。