推动终端生成式AI发展 高通亮相WAIC并获大奖

世界人工智能大会在2023年7月6日-8日于上海举办，本届大会以“智联世界 生成未来”为主题，打造“会议论坛、展览展示、评奖赛事、应用体验”四大核心内容，汇聚世界顶级科学家、企业家、政府官员、专家学者、国际组织、投资人、初创团队等，搭建世界级合作交流平台。

高通作为终端侧AI领导者，在本次大会中进行了多场主题演讲，并展示了终端侧AI在智能手机中的最新应用。参会者能够在高通的展台中亲自体验生成式AI在终端侧的高效运行，共同领略生成式AI所创造的未来体验。此外，高通AI引擎荣获2023世界人工智能大会顶级奖项：SAIL奖——卓越人工智能引领者奖，助力AI体验创新和繁荣发展。

高通技术公司首席商务官Jim Cathey

高通技术公司首席商务官Jim Cathey在首日全体会议——产业发展论坛期间，发表主题为“5G赋能智能互联的未来”的演讲。其表示，5G对于一个更加智能的世界至关重要，不仅推动了智能的规模化扩展，还能够使在边缘侧生成的情境相关数据与云端近乎实时地共享。在智能手机领域，5G和AI的结合是现代智能手机体验的基础;除智能手机之外，连接和智能正在开启工业创新和数字化新时代。

高通AI引擎荣获大奖 云端+边缘侧混合AI助力生成式AI发展

高通在人工智能兴起之时就十分关注边缘侧AI发展，认为云端和边缘终端AI协同工作的混合AI模式，能够实现更强大、更高效的AI体验。对目前流行的生成式AI，混合AI可充分利用边缘侧终端算力来降低成本，而且在隐私和安全方面也占尽优势。

骁龙移动平台是高通在终端侧AI的重要布局，第二代骁龙8移动平台搭载最先进的高通AI引擎，通过一系列软硬件创新带来更强大的算力和更高的效率，能充分满足终端侧AI应用，结合高通AI软件栈和AI Studio提供全栈AI能力和优化手段，并与云端协同打造适应大模型时代的混合AI处理框架，创造手机端的新型AI体验。

混合AI具有终端的快速响应能力，也具有云端的准确性，可自由的在云端和终端侧之间分配负载，对在阈值以下的轻量级模型，推理即可完全在终端侧进行。如果是更复杂的任务，模型则可以跨云端和终端运行，并在需要时通过云端来更正终端侧的处理结果。

随着生成式AI模型的不断缩小，再加上终端侧算力的高速提升，混合AI的潜力将会进一步增长。目前参数超过10亿的模型已经能够在手机上运行，性能与精度可以媲美云端。再加上终端侧在本地运算的方式，对用户隐私数据和安全性的优势也相当明显。

第二代骁龙8移动平台的高通AI引擎赋予了手机端创新的AI体验，并荣获了2023世界人工智能大会SAIL奖——卓越人工智能引领者奖。SAIL奖作为人工智能领域高规格、国际化的奖项，在2023年持续追踪人工智能技术发展、生成式人工智能引发的行业热潮，探索AIGC催化的产业新业态，关注新一代人工智能的技术策源，加速AI新奇点与理论新发现的融合，用以奖励在人工智能领域达到全球领先水平的创新技术和新型应用的项目。

第二代骁龙8实现端侧生成式AI高效体验

目前高通已经实现了在手机端通过模型来生成图片，并且在WAIC现场进行了DEMO演示。首先是运用Stable Diffusion模型，通过给出TAG文字标签让AI模型在手机本地自动生成一张图片。Stable Diffusion是可以在本地运行的，但是需要很高的配置，尤其是显卡要求极高，否则生成一张图片就要几十分钟的时间。高通的展示中，Stable Diffusion在一台骁龙8 Gen2手机中运行，以本地化的端侧算力，20个推理步骤不到15秒时间即可生成一张图片，运行效率非常惊人。

除此之外，高通还展示了手机端ControlNet生成图片的体验，其同样使用骁龙手机通过端侧AI算力实现。ControlNet能够让生成的图片高度受控，能够利用预先提供的图片特征，来精准控制生成图片。比如简单的手绘一张猫咪草图，然后给AI相应的文字描述，之后AI就会以草图为标准，生成符合TAG的图片。

在高通的展示中，预先提供一张背影照片，在通过TAG标签，即可让AI精准生成一张身处海边的黄昏时刻背影大片。而生成一张这样的照片，只需要11.28秒的时间。

ControlNet解决了纯文字生图大模型无法定向控制生成图片的难题，而能够在端侧实现快速生成图片，离不开强大AI算力的支持。骁龙移动平台的高通AI引擎采用异构运算，能够同时调用CPU、GPU和Hexagon处理器，以达到最大化的运算效率。第二代骁龙8移动平台在升级的高通Hexagon处理器支持下，张量加速器带来4.35倍的AI性能提升，能效方面最高有60%提升。Hexagon处理器还提供专用供电系统、支持微切片推理、INT4精度、Transformer网络加速等创新技术，可结合高通AI软件栈和AI Studio提供全栈AI能力和优化手段。

第二代骁龙8移动平台凭借超高算力助力终端侧AI有的高效运算能力，同时兼顾了低功耗运算，满足手机端对续航的需求，助力骁龙手机在终端侧率先支持Stable Diffusion、ControlNet等生成式AI用例。

(本文转自PChome)