高通掀起技术旋风,开创端侧AI新纪元

近日,全球最大规模的通信展MWC2024拉开帷幕,在今年的MWC上,AI也当之无愧的占据了C位。产业链上下游,小到芯片、设备商,大至系统、软件、终端品牌,全都将AI相关技术设为了重点展示技术。

  作为全球领先的无线通信技术和移动处理器的制造商,高通一直在积极推动AI技术的发展和应用。因此,在MWC2024上高通再次推出新的举措,用AI赋能生态,助力厂商和开发者把握AI机遇,进一步推动AI技术的广泛应用。

高通1.jpg

  在MWC2024上高通展示了一系列新技术,包括高通AI Hub、骁龙X80 5G调制解调器及射频系统、高通FastConnect 7900移动连接系统等,但这些所有新技术、产品都都与AI进行了深度融合,高通用AI赋能生态,助力厂商和开发者把握AI机遇,进一步推动了AI技术的广泛应用。

高通构建从算力到应用开发的AI全栈支持

  作为全球领先的无线科技创新者,高通在AI方面有着十余年的技术积累,尤其是从第二代骁龙8开始,高通便展示出其在生成式AI方面的强大优势,其在2023年初就已经可以在本地支持运行Stable Diffusion、ControlNet等生成式AI大模型。

  随后2023年11月发布的第三代骁龙8更是将终端产品的AI能力进一步提升,例如支持终端侧运行高达100亿参数的生成式AI模型,以每秒生成20个token的速度运行70亿参数的大语言模型,并支持Stable Diffusion在0.6秒内生成图像。

  而在端侧实现大模型的部署到流畅运行,这一切都源于骁龙芯片强大的性能。每一代的旗舰骁龙芯片,都拥有着绝对的性能优势。最新发布的第三代骁龙8,更是将其性能优势进一步放大,其所搭载的高通Kryo CPU主频高达3.3GHz,与前代平台相比性能提升30%,能效提升20%;高通Adreno GPU性能和能效均提升高达25%。这为AI大模型在端侧运行提供了强有力的算力支撑。

  而针对AI方面的优化同样是高通的强项,其将Hexagon NPU性能提升98%,能效提升40%,因此,即便是更为复杂大语言模型、大视觉模型以及生成式AI应用,都能在它的加持下在端侧流畅运行。

  在第三代骁龙8强大的算力能力以及基于AI的优化助力下,智能手机市场很快兴起了一阵AI热潮,几乎所有的手机厂商都在AI领域集结完毕。毫不避讳的说,是高通通过前瞻性的战略眼光以及行业内绝无仅有的技术优势,引领了手机产品的AI化风潮。

  虽然高通推动了AI在端侧的部署,综合来看,现阶段用户在不同品牌手机中可用的AI功能还只是初期阶段。比如,AI的体验都集中在创意文本撰写、语音摘要、智能消除等等,而这显然还无法完全满足用户对于AI变革的期待。

  在这样的背景下,高通再度发力,在MWC上发布了AI Hub,高通AI Hub的推出,是高通在AI研发历史和开发者生态布局上的又一重要举措。据了解,高通AI Hub带来了超过75个预优化AI模型的全新模型库,支持在搭载骁龙和高通平台的终端上进行无缝部署。开发者可将这些模型无缝集成进应用程序,缩短产品上市时间,发挥终端侧AI部署的诸多优势,比如即时性、可靠性、隐私、个性化和成本优势。上述模型现已在高通AI Hub、Hugging Face和GitHub上提供,开发者只需通过几行代码,即可在搭载高通平台的云托管终端上自行运行模型。

高通2.jpg

  随着高通AI Hub的出现,将进一步降低行业用户的大模型应用开发难度,消弭开发成本。通过高通AI Hub解决方案,开发者打造AI应用将会变得简单和高效。打破大模型的应用同质化,让大模型真正融入产品赋能用户,看起来只是时间问题。

赋能产品高通进一步释放AI力

  在 AI大模型日益火热的今天,对于各类终端产品来说,如何以最高效率、最低成本,将大模型变成自身所需的场景化解决方案才是关键。对于此,高通基于自身平台为大众展示了全新的解决方案。在本届MWC展会上,高通带来了一系列先进的AI技术的应用展示。

  高通展示了全球首个在搭载第三代骁龙8的Android手机上运行的多模态大模型(LMM)。该LMM模型支持超过70亿参数,不仅能够接受文本输入,还可以接受图像、音频等其它输入数据类型,并能够基于输入的内容进行多轮对话。

高通3.jpg

  该模型能够实现丰富而强大的应用体验。比如你可以拍摄一张食物照片,然后询问AI:这些食材都是什么?根据这些食材能够做什么菜?每道菜的热量是多少?AI助手就能够基于视觉内容提供丰富的信息。

  此外,高通还展示了首个在Android手机上运行的LoRA模型。LoRA能够在不改变底层模型的前提之下,调整或定制模型的生成内容。通过使用很小的适配器(大小仅为模型的2%,便于下载),就能够个性化定制整个生成式AI模型的行为。

高通4.jpg

在演示中,模型能够根据不同个人或艺术偏好创建高质量自定义图像。LoRA是面向终端侧生成式AI的关键技术,它能够提升效率,可扩展性以及定制化能力。这一技术不仅能够运用于图像生成,也可以应用于大语言模型等多种生成式AI模型,是实现个性化生成式AI的高效方式。

  特别值得一提的是,该模型所有的AI功能完全在终端侧运行,能够以非常及时的响应速度生成token,并且更好地保护隐私。

  不仅仅是在手机产品上,在搭载全新骁龙X Elite平台的Windows PC上,高通带来另一个多模态AI的演示。这是全球首个在Windows PC上运行的音频推理多模态大模型,它能理解鸟鸣、音乐或家中的不同声音,并且能够基于这些信息进行对话,为用户提供帮助。

高通5.jpg

  该多模态大语言模型能够理解用户输入的音乐类型和风格,为用户提供音乐的历史以及相似的音乐推荐,或通过对话的方式为用户调节周围的音乐。同样,以上模型经过优化,能够实现出色的性能和能效,并完全在终端侧运行,以充分发挥骁龙X Elite的强大能力,增强隐私性、可靠性、个性化以及成本优势。

  高通对于端侧AI的部署不仅局限于手机、PC上,在汽车、Wi-Fi设备、网络基础设施等设备中,高通都通过领先的边缘AI以及高性能低功耗处理能力,帮助他们打造个性化的、基于AI的使用体验。

高通6.jpg

  技术是达成目标的手段,提升用户体验才是终极目标,高通站在技术能力提升和产品迭代创新的第一线,不断加速端侧AI的布局和推进。未来,高通将继续深化在AI领域的布局,不断推动技术进步,以实现更多场景的智能化应用,为用户提供更加智能、个性化的解决方案。

  写在最后:高通以算力为基,不断推动端侧AI快速发展,在当下这个全球科技不断进步和市场日益多元化的今天,高通正以其深厚的技术积累赋能开发者,并以持续创新精神积极应对挑战,为未来的通信科技领域描绘出一幅充满无限可能的AI蓝图。



本文由北方智慧生活网资讯网发布,不代表北方智慧生活网资讯网立场,转载联系作者并注明出处:https://beifangzhijia.com/hulianwang/506.html

您可能还会对下面的文章感兴趣: