高通和微软在Microsoft Build开发者大会上携手推动终端侧AI规模化扩展

发布时间:2023-05-24  

要点:

  • 终端侧生成式AI解决方案将查询和推理转移到PC和手机等边缘终端,让开发者和云服务提供商能够打造更加经济可靠,且隐私性更高的生成式AI

  • 高通和微软确认达成合作关系,将面向消费级和企业级终端、以及工业设备,规模化扩展AI能力,为用户带来行业领先的AI体验。

Microsoft Build 2023开发者大会期间,高通技术公司展示了公司最新的终端侧AI创新,包括在骁龙®计算平台上运行生成式AI,以及开发者在采用骁龙平台的Windows 11 PC上创建应用的新路径。

高通技术公司产品管理高级副总裁Ziad Asghar表示:“为了让生成式AI真正为更多人所接受和使用,许多推理工作需要在边缘终端上处理。我们拥有行业领先的AI硬件和软件,可以赋能开发者充分利用我们强大的AI能力,在搭载骁龙平台的笔记本电脑、手机和其他终端上打造令人惊艳的全新用户体验。

AI的未来既需要终端侧AI,也需要云端AI。在终端侧运行AI应用可提升成本效益、增强隐私性、个性化并降低时延。与仅在CPUGPU上进行AI工作负载处理比较,骁龙平台集成专用的高通AI引擎,处理AI工作负载可以更加高效,让小巧轻薄的设备也能支持终端侧AI

Microsoft Build期间,高通技术公司将带来技术演示,并带来能够支持在下一代Windows 11 PC上开发生成式AI的工具。Stable Diffusion作为一款文本生成图像的生成式AI模型,参数超过10亿,目前已经能够完全在终端侧运行。高通技术公司表示,未来几个月内,包括大语言模型(LLM)在内的参数高达100亿的模型将有望在终端侧运行。为了增强高通AI软件栈并帮助开发者打造下一代终端侧AI体验,高通AI引擎Direct SDK将在Microsoft Build上首次面向公众推出。借助ONNX Runtime和高通AI软件栈,如今用户在使用5GSurface Pro 9和联想ThinkPad x13s的时候就可以在其搭载的第三代骁龙8cx平台上的AI引擎运行AI工作负载。

微软Windows芯片和系统集成公司副总裁Pavan Davuluri表示:“为了在广泛的终端和应用领域扩展AI,云端和终端侧处理缺一不可。通过将微软在云端AI上的领先优势以及Windows平台的能力与高通技术公司的终端侧AI专长相结合,我们将加速由生成式AI体验所带来的发展机遇。”

高通技术公司还将在大会期间展示为骁龙平台原生编译热门应用可带来的显著性能提升,并上线全新的开发者门户网站,便于从统一的入口集中获取骁龙本开发所需的关键工具、资源和支持。

欲了解高通技术公司在Microsoft Build开发者大会上的更多信息,请访问https://build.microsoft.com/en-US/partners/24488a42-2828-4baf-8e10-28e51938ac6e?source=partners

关于高通公司

高通公司正在赋能人与万物智能互联的世界。基于“统一的技术路线图”,我们将驱动智能手机变革的众多技术——包括先进的连接、高性能低功耗计算、终端侧智能等,高效地扩展至不同行业中的下一代智能网联终端。高通和骁龙平台带来的创新将助力实现云边融合,变革众多行业,加速数字经济发展,并改变我们体验世界的方式,创造更加美好的生活。

高通公司包括技术许可业务(QTL)和我们绝大部分的专利组合。高通技术公司(QTI)是高通公司的全资子公司,与其子公司一起运营我们所有的工程、研发活动以及所有产品和服务业务,其中包括半导体业务QCT。骁龙和高通品牌产品是高通技术公司和/或其子公司的产品。高通专利技术由高通公司许可。

文章来源于:电子创新网    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>