MediaTek运用Meta Llama 2大语言模型,赋能终端设备生成式AI应用

发布时间:2023-08-24 15:15  

MediaTek今日宣布利用Meta新一代开源大语言模型(LLM)Llama 2 以及MediaTek先进的AI处理器(APU)和完整的AI开发平台(NeuroPilot),建立完整的终端侧AI计算生态,加速智能手机、物联网、汽车、智能家居和其他边缘设备的AI应用开发,为终端设备提供更安全、可靠和差异化的使用体验。预计年末采用 MediaTek 新一代天玑旗舰移动芯片的智能手机支持由Llama 2模型开发的AI应用,可为用户带来振奋人心的生成式AI应用体验。

MediaTek 资深副总经理暨无线通信事业部总经理徐敬全博士表示:“生成式AI的日益普及是数字化转型的重要趋势之一,我们的愿景是为Llama 2的开发者和终端用户提供工具,带来更多令人兴奋的AI创新机遇和产品体验。通过与Meta的伙伴关系,MediaTek可提供更强大的硬件和软件整体解决方案,为终端设备带来远超以往的功能和体验。”

目前,大多数生成式AI都依赖云计算,MediaTek基于Llama 2模型成功实现直接在终端设备上运行生成式AI应用。这将为开发者和用户提供独特优势,包括无缝的使用体验,更强的用户信息安全和可靠性,更低延迟,离线运算的能力以及更低的运营成本,让每个人都能享受到生成式AI带来的便捷与创新。

要在终端设备上充分释放生成式AI的潜力,设备制造商需采用高算力、低功耗的AI处理器(APU),并通过更快、更可靠的网络连接来增强设备的整体算力。如今,每一颗MediaTek 5G智能手机SoC均搭载AI处理器,已广泛执行生成式AI应用成功案例,例如 AI 降噪(AI-NR)、AI 超级分辨率(AI-SR)以及AI运动补偿(AI-MEMC)等。

MediaTek将于年末推出新一代旗舰移动芯片,将采用针对Llama 2模型而优化的软件栈(NeuroPilot),与搭配支持Transformer模型做骨干网络加速的升级版AI处理器(APU),可减少动态随机存取内存(DRAM)的读写消耗和带宽占用,进一步强化大语言模型和生成式AI应用的性能,助力开发者打造令人惊艳的AI应用,加速终端设备AI应用落地发展。

文章来源于:ECCN    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    越多的企业开始打破企业边界,与其他企业共享数据,使AI算法更加强大。 高级研究总监方琦表示:“中国的CIO需要培养数据驱动型思维,以推动业务价值的实现。为此,CIO需要让团队成员在多个业务和技术利益相关者之间担任‘译员......
    云将持续聚焦客户需求,借助盘古大模型5.0在全系列、多模态、强思维三个方面全新升级能力,不断攻坚克难,砥砺前行,让云无处不在,让智能无所不及,加速千行万业的智能升级。 成就好生意,成为好企业。未来,软通......
    云将持续聚焦客户需求,借助盘古大模型5.0在全系列、多模态、强思维三个方面全新升级能力,不断攻坚克难,砥砺前行,让云无处不在,让智能无所不及,加速千行万业的智能升级。成就好生意,成为好企业。未来,软通......
    研究总监方琦表示:“中国的CIO需要培养数据驱动型思维,以推动业务价值的实现。为此,CIO需要让团队成员在多个业务和技术利益相关者之间担任‘译员’。这些‘译员’应明......
    研究总监方琦表示:“中国的CIO需要培养数据驱动型思维,以推动业务价值的实现。为此,CIO需要让团队成员在多个业务和技术利益相关者之间担任‘译员’。这些‘译员’应明确可借助数据和分析来改善的决策要求和业务场景。”关于......
    超人之眼:新款颜色和光谱传感器如何看到人们看不见的东西;在某些电子领域,技术可以模拟某些人类操作,而无需匹配人类丰富的能力。例如,人工智能 (AI) 具有执行有限类型思维的非凡能力,使机......
    让全行业认识到生态的演变,进而共同打造和实现生态的高度协作。 三大新思维,引领AIoT突破现实瓶颈 想要从根本上化解这些挑战,就需要有适应时代的新型思维模式。张宇认为,边缘上要有“集美思维”,产品上要有“乐高思维”,生态......
    成功的基石,特别是在如今以价值观为导向的混合型多元化工作环境中,这将赋予员工更多的责任感和自我驱动力。亚洲领导力加速计划(ALAP)对于SABIC在亚太地区的成功至关重要,这一项目帮助了SABIC区域领导层培养成长型思维......
    领导力加速计划(ALAP)对于SABIC在亚太地区的成功至关重要,这一项目帮助了SABIC区域领导层培养成长型思维并鼓励他们进取创新。与此同时,SABIC最近推出了“授权与赋能”项目,针对2021年员......
    AI赋能 长城智能化让车更懂你;3月15日-17日,中国电动汽车百人会论坛(2024)在北京召开,长城汽车智能化副总裁吴会肖出席智能汽车生态论坛,并发表题为《智能汽车时代下的AI转型思考》的主......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>