不断刷新纪录的面壁高效端侧多模态模型来了,AI PC正迎来高能时刻!

发布时间:2024-11-27  

11月26日,英特尔新质生产力技术生态大会(Intel Connection)在成都举办,面壁智能作为英特尔重要战略合作伙伴,以端侧模型厂商代表出席生态大会,并演示了基于英特尔最新一代桌面级旗舰芯片深度适配和加速的多模态端侧模型。

本届英特尔新质生产力技术生态大会云集了大模型、计算、AI 应用的行业高管、技术专家、专业开发者代表,共同探索端侧AI的最新技术趋势,特别是AI PC为代表端侧硬件的创新成果与案例。在生态大会专题论坛现场,面壁智能副总裁缪钧玮发表了“面壁小钢炮:高效端侧多模态模型,AI PC的高能时刻的专题演讲。

image.png

缪钧玮分享道,面壁智能团队正在与英特尔伙伴团队一起紧密合作,面壁小钢炮MiniCPM端侧模型正在全系适配酷睿Ultra旗舰芯片。面壁研发团队充分利用英特尔新一代旗舰芯片性能显著增强的AI计算加速单元,充分吃透英特尔更高效的异构AI计算微架构,在芯片底层进行计算资源的调度优化、推理框架深度适配。在英特尔OpenVINO工具的支持下,以高效著称的面壁MiniCPM端侧模型,在AI PC上正在迎来「高能」时刻:AI推理提速167%,首Token延迟降低17%。

在专题论坛现场,缪钧玮深入介绍了MiniCPM 基座模型和多模态端侧模型。自今年2月份MiniCPM面世以来,不断刷新小参数模型在数学、代码、知识、Function CallingRAG、单图/多图理解、高清OCR识图、实时视频理解的多维度性能和新功能纪录。

端侧模型面壁「小钢炮」MiniCPM 系列,包含基座模型 MiniCPM 和多模态模型MiniCPM-V 双旗舰,凭借以小博大、高效低成本的特性享誉全球,目前已经在性能上开启「端侧 ChatGPT 时刻」,多模态方向达到全面对标 GPT-4V 级水平。面壁智能正通过追求更高的知识密度(知识密度 = 模型能力 / 参与计算的模型参数)来提升大模型的智能水平,将高性能的端侧AI 带入千家万户、千行百业。

AI PC 是主流消费电子近年来最受瞩目的升级。高效端侧模型运行在最具生产力的计算平台PC,对于工作、学习、娱乐将带来深刻的变革。英特尔作为50多年全球用户最为熟悉和信赖的PC算力底座,面壁智能携手英特尔,MiniCPM将获得巨大的市场推动力,更快速、更有价值融入最广大用户的桌面

AI PC领域,英特尔正在引领市场前行。英特尔目前已出货了超过2,000万台AI PC设备,构建了拥有超过100家ISV、300多项AI应用、500多个AI模型的庞大生态系统。英特尔也在与OEM厂商密切合作,推出以酷睿Ultra处理器为核心的AI PC,同时实现了出色的性能和续航能力。

凭借基于强大x86架构的XPU带来的强大算力和广泛的软件生态优势,英特尔持续深耕本土AI应用的开发,携手面壁智能等生态伙伴落地知识助手、办公助手、娱乐助手、创作助手和垂类助手五大AI应用场景,并积极聚焦AI、商用、娱乐、计算、低碳这五大市场热点,努力满足用户的多样需求,带来更加卓越的使用体验。

在英特尔大会现场,来自多家合作伙伴的超过五百款产品及解决方案亮相展区,形成了一呼百应之势,充分展现了英特尔不断探索创新机会,深耕生态并推动 PC行业发展的决心,为智能化生活带来无限可能。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    关子支持向量机,变形模板匹配,线性以及非线性分类器的设计等都在不断延展。 3)深度学习带来的突破 传统的机器学习在特征提取上主要依靠人来分析和建立逻辑,而深度学习则通过多层感知机模拟大脑工作,构建......
    步加速了神经网络的训练和推理。该团队采用了平行循环还原(PCR)来检索该解决方案,将顺序过程的计算成本从 O(L)降低到 O(log2 L),降低了复杂性,提高了运行速度。 团队表示多层感知......
    的交叉注意力可以表示为: 整个Transformer模块就可以使用下式计算: 其中, 和 表示第l层的输入, 和 表示第l层的输出。LN(∙)表示层归一化操作,MLP(∙)表示有2个全连接层和一个非线性层的多层感知机模......
    ,通过多层感知网络,融合脉搏特征、佩戴压力和皮肤温度等多模态参数,实现对血压的连续监测。由于综合了皮肤温度和穿戴压力等个性化参数,可有效消除个体穿戴差异的干扰,使传感系统具备良好的穿戴泛化性,多样本临床测试验证了系统对多个体连续血压监测的有效性。 ......
    人造神经“复制”大脑多感官整合功能;记者20日从南开大学获悉,该校电子信息与光学工程学院徐文涛教授团队受猕猴多感官整合与空间感知机制启发,开发了一种人造运动感知神经,在硬......
    (MLP)占Google AI开发工作的61%。「虽然大部份的架构师一直在加速CNN设计,但这部份只占5%的工作负载。」 「虽然CNN可能很常见于边缘装置,但卷积模型的数量还赶不上资料中心的多层感知......
    到各种触觉刺激,并做出相应反应。”郭传飞介绍,通过皮肤深层组织中的静压感受器,人类可感受到物体的硬度和形状,而皮肤的表层组织振动感受器,能够让人类快速感知机械刺激,进而转化为神经信号,传递......
    能给行业内对边缘侧/端侧部署Transformer模型的爱好者提供新的思路。 二 SegFormer介绍 SegFormer的论文中提出了一个简单、高效的语义分割方案,它将Transformers与轻量级多层感知......
    制动过程的精确控制。智能PWM控制则是将传统的PWM控制技术与现代智能控制算法相结合,通过实时感知机车运行状态和外部环境信息,动态调整PWM信号的占空比,从而实现对制动力的智能控制。 三、硬件实现 主控......
    (a)全连接FC层:又称多层感知器MLP,其中所有输入通过连接可以与输出交互并对输出做出贡献。 (b)卷积CONV层:卷积层采用局部感知场,所以每层的连接会比较稀疏,通常假定合适用来捕获空间关系,最初......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>