英特尔联袂百川智能,酷睿Ultra跑上Baichuan 2

发布时间:2023-12-18  

成立于2023年4月10日的百川智能,是一家致力于通用人工智能研发并提供相关服务的中国公司。百川智能推出的Baichuan-7B/13B、Baichuan2-7B/13B四款开源可免费商用大模型,为AI PC的大语言模型应用提供了优秀的本地化解决方案。

虽然都是AI,但前两年的AI、今年的AI与未来的AI实质并不相同。“深度学习”这一概念通过机器人战胜人类棋手为人所熟知,ChatGPT用“学习”到的知识“创造”内容,在这些现象的背后支撑起AI运算的是海量数据与超高计算能力。而在AI应用的另一端,NPU成为智能手机等终端设备优化照片拍摄的利器。

2024年是属于AI PC的元年,大幕在2023年年底拉开。面对一个新时代的到来,PC乃至更大范围的整个生态链上的企业都活跃起来,无论是努力破局的高通、使用ARM架构站稳脚跟的苹果、坚持APU路线的AMD,还是传统Wintel联盟的双雄,都集中在此刻发布或透露其围绕AI概念的PC平台产品。

AI应用的大爆发,早已不能用ML/DL/LLM或者AIGC这些相对具象的原生AI应用方向来涵盖,对应的不同AI应用也需要更多更灵活的AI加速硬件。特别是对PC这样一个通用平台,其通用性被放在价值的首位,x86更是以应用软件众多、向前兼容数十年等优势著称。在现有的应用上增加AI特性,如微软的Copilot渗透到从Windows到Office的诸多应用中,AI加速硬件的匹配与优化,将大大提升AI化的应用程序的使用体验。

在过去的几年,英特尔已经陆续在酷睿平台上标配了GNA音频加速器、IPU影像处理单元、支持DL Boost/DP4a的Iris Xe核显等AI硬件加速器,实现了在特定应用场景中对应的AI加速功能。正式发布的酷睿Ultra(Meteor Lake)更是英特尔PC平台全面转向AI化的开始,表面上更是增加了NPU这一全新的AI加速器;而微软也在此时释放出更多有关Windows 12这一AI化的Windows系统的最新消息,将OS层面对AI加速器的支持与优化,扩展到NPU层面,且包括但不限于Windows ML容器等现有Microsoft AI方案。

英特尔酷睿Ultra处理器是首款基于Intel 4制程工艺打造的处理器,代表了40年来英特尔架构最大的革新。它采用了先进的Foveros 3D封装技术,结合前沿的知识产权成果与先进的制程工艺,以优化相关模块的性能表现。

百川智能联合创始人、联席总裁洪涛表示,百川智能与英特尔合作,对模型在端侧进行进一步优化,使得百川大模型在酷睿Ultra的平台上良好运行。未来,百川智能将与英特尔持续探索大语言模型在端侧计算和AIGC领域的应用和发展。

酷睿Ultra携更多软硬件特性到来,底层的硬件架构既可以是CPU、GPU、VPU、FPGA,也可以是全新的NPU,甚至是更多的其他针对不同应用的硬件加速器。这些加速器可为包括百川在内的大模型提供直接的硬件推理能力,从而使更多模型的推理工作转移到PC平台,实现高效、安全的本地化运行。此前,英特尔已经宣布其酷睿产品可运行60亿参数的大模型,酷睿Ultra与百川大模型的组合,将进一步提升模型规模和运行效率。

目前,已经有包括剪影、天行者、璇米、爱奇艺、百川在内的众多国产软件厂商,第一时间推出或升级支持酷睿Ultra全新AI特性的产品。作为AI PC加速计划的一部分,超过100家独立软件供应商(ISV)和300余项AI加速功能将针对英特尔酷睿Ultra处理器进行专属优化,提供丰富的AI应用程序和框架。消费者则可在全新的酷睿Ultra产品上市伊始,就体验到AI带来的变化,无论是文字、脚本、图片、音频、视频等内容生成(AIGC)还是抠图、识别、交互等AI应用触手可及,再无软硬件相互等待之虞,尽享AI PC盛宴。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>