英特尔联袂百川智能,酷睿Ultra跑上Baichuan 2

发布时间:2023-12-18  

成立于2023年4月10日的百川智能,是一家致力于通用人工智能研发并提供相关服务的中国公司。百川智能推出的Baichuan-7B/13B、Baichuan2-7B/13B四款开源可免费商用大模型,为AI PC的大语言模型应用提供了优秀的本地化解决方案。

虽然都是AI,但前两年的AI、今年的AI与未来的AI实质并不相同。“深度学习”这一概念通过机器人战胜人类棋手为人所熟知,ChatGPT用“学习”到的知识“创造”内容,在这些现象的背后支撑起AI运算的是海量数据与超高计算能力。而在AI应用的另一端,NPU成为智能手机等终端设备优化照片拍摄的利器。

2024年是属于AI PC的元年,大幕在2023年年底拉开。面对一个新时代的到来,PC乃至更大范围的整个生态链上的企业都活跃起来,无论是努力破局的高通、使用ARM架构站稳脚跟的苹果、坚持APU路线的AMD,还是传统Wintel联盟的双雄,都集中在此刻发布或透露其围绕AI概念的PC平台产品。

AI应用的大爆发,早已不能用ML/DL/LLM或者AIGC这些相对具象的原生AI应用方向来涵盖,对应的不同AI应用也需要更多更灵活的AI加速硬件。特别是对PC这样一个通用平台,其通用性被放在价值的首位,x86更是以应用软件众多、向前兼容数十年等优势著称。在现有的应用上增加AI特性,如微软的Copilot渗透到从Windows到Office的诸多应用中,AI加速硬件的匹配与优化,将大大提升AI化的应用程序的使用体验。

在过去的几年,英特尔已经陆续在酷睿平台上标配了GNA音频加速器、IPU影像处理单元、支持DL Boost/DP4a的Iris Xe核显等AI硬件加速器,实现了在特定应用场景中对应的AI加速功能。正式发布的酷睿Ultra(Meteor Lake)更是英特尔PC平台全面转向AI化的开始,表面上更是增加了NPU这一全新的AI加速器;而微软也在此时释放出更多有关Windows 12这一AI化的Windows系统的最新消息,将OS层面对AI加速器的支持与优化,扩展到NPU层面,且包括但不限于Windows ML容器等现有Microsoft AI方案。

英特尔酷睿Ultra处理器是首款基于Intel 4制程工艺打造的处理器,代表了40年来英特尔架构最大的革新。它采用了先进的Foveros 3D封装技术,结合前沿的知识产权成果与先进的制程工艺,以优化相关模块的性能表现。

百川智能联合创始人、联席总裁洪涛表示,百川智能与英特尔合作,对模型在端侧进行进一步优化,使得百川大模型在酷睿Ultra的平台上良好运行。未来,百川智能将与英特尔持续探索大语言模型在端侧计算和AIGC领域的应用和发展。

酷睿Ultra携更多软硬件特性到来,底层的硬件架构既可以是CPU、GPU、VPU、FPGA,也可以是全新的NPU,甚至是更多的其他针对不同应用的硬件加速器。这些加速器可为包括百川在内的大模型提供直接的硬件推理能力,从而使更多模型的推理工作转移到PC平台,实现高效、安全的本地化运行。此前,英特尔已经宣布其酷睿产品可运行60亿参数的大模型,酷睿Ultra与百川大模型的组合,将进一步提升模型规模和运行效率。

目前,已经有包括剪影、天行者、璇米、爱奇艺、百川在内的众多国产软件厂商,第一时间推出或升级支持酷睿Ultra全新AI特性的产品。作为AI PC加速计划的一部分,超过100家独立软件供应商(ISV)和300余项AI加速功能将针对英特尔酷睿Ultra处理器进行专属优化,提供丰富的AI应用程序和框架。消费者则可在全新的酷睿Ultra产品上市伊始,就体验到AI带来的变化,无论是文字、脚本、图片、音频、视频等内容生成(AIGC)还是抠图、识别、交互等AI应用触手可及,再无软硬件相互等待之虞,尽享AI PC盛宴。

文章来源于:21IC    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    酷睿i5处理器怎么样?酷睿i5处理器性能介绍; 酷睿i5是英特尔的一款产品,Core i5处理器于2009年7月生产,8月出货,官方在9月1日正式发布。包含Lynnfield(2009年......
    全金属机身、超轻超薄,配备双扬声器和双色温补光灯,机身配色至少有香槟金和深空灰两种。 配置方面,配备9.8英寸2048*1536分辨率屏幕,搭载了英特尔第七代酷睿M处理器M3-7Y30,8GB......
    汽车喇叭分频器怎么接,分频器可以不要吗;汽车喇叭分频器怎么接 分频器:INPUT:音频输入口 WOOFER:中音 TWEETER:高音 一般情况下,分频器有如上三个接口,“INPUT”为输......
    ,也包括第四代英特尔至强可扩展处理器。   早在第四代至强发布之际,“七大神器”就被揭晓,而其中的各种加速器,能够支持大多数大型AI模型,包括实时、中等吞吐量、低延迟稀疏推理以及中、小型......
    站台的数据中心厂商们,怎么看待英特尔和AMD的产品比较?要知道,在去年AMD首发了7nm工艺,推出了64核128线程的罗马处理器。Digitimes媒体还预测到2020年底,英特尔的市场份额将下降到90%以下......
    牌在中国正式使用的名称将随后分享),以及针对主流级产品的英特尔® 酷睿™ 处理器品牌。即将推出的Meteor Lake处理器是革命性的一代产品,自该产品起,品牌将启用全新的命名方式。 本次品牌升级焕新主要涉及三大方面,包括:品牌......
    、teardown.com以及iFixit.com都对最新iPhone进行了拆机,透露了为苹果制造最重要智能手机组件的公司名字。此外,苹果此前从不会透露有关电池、RAM以及其他组件的规格细节。 英特尔芯片 研究......
    ,才会要求示波器的带宽限制,否则即便测到电源有高频噪声,也不是芯片最后接收到的。同时探测点需要放在用电芯片端,否则如果点在VRM端,电源还没有经过用电芯片端的小电容的滤波,测出来的噪声就会偏大。 那如果没示波器怎么......
    Ultra是什么? 答:针对酷睿旗舰级产品,今年将发布的Meteor Lake架构的处理器会使用“英特尔® 酷睿™ Ultra”来进行命名,以代表产品的卓越性能。 问题2:使用英特尔®酷睿™......
    物联网领域都使用Movidius技术。因此将会持续扩大其在这个领域的投资。 Jason Waxman 表示, 构建基于英特尔架构的涵盖至强处理器、至强融核处理器、Nervana 平台和 FPGA......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>