ChatGPT等应用引发的AI热潮仍在持续,并且AI内容生成逐渐从云端向PC、手机等终端靠近。业界认为,与手机相比,PC拥有更高存储容量与物理空间,更适合复杂度高、参数规模大的AI大模型。
PC产业作为端侧生成式AI最佳载体,对硬件尤其是作为核心计算单元的SoC的AI算力提出了新的需求。这一背景下,AI PC芯片一触即发,除了传统处理器厂商发力之外,新玩家也不断涌现,此芯科技公司是其中之一。
布局端侧AI生态, 此芯科技发布AI PC战略暨首款芯片
7月30日,以“从此芯出发”为主题,此芯科技AI PC战略暨首款芯片发布会在上海举行。会上,此芯科技公布了“一芯多用”的发展战略,率先聚焦AI PC领域,打造新一代AI PC算力底座,并发布首款异构高能效SoC此芯P1。
此芯科技创始人、CEO 孙文剑
“此芯科技致力于以高能效算力解决方案,推动端侧AI生态发展,通过AI技术应用,让生活、学习、工作变得更智能、高效、人性化。”此芯科技创始人、CEO孙文剑在发布会上表示,希望以AI创造更美好的未来。
此芯科技发布首款AI PC芯片
资料显示,此芯P1使用先进的6nm制造工艺,提供丰富的AI异构计算资源、全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性。强大的多媒体引擎支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s。同时,具备高效的功耗管理,提供精准的动态调频调压、多电源域和动态的电源门控、标准的PC电源工作模式。
核心CPU部分,以Arm大小核(big.LITTLE™)技术设计,8个性能核4个能效核,主频最高可达3.2GHz以及针对PC场景优化的多级缓存设计;同时,集成2个SVE2向量加速单元,实现机器学习指令增强。
集成GPU提供10核GPU处理器,满足极致桌面渲染和通用AI计算需求。新一代硬件光线追踪,媲美主机级别的游戏体验;新型几何图形处理流程(延迟顶点着色DVS),实现功耗节省40%以上,以及灵活的可变速度着色(VRS),实现性能提升50%以上。同时,面向多场景的桌面GPU软件栈,满足行业应用需求。
强大的异构AI引擎,提供45TOPS端侧AI异构算力,支持100亿参数以内端侧大模型部署,运行LLM可达30 tokens/s以上,面向计算机视觉、自然语言处理、生成式AI等多场景提供端侧AI支持。
孙文剑介绍:“经过严格的测试,此芯P1完全达到量产要求,将正式进入产品化阶段。”
“三融”策略,加速AI PC研发进程
“此芯科技作为PC芯片领域的新进者,有机会以全新视角来打造AI PC平台解决方案。”此芯科技联合创始人、系统工程副总裁褚染洲表示。此芯科技平台解决方案的“三融”策略也由此应运而生。
此芯科技联合创始人、系统工程副总裁 褚染洲
“三融”策略即融合X86、Arm两大架构优势,融入PC产业朋友圈,融通AI的世界。
基于“三融”策略, 此芯科技推出P1芯片的AI PC平台解决方案,具备可扩展异构计算、支持多模态人机交互、高带宽存储、平台级安全盾等特点。
此外,此芯科技AI PC平台解决方案支持包括Video-In/out、GMAC/Ethernet、HDA/I2S等在内的丰富接口,为全域普惠AI提供了基础;同时,基于“一芯多用”的战略,此芯P1将推出多种规格,支持AI终端的多种产品形态落地。作为PC产品成本的要素之一,PCB的类型关系到SMT制程复杂度和良率。此芯P1平台解决方案能做到8-12层,通孔、高密度板PCB全类型的支持,免除客户做产品还要精选PCB供应商和SMT代工厂的烦恼。
褚染洲表示:“我们积极融入PC产业链条,能支持PC厂商从X86 CPU无缝切换到此芯P1芯片,并已与主流ODM厂商以及业内知名BIOS厂商展开意向合作。”
在客户项目支持方面,褚染洲介绍,此芯科技建立了“以市场、支持、研发各团队全面联动为基础,迅捷响应客户要求,落实应用场景,快速解决问题,缩短产品开发周期”的客户支持体系。
以软促硬,推动AI PC行业创新
“硬件好比是我们的躯体,软件则赋予了一颗芯片灵魂。”在AI PC软件解决方案环节,此芯科技联合创始人、软件工程副总裁刘刚说道。
此芯科技联合创始人、软件工程副总裁 刘刚
面对端侧生成式AI带来PC产业的变革与机遇,此芯科技重点聚焦启动固件、内核、图形加速以及AI方案四大方向进行全栈软件创新。
在启动固件层,此芯科技实现了通过一套固件支持多个操作系统和一套Linux内核同时支持ACPI、Device Tree两个规范的重要突破。此芯P1成为全球为数不多的采用统一固件支持多桌面操作系统的产品。
为了能够让Arm GPU在PC端同样达到极致的使用体验,此芯科技自主设计了此芯GO图形引擎,通过引入应用兼容层并在核心驱动层实现原创优化,适配多种主流桌面环境、兼容传统应用、支持OpenGL标准以及和不同多媒体框架协同等,一站式解决行业痛点。
此外,面对生成式AI端侧部署存在的诸多问题与挑战,此芯科技未来将推出NeuralOne AI软件栈,提供异构AI加速器支持,以满足对于端侧推理需求的多样性和复杂性;同时,提供统一的NerualOne API来隐藏具体的硬件细节,降低应用程序编程难度。
对于模型与推理框架的碎片化,此芯NeuralOne提供统一的SDK满足多引擎需求以及广泛的模型格式支持。“Neural是神经网络的意思,One代表统一。合在一起,我们希望通过此芯NeuralOne AI软件栈充分发挥异构算力强大潜力,更好地帮助生态合作伙伴开发更强的AI应用。”刘刚表示。