每当我们提到大模型,通常会联想到庞大的数据中心机房内高性能服务器,或者是动辄数万元的台式机工作站。随着英特尔酷睿Ultra系列处理器的发布,大模型的运行环境将发生翻天覆地的变化。在酷睿Ultra新品发布活动上,CodeShell多语言代码大模型搬进了轻薄的笔记本电脑内,这意味着未来的大模型运行,不一定只依赖于服务器或台式机,随身携带的轻薄笔记本也可以成为大模型运行的主战场。
CodeShell生来强大
CodeShell大模型可以看成一个擅长编写代码、检查代码缺陷,并完成修复、测试的AI代码助手。在这套大模型的帮助下,开发团队可以将开发的重心从繁重的代码编写、Bug修复中脱离出来,集中资源用在更重要的功能规划、创意实现等推动软件研发进程的工作中。
而事实上CodeShell在业内颇负盛名,它由北京大学知识计算实验室研发,截止今年11月份的Hugging Face国际权威开源代码大模型榜单中,CodeShell在同等规模的多语言代码大模型中排名第一。同步开源代码智能助手系列解决方案,开源VS Code与JetBrains IDE插件,覆盖代码生成、代码缺陷检测与修复、测试用例生成等常见软件开发活动。
目前为止,北京大学知识计算实验室开发团队以CodeShell为基础扩展了一系列优秀应用。包括以GPT-2为基础,引入Grouped-Query Attention和ROPE位置编码,最终形成了高性能且易于扩展上下文窗口独特架构、拥有强大性能的CodeShell-Base代码基座大模型。也包括面向真实的软件开发场景,通过高效微调,训练了支持对话、代码生成、代码补齐、代码注释、代码检查与测试用例生成的全能代码助手模型CodeShell-Chat。
CodeShell强大性能还远不止这些。针对模型训练评估基准无法准确反映其真实能力,评估场景与实际开发环境脱节等问题,CodeShell团队提出了一个包含完整程序上下文的多任务编程模型评估基准,该基准提供了完整的程序上下文信息,涵盖了包括代码生成、测试用例生成、缺陷检测、缺陷修复等常见的软件工程任务。
重要的是,CodeShell大模型已经能够在轻薄笔记本上部署和运行。未来也可能进一步加强合作,在公众面前展示强大性能拭目以待。
AI PC将蓄势待发
在今年9月份硅谷举行的英特尔On技术创新峰会上,英特尔CEO帕特·基辛格正式提出了AI PC概念。这是一套将基于全新酷睿Ultra系列处理器,在离线状态下也能轻松运行AI的移动端PC解决方案,从而让AI生产力与用户体验、创造力进一步结合,打造出全新的创作生态。
酷睿Ultra系列处理器拥有移动端强大的性能表现,并融入了用于AI加速的NPU模块,即神经网络处理单元。这让AI PC即使不连接云端服务器,依靠本地的优秀AI性能,也能随时兼顾AI加速、续航、流畅操控体验。
英特尔酷睿Ultra处理器是首款基于Intel 4制程工艺打造的处理器,代表了40年来英特尔架构最大的革新。它采用了先进的Foveros 3D封装技术,结合前沿的知识产权成果与先进的制程工艺,以优化相关模块的性能表现。
在未来,包括代码设计、内容创作、工程规划等海量专业应用也将会在AI PC上百花齐放。预计2025年前,全球会出货超过1亿台AI PC。合作涉及100家ISV合作伙伴,覆盖300余项AI加速功能,AI应用将会得到更大范围的推广。
英特尔酷睿Ultra系列处理器的推出,也是AI PC正式迈向大众市场、消费者的一个重要节点。随着AI融入开发者、创作者的工作流程中,原本繁琐、重复、耗时的工作将由AI所接管,工作者的工作重心将重新回到未来布局、思考创意的本身,极大地提升了生产效率。英特尔作为AI PC概念的提出者和重要推动者,也将不断投入更多资源,在生态层面让AI与PC高度融合,让AI PC成为每一位开发者、创作者的工作利器。