8月8日消息,今日,统信软件宣布,中国首款级端侧模型UOS LM正式发布,其中包括1.5B模型和7B模型。
目前,UOS LM端侧模型面向所有统信UOS社区版(deepin V23)用户发起定向邀约内测。
官方表示,统信软件率先实现国产突破,发布中国首款操作系统级端侧模型,为最适合AI PC的深度赋能。
为保证流畅体验,推荐以下硬件性能:
1.5B模型:内存2G,GPU显存4G, 10TOPS
7B模型:内存8G,GPU显存10G,20TOPS
安全方面,UOS LM采用本地化部署策略,彻底摆脱对网络的依赖,避免数据上云可能带来的隐私泄露风险。
所有数据处理流程均在本地完成,不联网,不离开用户设备,确保数据的机密性和完整性得到最大程度的保护。
在第三方授权方面,统信软件对所有第三方应用进行签名验证,确保应用的来源可靠,防止恶意软件的侵害。
在数据共享时,UOS LM采用脱敏处理技术,确保敏感信息在传输和存储过程中不被泄露。
据介绍,对个人用户,UOS LM V1.0版本实现本地文档构建知识库,并通过向量数据库支持基于语义的相似性搜索和向量分析操作,帮助用户通过UOS AI桌面智能助手实现问答、翻译、创作等功能。
对组织用户,已有信息系统的数据库中的文本数据,能实现智能化输入和输出是关键。
针对组织用户的原始文档,知识库系统的处理总共分为五个部分,分别是文档预处理、文本智能分块、向量化计算、向量索引构建、元数据索引文件的保存和调用。
对于开发者,UOS LM提供了丰富的功能和灵活的扩展性,并提供了强大的文档支持,助力开发者简化AI应用开发流程,加速行业应用、业务系统的开发,拓展AI应用场景。
相关文章