资讯
英飞凌全新ModusToolbox™ ML助力TinyML，为AIoT保驾护航(2021-06-08)
项基于ModusToolbox软件的全新功能，可为开发人员提供基于深度学习的ML模型所需的中间件、软件库和专用工具。ML可与ModusToolbox中已有的软件框架无缝集成，十分便利地集成到安全的AIoT系统中。这一丰富的工具套件可提供流线化的机器学习模型部署......
AI普及给嵌入式设计人员带来新挑战(2024-08-22)
流
AI(及其子集ML)需要从数据捕获/收集到模型部署的工作流程(见图1)。对于TinyML而言，由于嵌入式系统资源有限，因此每个工作流程阶段的优化至关重要。
例如，TinyML......
AI普及给嵌入式设计人员带来新挑战(2024-08-22)
/ML的潜力催生了“TinyML”这一术语。实际用例涵盖工业（如预测性维护）、楼宇自动化（环境监控）、建筑施工（监督人员安全）和安防等领域。
数据流
AI（及其子集ML）需要从数据捕获/收集到模型部署......
实现TinyML需要哪些库、平台以及工作流程，你知道吗？(2023-12-14)
点是使用配备各种传感器的嵌入式设备，包括音频和视觉设备，并进行大规模部署。目标设备包括从资源受限的低功耗微控制器到功能更强大的微处理器和CPU，所支持的模型类型包括TensorFlow和Keras......
20分钟上线200节点！元脑服务器操作系统KOS AI定制版为大模型部署提速(2024-10-29)
20分钟上线200节点！元脑服务器操作系统KOS AI定制版为大模型部署提速;当前，随着生成式人工智能和各行业的应用快速融合，大模型在企业端被越来越多的采用，以提高效率、降低成本、增强创新能力。大模型......
20分钟上线200节点！元脑服务器操作系统KOS AI定制版为大模型部署提速(2024-10-30 08:58)
20分钟上线200节点！元脑服务器操作系统KOS AI定制版为大模型部署提速;当前，随着生成式人工智能和各行业的应用快速融合，大模型在企业端被越来越多的采用，以提高效率、降低成本、增强创新能力。大模型......
为什么可以在STM32上面跑神经网络(2023-06-28)
on desktop 在PC上进行模型验证，包括原模型与转换后模型的对比，下方也会显示验证的结果。
至此，模型验证完成，下面开始模型部署
四、模型转换与部署
时钟配置，系统会自动进行时钟配置。按照......
Imagination 联合百度飞桨创建Model Zoo开源机器学习模型库(2022-09-27)
Model Zoo模型部署实战”研讨会。百度AI技术生态总经理马艳军表示：“Imagination作为全球知名的处理器技术和IP供应商，双方基于飞桨深度学习开源框架和Imagination异构计算IP技术......
恩智浦与NVIDIA合作，将TAO工具套件集成到恩智浦边缘设备，加速人工智能部署(2024-03-21)
TAO工具套件API直接集成到其人工智能产品（eIQ机器学习开发环境）中的半导体供应商
●将NVIDIA经过训练的人工智能模型部署在恩智浦边缘处理设备中
●简化在边缘部署经过训练的人工智能模型......
恩智浦与NVIDIA合作，将TAO工具套件集成到恩智浦边缘设备，加速人工智能部署(2024-03-21)
半导体供应商
将NVIDIA经过训练的人工智能模型部署在恩智浦边缘处理设备中
简化在边缘部署经过训练的人工智能模型的过程，加速人工智能的开发
恩智浦半导体（NXP Semiconductors N.V.，纳斯......
恩智浦与NVIDIA合作，将TAO工具套件集成到恩智浦边缘设备，加速人工智能部署(2024-03-21 11:21)
半导体供应商 • 将NVIDIA经过训练的人工智能模型部署在恩智浦边缘处理设备中• 简化在边缘部署经过训练的人工智能模型的过程，加速人工智能的开发
恩智浦半导体（NXP Semiconductors......
支持主流的 AI 框架，简化模型部署流程，使开发者能够优化标准 PyTorch、TensorFlow、百度飞桨或 ONNX 模型，并为即将推出的酷睿 Ultra 处理器提供全面支持。它还提供了更多的模型......
oneAPI ＆ OpenVINO 联合开发者大会开启：英特尔持续开源创新，助力 AI 开发落地(2023-11-06 10:34)
2023.1 版本，由 oneAPI 提供支持，使生成式AI更容易部署到真实世界的场景中，并使开发者能够在一次性编写后，在广泛的设备和 AI 应用中进行部署。全面支持主流的 AI 框架，简化模型部署流程，使开......
用STM32Cube.AI部署ONNX模型实操示例：风扇堵塞检测(2024-09-20)
准机器学习算法，如随机森林、支持向量机（SVM）、K-Means。
现在，我们准备将模型部署到MCU。我们使用STM32Cube.AI 的命令行模式将模型转换为经过优化的C代码。我们运用以下命令执行模型......
企业大模型应用开发提速 浪潮信息发布元脑企智EPAI一体机(2024-10-08 10:15)
，可一站式解决数据处理、模型微调、RAG搭建、模型部署、应用上线和系统运维等环节开发难题，为客户提供多元多模、简单易用、本地部署、安全可靠的大模型应用开发平台，满足......
源2.0-M32大模型发布量化版 运行显存仅需23GB 性能可媲美LLaMA3(2024-08-25)
LLaMA3-70B运行显存为160GB，所需算力为140GFLOPs。
源2.0-M32量化版是"源"大模型团队为进一步提高模算效率，降低大模型部署运行的计算资源要求而推出的版本，通过......
深度学习模型的云边协同训练和部署*(2022-12-22)
边缘服务器模型训练执行界面
4）如图6 所示，模型部署任务流程。模型的部署配置数据，包括指定产线、指定检测器、指定品牌模型等项目配置，通过前端传递到中心云服务器后端，后端将任务消息放入Redis......
STM32Cube.AI库的高级特性(2023-06-13)
训练过程中完成的，通常具有更高的准确度。
STM32Cube.AI通过两种不同的方式直接或间接地支持这两种量化方法：
首先，它可以用来部署一个由PTQ或QAT过程生成的TensorFlow Lite量化模型。在这......
2024 年工程师不可错过的 AI 主要发展趋势(2024-01-25)
越多的工程师都在探索如何将基于 AI 的 ROM 模型集成到系统中。这有助于加速受第三方高保真模型影响的桌面仿真，通过降低模型的复杂性实现硬件在环测试，或加速有限元分析（FEA）仿真。
AI 从业者在将模型部署......
2024 年工程师不可错过的 AI 主要发展趋势(2024-01-25 15:05)
。
AI 从业者在将模型部署到速度和内存至关重要的边缘设备时必须考虑其性能。
对于嵌入式 AI，首选小型模型；对于计算机视觉和语言模型，仍首选大型模型AI 模型可能有数百万个参数，需要......
2024 年工程师不可错过的 AI 主要发展趋势(2024-01-25)
ROM 模型集成到系统中。这有助于加速受第三方高保真模型影响的桌面仿真，通过降低模型的复杂性实现硬件在环测试，或加速有限元分析（FEA）仿真。
AI 从业者在将模型部署......
NVIDIA推出用于大型语言模型和生成式AI工作负载的推理平台(2023-03-22)
器相结合，包括今天推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。各平台针对AI视频、图像生成、大型语言模型部署、推荐......
百川智能CEO王小川：将与阿里云持续深入大模型领域合作(2023-10-31)
智能和作为紧密的合作伙伴，在模型预训练和模型部署等方面进行了深入合作。在双方的共同努力下，百川很好地完成了千卡大模型训练任务，有效降低了模型推理成本，提升了模型部署效率。
百川的开源模型......
百川智能CEO王小川：将与阿里云持续深入大模型领域合作(2023-10-31)
的另一重要原因是云计算的支撑。王小川介绍，模型的快速迭代和部署离不开云计算，百川智能和阿里云作为紧密的合作伙伴，在模型预训练和模型部署等方面进行了深入合作。在双方的共同努力下，百川很好地完成了千卡大模型训练任务，有效降低了模型......
NVIDIA推出用于大型语言模型和生成式AI工作负载的推理平台(2023-03-27)
Grace Hopper处理器相结合，包括今天推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。各平台针对AI视频、图像生成、大型语言模型部署、推荐......
基于RTT-Draco的疲劳驾驶监控系统设计案例(2023-08-15)
将在本论坛整体开源，这里只做部分代码及流程解释。
使用平台：RTT—DracoAI套件模型部署插件：RT-AK代码编写工具：RT-Thread Stdio 2.1.5
我就......
Meta Llama 3基础模型现已在亚马逊云科技正式可用(2024-04-19)
SageMaker
JumpStart能够帮助客户从广泛的公开可用基础模型中进行选择，并将基础模型部署到专用的SageMaker实例中，这些实例置于网络隔离的环境，并可以使用SageMaker进行模型训练和部署......
为了让你跑AI，MCU厂商拼了(2024-09-11)
-line Tools三个重要组件，分别可以概括为开发图像分类或是目标检测任务、高级模型查看器、命令行工具。
整体开发流程方面，既可以只提供数据集然后借助eIQ工具箱完成从模型训练到模型部署，又可以提供已经训练好的模型......
百度飞桨：切合实际需求与场景，搭建端到端的AIoT应用(2021-07-28)
的解决方案，包括‘数据管理→模型构建→模型部署与应用’三大块工作。”马如悦称。
“同时，飞桨推出了一站式边缘AI服务解决方案，其核心功能有4个：网络的硬件适配与加速、模型转换、模型......
百川智能CEO王小川：将与阿里云持续深入大模型领域合作(2023-10-31)
等优势外，百川实现平均每月迭代一款模型的另一重要原因是云计算的支撑。王小川介绍，模型的快速迭代和部署离不开云计算，百川智能和阿里云作为紧密的合作伙伴，在模型预训练和模型部署等方面进行了深入合作。在双......
2024年工程师不可错过的AI主要发展趋势(2024-01-25)
影响的桌面仿真，通过降低模型的复杂性实现硬件在环测试，或加速有限元分析（FEA）仿真。
AI从业者在将模型部署......
NVIDIA推出用于大型语言模型和生成式AI工作负载的推理平台(2023-03-22 15:16)
、Hopper和Grace Hopper处理器相结合，包括今天推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。各平台针对AI视频、图像生成、大型语言模型部署......
Habana® Gaudi®加速器首次运用于Amazon EC2云(2021-11-19)
及Habana在软件中提供的最新TensorFlow Docker容器，并分别在不同实例上运行这些容器，可比较训练吞吐量和每小时定价。
广告
不同的模型提供的结果不同，而且Gaudi......
NVIDIA推出用于大型语言模型和生成式AI工作负载的推理平台(2023-03-22)
、Hopper和Grace Hopper处理器相结合，包括今天推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。各平台针对AI视频、图像生成、大型语言模型部署......
亚马逊云科技推出五项Amazon SageMaker新功能，助力规模化开发应用模型(2023-12-06)
的训练时间缩短了高达40%;
o Amazon SageMaker Inference通过优化加速器的使用，平均降低50%的基础模型部署成本，并平均缩短了20%的延迟时间;
o......
爱芯元智获评人工智能大会“最具创新价值产品奖”并正式发布爱芯派Pro(2023-08-25)
的工具链——Pulsar2则进一步完善了工具链的功能和易用性，支持主流深度学习训练框架的模型部署，支持PTQ、QAT两种不同的量化操作，满足各种场景的量化调优功能。
Transformer模型在爱芯元智NPU......
NXP和NVIDIA合作，首次将TAO集成到eIQ中(2024-03-25 09:30)
TAO 低代码 AI 框架旨在更轻松地利用训练有素的 AI 模型，并通过迁移学习对其进行微调以适应特定用途，而恩智浦的 eIQ 开发环境使开发人员可以更轻松地通过组合将 AI 模型部署到边缘软件、推理......
NXP和NVIDIA合作，首次将TAO集成到eIQ中(2024-03-22)
推向市场。”
NVIDIA TAO 低代码 AI 框架旨在更轻松地利用训练有素的 AI 模型，并通过迁移学习对其进行微调以适应特定用途，而恩智浦的 eIQ 开发环境使开发人员可以更轻松地通过组合将 AI 模型部署......
机器学习常用术语汇总 (中英对照）(2024-06-04)
TensorFlow Serving
一个平台，用于将训练过的模型部署到生产环境。
测试集 (test set)
数据集的子集，用于在模型经由验证集的初步验证之后测试模型。
与训练集和验证集相对。
tf.Example......
机器学习常用术语汇总(2024-06-04)
Serving
一个平台，用于将训练过的模型部署到生产环境。
测试集 (test set)
数据集的子集，用于在模型经由验证集的初步验证之后测试模型。
与训练集和验证集相对。
tf.Example
一种......
Edge Impulse增加对NVIDIA TAO和Omniverse的支持(2024-03-22)
其进行优化，以便在带或不带 AI 加速器的边缘设备上部署。
NVIDIA 和 Edge Impulse 声称，这一新解决方案可以将大规模 NVIDIA 模型部署到基于 Arm 的设备上，目前......
亚马逊云科技推出五项Amazon SageMaker新功能(2023-12-06)
的训练时间缩短了高达40%；
Amazon SageMaker Inference通过优化加速器的使用，平均降低50%的基础模型部署成本，并平均缩短了20%的延迟时间；
Amazon SageMaker......
后摩尔时代的创新：在米尔FPGA上实现Tiny YOLO V4，助力AIoT应用(2024-11-21)
练的截图
四、 通过 Vivado HLS 为 FPGA 准备模型
要将模型部署到 FPGA，需要将神经网络操作转换为硬件级描述。使用 Xilinx 的 Vitis HLS(高级......
Meta Llama 3基础模型现已在亚马逊云科技正式可用(2024-04-22 09:19)
中进行选择，并将基础模型部署到专用的SageMaker实例中，这些实例置于网络隔离的环境，并可以使用SageMaker进行模型训练和部署。客户现在可以在Amazon SageMaker Studio中通......
NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成式 AI 模型(2024-07-24)
模型的 NVIDIA NIM 推理微服务，以加快将 Llama 3.1 模型部署到生产级 AI 的速度。NIM 微服务是将 Llama 3.1 模型部署到生产中的最快途径，其吞......
NVIDIA AI Foundry 为全球企业打造自定义 Llama 3.1 生成式 AI 模型(2024-07-24)
3.1 模型部署到生产级 AI 的速度。NIM 微服务是将 Llama 3.1 模型部署到生产中的最快途径，其吞吐量最多可比不使用 NIM 运行推理时高出 2.5 倍。
企业......
NVIDIA AI Foundry 为全球企业打造自定义 Llama 3．1 生成式 AI 模型(2024-07-24 11:51)
微服务，以加快将 Llama 3.1 模型部署到生产级 AI 的速度。NIM 微服务是将 Llama 3.1 模型部署到生产中的最快途径，其吞吐量最多可比不使用 NIM 运行推理时高出 2.5 倍。 企业......
爱芯元智获评人工智能大会“最具创新价值产品奖”并正式发布爱芯派Pro(2023-08-25)
一步完善了工具链的功能和易用性，支持主流深度学习训练框架的模型部署，支持PTQ、QAT两种不同的量化操作，满足各种场景的量化调优功能。
Transformer模型在爱芯元智NPU上部署非常简单高效，以......
爱芯元智获评人工智能大会“最具创新价值产品奖”并正式发布爱芯派Pro(2023-08-25 16:09)
一步完善了工具链的功能和易用性，支持主流深度学习训练框架的模型部署，支持PTQ、QAT两种不同的量化操作，满足各种场景的量化调优功能。Transformer模型在爱芯元智NPU上部署非常简单高效，以SwinT模型......
Arm物联网解决方案产品组合(2022-04-27)
架构和内存及延迟限制之间寻求适当的平衡，是边缘ML开发者所面临的一大挑战。通过访问更多款式的Arm虚拟硬件，我们借助云端，轻松预估更多物联网设备的性能。这将最终缩短开发者的周转期，并使他们有信心将优化后的模型部署......
相关企业
;深圳诺华绝缘材料有限公司;;深圳诺华模具成立于2001年，有十年的专业生产经验。我们的主要产品有碳纤维板材，玻璃纤维板材。我们坚持以质量为重，以顾客为先的理念，在市场上建立了良好的口碑。我们的碳纤维板材广泛用于遥控汽车模型部
;上海立定展示器材有限公司;;上海立定展示器材有限公司(立定模型）从事各种模型生产制作，主要产品有：定做各种船舶模型，游艇模型，集装箱模型， 房产模型，沙盘，工业模型，礼品模型，车库模型，机械模型
;浏阳市诚信科教仿真模型有限公司;;浏阳市诚信科教仿真模型有限公司生产的各类模型几乎涵盖所有专业，具体有如下产品：风力发电模型、太阳能发电模型、波浪发电模型、核电厂模型、建筑模型、城市规划模型、沙盘模型
;万丰瑞（北京）国际模型有限公司;;公司主营：房地产模型 建筑模型 工业模型 机械模型 能源模型 博物馆模型 科技馆模型 航空模型
;上海广育医学模 型有限公司;;上海广育公司专业生产心肺复苏模拟人、心肺复苏模型、急救训练模型、骨骼模型、人体解剖模型、护理模型、医学教学模型、电工急救训练模型、电力安全培训模型、急救模型、急救训练模型
;上海广育医学模型有限公司;;上海广育公司专业生产心肺复苏模拟人、心肺复苏模型、急救训练模型、人体复苏模型、骨骼模型、人体解剖模型、护理模型、医学模型、医学教学模型、电工急救训练模型、电力安全培训模型
;西安模型公司西安朝乾模型制作有限公司模型公司;;西安朝乾模型制作有限公司位于西安市东郊咸宁路609号，公司拥有1000平米的办公环境和制作车间，是陕西发展较快的一家专业模型公司。 公司拥有一批年轻专业的模型
;郑州市精欣模型设计有限公司;;郑州市精欣模型设计有限公司,河南郑州精欣建筑模型. 。 我公司是商务服务行业的私营企业，具备公司本着“高品质、高眼光、高信誉”的经营策略，引进
;黑龙江省盛世中侨模型设计有限公司;;哈尔滨建筑模型｜中侨模型网｜沙盘模型价格优势,哈尔滨建筑模型 沙盘模型 哈尔滨沙盘模型 哈尔滨模型公司;黑龙江省盛世中侨模型设计有限公司. 哈尔滨建筑模型｜中侨模型
;郑 州精欣模型设计有限公司;;郑州精欣建筑模型是中原首家连锁模型制作设计公司，欣模型逐鹿中原，竭诚为您提供建筑模型、机械模型、航空模型、航海模型等方面最满意的服务. 公司本着“高品质、高眼光、高信