基于RK3399的AI摄像头软硬件设计

发布时间:2023-07-29  

随着智能电视的普及和家庭视频会议、家庭娱乐健身的需求,本文开发了一款基基于 方案的,通过USB 连接线直连智能电视,即可实现和智能电视连接,满足人们家庭视频会议、家庭娱乐健身的需求,AI 摄像头应用系统见图1。

本文引用地址:

image.png

图1 应用系统框图

1 整机系统方案

整体系统方案将索尼 采集图像信息输入到海思 中, 对图像进行编解码后经过USB 接口输入到电视,电视显示图像,并通过IO 口控制电机,实现AI摄像头的升降。为了防止升降电机体验效果不佳,预留反馈电路,整机系统方案见图2。

1690607417458253.png

图2 整机系统方案

2 硬件系统设计

硬件主控采用RK3399 方案,传感器使用索尼,硬件系统框图见图3。

1690607485876175.png

图3 硬件系统框图

RK3399 芯片是一款低功耗、高性能的处理器, 集成双核Cortex-A72+ 四核Cortex-A53 CPU, 集成ARM NEON 技术,可增强较多的多媒体应用体验。另外集成高性能Mali-T860 MP4 GPU, 嵌入式3D GPU 使RK3399 完全兼容OpenGL ES1.1/2.0/3.0/3.1、OpenCL 和DirectX11.1,并且带有MMU 的专用二维引擎将最大限度地提高显示性能并提供非常平稳的操作。RK1608 用于对MIPI CSI 信号进行DSP 加速等预处理。方案支持各主流的多媒体解码、USB3.0、SD3.0、TYPE C 信源输入;视频解码支持H.264/H.265/VP9 等,支持H.264/MVC/VP8 1080P@30HZ 视频编码,同时可支持多屏异显。

索尼传感器芯片 是一款CMOS 固态的有源像素型图像传感器。芯片内部有模拟电压、数字电压和IO电压3种类型,其中模拟电压2.9 V,数字电压1.2 V,IO电压1.8 V。它具有无污迹,低暗电流和高灵敏度等效果。IMX335 内置始终反馈电路,串行驱动电路,宽动态电路,12 位A/D 转换器

3 软件系统设计

软件采用 DB 架构方案。业务逻辑功能代码通过媒体处理抽象层调用平台芯片相关代码, 根据编译选项编译对应平台芯片的实现。业务逻辑代码主要分为 Media,UVC, UAC,Upgrade 等模块; 使用生产者消费者模式来处理图像帧数据, 生产者与消费者之间通过帧队列进行数据交互,AI 摄像头软件框图见图4。

1690607557227954.png

图4 AI摄像头软件框图

摄像头数据处理主要包括Media模块和UVC 模块。Media 模块包含YUV Service,Encode Service 和Media Manager。YUV Service: 负责从 VPSS 获取 YUV 帧数据并放到YUV 帧队列。Encode Service: 负责从 VENC 获取 H264 帧数据放到H264 帧队列。Media Manager: 负责管理 YUV Service 及 Encode Service 的创建,初始化及销毁。并给外部其他模块提供分辨率切换,图像参数设置等接口。UVC 模块包括UVC Event Service,UVC Data Service和UVC Manager。UVC Event Service: 负责从 V4L2 中获取解析 TV 端的 UVC 请求事件。比如打开关闭预览,设置分辨率等。UVC Data Service:负责从 H264 帧队列中获取帧数据,通过V4L2 接口发送给TV。UVC Manager: 负责管理 UVC Event Service及 UVC Data Service 的创建,初始化及销毁。

4 结束语

本文硬件采用RK3399 方案,软件采用 DB 架构,通过传感器采集图像,用RK3399 编解码,通过USB传输到智能电视显示。实验结果表明,本方案设计的AI 摄像头应用于家庭视频会议、家庭娱乐健身,得到消费者的一致好评。

(本文来源于《电子产品世界》杂志2023年7月期)

文章来源于:电子产品世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    编译选项编译对应平台芯片的实现。业务逻辑代码主要分为 Media,UVC, UAC,Upgrade 等模块; 使用生产者消费者模式来处理图像帧数据, 生产者与消费者之间通过帧队列进行数据交互,AI 摄像头软件框图见图4......
    还具备同时以高帧率运行多个神经网络的能力。例如,用户可以在实时摄像头画面中,同步进行目标检测、姿态估计以及主体分割。 树莓派AI HAT+的两个版本均与AI套件实现了全面兼容。当前已集成的Hailo加速器,在树莓派摄像头软件......
    开发板linux自带的USB摄像头软件也可以直接查看到图像,所以我算是省了查找USB摄像头驱动这一个步骤。 现在两个设备都已成功连接了,到了mini2440开发板自带linux发挥作用的时候了,在其......
    如何校准示波器探头;通常,校准探头软件将指导您完成探头校准过程。 对于某些有源探头,示波器可针对探头准确地校准其模拟通道。如果连接了可校准的探头,"通道探头菜单"中的校准探头软键将激活。 本次......
    M.2 AI加速模块,后者能够带来高达13 TOPS的强大推理性能。这一综合解决方案与树莓派的摄像头软件堆栈实现了完美融合,同时,Hailo全面而强大的软件套件与模型库能够支持众多开箱即用的AI应用......
    环聊,谁曾想到Mac 上的恶意软件可能正通过 Mac 电脑上搭载的摄像头对你实行监控。 而且更让人怕怕的是,这种恶意监视软件是不会打开摄像头的 LED 灯让你有所警觉的。 2013年,在全......
    传点一样。我们可以看到,大量厂商开始吹捧双摄像头能够提升成像画质,而且还有很多种软件上的新玩法和独特功能,如光学变焦和超广角,实际上“新鲜”并不代表“出色”,很多问题依然有待解决。 仅为......
    决更广泛的计算机视觉应用问题。在STM32 Wiki上有一篇如何将STM32Cube.AI生成的代码集成到OpenMV生态系统的文章。 FP-AI-VISION1包含各种帧缓冲处理功能、摄像头驱动程序,以及图像捕获软件、预处理软件和神经网络推断软件......
    供了原生安全功能,其中加密指令 AES、SHA 和 CRC 可以在软件加密的基础上提供 3 至11 倍的性能提升,可用于小粒度加密技术。随着 Arm 继续提高关键加密操作的性能,智能摄像头......
    屏无缝衔接A柱内饰,再配合自主研发的智能软件算法和外部高清摄像头,可以实现A柱的“透明”可视化,减少视野盲区,也在一定程度上提升了行驶安全性。 5、电子后视镜:电子后视镜是通过摄像头......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>