串行器应用之如何将摄像头的RGB或YUV输出转换成RGB数据?

发布时间:2023-08-04  

串行器可以连接并控制摄像头IC,ADI的这类器件包括MAX9257 (带有半双工UART/I²C控制通道)、MAX9259和MAX9263 (两款均带有全双工同步控制通道),MAX9263还支持宽带数字内容保护(HDCP)。本应用笔记介绍如何将摄像头的RGB或YUV输出转换成标准显示器接受的RGB数据。


摄像头输出数据格式 摄像头芯片,例如OmniVisionOV10630,可通过串行器连接。OV10630的接口引脚包括:像素时钟、PCLK、行有效、HREF、帧同步、VSYNC和并行数据位D[9:0],数据位在时钟的上升沿保持稳定。YUV和原始RGB数据格式


CMOS摄像头传感器包括数百万光敏单元,每个单元可响应整个波长的光信号。利用滤光膜使特定传感器仅响应红光、绿光或蓝光信号。相邻的光敏单元通常以拜耳结构的滤色规律排列,绿色滤色片的数量是红色或蓝色滤色片数量的两倍。这种方式用于模拟人眼的感光特性。从左至右、从上至下读取传感器单元输出,原始的RGB数据序列为蓝、绿...蓝、绿 (首行末尾),绿、红...绿、红(第二行末尾),依次类推,如图1所示。

34df02c8-1a53-11ee-962d-dac502259ad0.png

图1. 原始RGB数据排列

通过相邻单元内插生成与传感器单元密度相同的RGB数据。另外,利用相邻单元的颜色,按照特定的规则可以恢复图像。构成每个像素RGB数据组的规则之一是:使用同一行的相邻单元,再加上下一行(或上一行)的绿色相邻单元。内插后的RGB数据序列为...、红(i-1)、绿(i-1)、蓝(i-1)、红(i)、绿(i)、蓝(i)、红(i+1)、绿(i+1)、蓝(i+1)、...如图2所示。每个像素需要一组RGB数据,驱动彩色显示器并保持摄像头传感器的最高分辨率。内插RGB数据的亮度分辨率接近于传感器单元的分辨率,但色度分辨率较差。由于人眼对每个像素的灰度要比对像素的色彩分量更为敏感,所以感觉到的分辨率基本与传感器单元分辨率相同。


34eeca0a-1a53-11ee-962d-dac502259ad0.png图2. RGB数据排列

然而,这种RGB数据的内插算法使得数据速率增至三倍。为了降低数据速率,尤其是需要图像传输的场合,可采用YUV彩色空间(将模拟彩色电视信号压缩到模拟黑白电视的频带)。在下式中,亮度以Y表示,蓝色和亮度之间的色差以U表示,红色和亮度之间的色差以V表示,

34ff0abe-1a53-11ee-962d-dac502259ad0.png

式中,典型的色彩加权为:WR= 0.299,WB= 0.114,WG= 1 - WR- WB= 0.587,归一化值为UMAX,VMAX= 0.615。

对于采用拜耳滤色镜的摄像头传感器,相邻像素的U或V数据大致相同,取决于行索引i和像素索引j (如果采用的规则为相邻颜色)。利用本指南,可根据下式利用RGB数据直接生成YUV数据。

35105ed6-1a53-11ee-962d-dac502259ad0.png偶数行索引i和偶数像素索引j。352022d0-1a53-11ee-962d-dac502259ad0.png偶数行索引i和偶数像素索引j。352fa476-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。353e07fa-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。355026a6-1a53-11ee-962d-dac502259ad0.png

偶数行索引i和偶数像素索引j。

35605b3e-1a53-11ee-962d-dac502259ad0.png偶数行索引i和偶数像素索引j。35747a1a-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。3585395e-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。359856f6-1a53-11ee-962d-dac502259ad0.png偶数行索引i和偶数像素索引j。35a61926-1a53-11ee-962d-dac502259ad0.png>偶数行索引i和偶数像素索引j。35b94c08-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。35c7e54c-1a53-11ee-962d-dac502259ad0.png对于奇数行索引i和偶数像素索引j。

为了降低数据速率,利用偶数像素索引的U数据和奇数像素索引的V数据,以及偶数和奇数像素索引的Y数据。压缩后的YUV数据按照图3所示排列发送,即:Y1、U0和V1为像素1的数据;Y2、U2和V1为像素2的数据等。

35d752fc-1a53-11ee-962d-dac502259ad0.png

图3. YUV422数据排列

422表示YV的采样比,4x标准为早期彩色NTSC标准,按照41色度再次采样,所以,图像的色彩分辨率仅为亮度分辨率的四分之一。目前,只有处理非压缩信号的高端设备才会采用44彩色再采样,亮度和彩色信息的分辨率完全相同。

串行器输入格式 ADI串行器的并行接口设计用于24位RGB数据,特别是MAX9259,具有像素时钟位(PCLK)和29个数据位,用于24位RGB以及行同步、场同步和3个控制位。除并行数据接口外,需要把DRS和BWS引脚设置成高电平或低电平,分别选择数据速率和总线宽度。ADI串行器/解串器 MAX9257和MAX9258串行器/解串器(SerDes)具有18位并行输入/输出,适用于YUV数据传输;MAX9259/MAX9260芯片组具有28位并行输入/输出,适用于RGB数据传输;MAX9263/MAX9264 SerDes具有28位并行输入/输出,增加了HDCP功能。此外,MAX9265和MAX9268 28位SerDes带有摄像链路,代替并行输入/输出接口。所有28位ADI串行器和解串器具有相同的并/串数据映射,可互换使用。例如,MAX9259串行器可配合MAX9268解串器使用,传输RGB数据(借助于FPGA)。数据从CMOS摄像头通过串行链路发送至摄像链路接口的显示器。串行器映射 为匹配MAX9268解串器摄像链路的输出接口,并行RGB数据应按照以下信号图映射。图4所示为MAX9268并行位与其摄像链路输出之间的映射,图5所示为相机链路的RGB数据映射。表1所示为MAX9259串行器的对应内容映射。

35e68a1a-1a53-11ee-962d-dac502259ad0.png图4. MAX9268内部并行至输出映射

360f5544-1a53-11ee-962d-dac502259ad0.png图5. 摄像链路内容映射

363c1fe8-1a53-11ee-962d-dac502259ad0.png表1. MAX9259串行器RGB内容位映射

色彩转换:YUV至RGB

FPGA芯片可将压缩(降低数据速率)后的摄像头数据YUV转换成RGB数据,用于MAX9259串行器。采用8位定点运算时,色彩空间转换的公式如下,式2和式3中,Dn和En的n为偶数。

Cn= Yn- 16

Dn= Dn + 1= Un- 128

En= En + 1= Vn + 1- 128

Rn= clip((298 × Cn+ 409 × En+ 128) >> 8)

Gn= clip((298 × Cn- 100 × Dn- 208 × En+ 128) >> 8)

Bn= clip((298 × Cn× 516 × Dn+ 128) >> 8)

式中,>> 8表示“向右移8位”,clip表示“只取最低8位”。

FPGA方案

输入缓冲

输入缓冲电路包括计数器、三个寄存器和组合逻辑,将单字节时钟输入转换成三字节时钟输出,输出时钟速率为输入的一半。组合逻辑仅用于分别使能Y、U和V字节的对应寄存器。

3651db44-1a53-11ee-962d-dac502259ad0.png图6. 输入缓冲电路

时钟开关

FPGA输出像素时钟速率为摄像头像素时钟的一半,用于驱动串行器像素时钟输入。但是,摄像头在初始化之前不会输出像素时钟。解决方案是在FPGA内部采用2:1时钟复用器(mux)和时钟信号检测器,mux由时钟信号检测器控制。上电时,mux的默认时钟来自摄像头的时钟振荡器,使SerDes芯片组提供启动摄像头的控制通道。时钟信号检测器对场同步信号脉冲进行计数,经过几个场同步脉冲后,mux切换到摄像头像素时钟速率的一半。采用高清摄像头传感器时,例如OV10630,每个场同步周期包含100k以上的像素时钟。几个场同步周期足以使摄像头的锁相环(PLL)达到稳定。场同步计数比像素时钟计数的效率高得多,并可节省FPGA逻辑单元的资源。

中间缓冲

格式转换表达式中没有体现硬件电路的延迟。为了从YUV输入生成RGB数据,需要两到三次乘法运算和三到四次加法运算。尽管FPGA逻辑电路(门电路) 的延时只有几个纳秒,但载波传输、加法器、移位乘法器都会导致不同程度的延时,使整体延时增大。为了使延迟最小化,每个常数乘法器均由两个移位输入(代表常数的2个非零最高有效位MSB)的加法器近似。输入的YUV字节速率大约为100MHz时,延迟会跨越相邻像素的定时边界,增大图像噪声。在每个乘法器之后通过中间寄存器来消除扩展延时。 以上提及的YUV至RGB彩色转换已用于ActelProASIC3 A3PN125Z FPGA,图7所示为实现这一FPGA的原理图。

36671b26-1a53-11ee-962d-dac502259ad0.png图7. YUV至RGB转换器的FPGA实现

应用电路

厂家提供的摄像头芯片可能位于PCB子板,图8所示为摄像头子板模块的功能框图。输入包括电源、PWR和晶振时钟(XCLK)。输出信号包含并行数据位(D0..D9)、I²C总线(SDA、SCL)、视频同步(HREF、VSYNC)和像素时钟(PCLK)。

368e88aa-1a53-11ee-962d-dac502259ad0.png图8. 摄像头模块功能框图

图9所示为应用电路的FPGA和串行器芯片的原理图。电路通过两对双绞线组成的串行电缆供电,一对用于传输串行信号,另一对用于供电。独立的LDO电源IC用于串行器和FPGA器件。摄像头模块采用旁路电容,自带LDO电源芯片,进一步降低潜在干扰。FPGA和串行器之间的数据链路采用阻尼电阻。

36a6017e-1a53-11ee-962d-dac502259ad0.png

36c633e0-1a53-11ee-962d-dac502259ad0.png图9a. 应用电路的FPGA部分


36e4fa32-1a53-11ee-962d-dac502259ad0.png

37060844-1a53-11ee-962d-dac502259ad0.png

图9b. 应用电路的串行器部分

MAX9259也能够直接连接至摄像头传感器,例如OV10630,以构建更小的摄像头。彩色空间转换FPGA可置于解串器之后。由于这种应用需要摄像链路输出,可直接由MAX9268驱动,所以彩色转换FPGA置于摄像头传感器和串行器(MAX9259)之间。

视频采集示例

图10所示摄像头应用电路也是利用这些摄像头电路搭建的。

371a2fa4-1a53-11ee-962d-dac502259ad0.png

图10. 摄像头应用电路

文章来源于:电子工程世界    原文链接
本站所有转载文章系出于传递更多信息之目的,且明确注明来源,不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。

相关文章

    了以S3C2440为核心的USB摄像头视频采集和嵌入式Linux系统下的视频服务器,从而实现了远程网络视频信息采集。 1 系统总体设计 该系统是以ARM9处理器S3C2440为核心,在嵌入式Linux系统......
    基于S3C2440和USB摄像头的网络视频采集系统;  本文根据网络视频采集的需要,将网络传输与视频采集相结合,设计了以S3C2440为核心的USB摄像头视频采集和嵌入式Linux系统......
    入侵者进入设防区域云台就工作,人移动超过一定的距离,电机就转带动摄像头转动,始终保持人在监控摄像头的视角范围中心区域。整个工作过程全智能化,无需人操作,且步进电机易于控制转动度数,转动精确,可实现全方位准确监控摄像......
    消防部门进行灭火工作提供现场环境参考。 1 系统架构系统的总体设计框架如图1所示,系统以ARM11核心处理器,采用了GPIO扩展口控制红外火灾传感器实时读取现场信息,通过USB接口控制USB摄像头......
    全景视野监控——萤石C6H体验评测; 随着智能手机与4G网络的普及,越来越多的消费者在家里配备了可用手机监控的智能摄像头。而相对于固定式的安防摄像头,功能强大监控能力强的全景视角的云台摄像头......
    使用USB无线网卡和USB摄像头打造mini2440无线监控系统;一、我的mini2440开发板上使用的网卡设备为水星MERCURY54M无线USB网卡 MW54U ver:7.0,其内......
    级处理器的开发板上尝试无线图传功能,并且叠加人脸识别检测视频中是否存在人脸。这次使用的是USB摄像头,可以直接接在开发板的接口上。1. 连接摄像头连接好摄像头后使用指令dmesg,看到能读取到摄像头。显示......
    格式为常见的VFAT/FAT32/FAT16,如果你的优盘或者SD 卡不能识别,请检查是否为VFAT/FAT32/FAT16 格式。 5 配置和测试USB 摄像头      Linux 内核......
    格式为常见的VFAT/FAT32/FAT16,如果你的优盘或者SD 卡不能识别,请检查是否为VFAT/FAT32/FAT16 格式。 5 配置和测试USB 摄像头      Linux 内核......
    基于UVC协议的4K智能摄像头;摘要:本文设计了一款基于UVC协议的4K智能摄像头,主控采用瑞芯微RV1126,传感器采用思特威 SC8238。摄像头通过USB接口直连电视,实现4K高清呈现。支持......

我们与500+贴片厂合作,完美满足客户的定制需求。为品牌提供定制化的推广方案、专属产品特色页,多渠道推广,SEM/SEO精准营销以及与公众号的联合推广...详细>>

利用葫芦芯平台的卓越技术服务和新产品推广能力,原厂代理能轻松打入消费物联网(IOT)、信息与通信(ICT)、汽车及新能源汽车、工业自动化及工业物联网、装备及功率电子...详细>>

充分利用其强大的电子元器件采购流量,创新性地为这些物料提供了一个全新的窗口。我们的高效数字营销技术,不仅可以助你轻松识别与连接到需求方,更能够极大地提高“闲置物料”的处理能力,通过葫芦芯平台...详细>>

我们的目标很明确:构建一个全方位的半导体产业生态系统。成为一家全球领先的半导体互联网生态公司。目前,我们已成功打造了智能汽车、智能家居、大健康医疗、机器人和材料等五大生态领域。更为重要的是...详细>>

我们深知加工与定制类服务商的价值和重要性,因此,我们倾力为您提供最顶尖的营销资源。在我们的平台上,您可以直接接触到100万的研发工程师和采购工程师,以及10万的活跃客户群体...详细>>

凭借我们强大的专业流量和尖端的互联网数字营销技术,我们承诺为原厂提供免费的产品资料推广服务。无论是最新的资讯、技术动态还是创新产品,都可以通过我们的平台迅速传达给目标客户...详细>>

我们不止于将线索转化为潜在客户。葫芦芯平台致力于形成业务闭环,从引流、宣传到最终销售,全程跟进,确保每一个potential lead都得到妥善处理,从而大幅提高转化率。不仅如此...详细>>