找回密码
 注册
关于网站域名变更的通知
查看: 611|回复: 3
打印 上一主题 下一主题

基于RK3588J的6路MIPI CSI视频采集案例分享,多路视频系统必看!

[复制链接]

该用户从未签到

跳转到指定楼层
1#
 楼主| 发表于 2024-8-23 09:59 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式

EDA365欢迎您登录!

您需要 登录 才可以下载或查看,没有帐号?注册

x
案例说明
& W' z( }; W8 K% M) O2 ~
本文主要介绍基于创龙科技TL3588-EVM评估板(基于RK3588J)的6路高清视频采集案例,开发环境如下。
Windows开发环境:Windows 7 64bit、Windows 10 64bit
虚拟机:VMware15.5.5
开发环境:Ubuntu20.04.6 64bit
U-Boot:U-Boot-2017.09
Kernel:Linux-5.10.160
LinuxSDK:rk3588_linux_release_v1.2.1
摄像头模块型号:TL13850和Camera Module v2
视频分辨率:1920x1080@30fps

5 b3 K: v: W; Y7 z4 I
图 1 6路视频采集效果图
备注:由于案例通过等比例拼接形式采集画面,且摄像头帧率需统一,因此摄像头分辨率帧率均使用1920x1080@30fps。
1 _' |9 d9 p4 Z* b  n
RK3588J的MIPI CSI介绍
RK3588J的MIPI CSI接口介绍如下。
(1)支持多种视频格式:RAW8、RAW10、RAW12、RAW14、YUV422。
(2)包含4个MIPI CSI DPHY接口,支持MIPI DPHY V1.2标准,每个接口支持2Lane,每Lane最高支持2.5Gbps;支持将2个MIPI CSI DPHY接口组合成1个4Lane数据通道接口使用。
(3)包含2个MIPI CSI DCPHY接口(MIPI CSI DPHY/CPHY复用),支持MIPI CPHY V1.1标准,每个MIPI CSI DCPHY支持4Lane数据通道,每Lane最高2.5Gbps。
(4)支持的摄像头接口组合方案如下:
6个摄像头接口配置:2个MIPI CSI DCPHY(4Lane)接口 + 4个MIPI CSI DPHY(2Lane)接口;
5个摄像头接口配置:2个MIPI CSI DCPHY(4Lane)接口 + 1个MIPI CSI DPHY(4Lane)接口 + 2个MIPI CSI DPHY(2Lane)接口;
4个摄像头接口配置:2个MIPI CSI DCPHY(4Lane)接口 + 2个MIPI CSI DPHY(4Lane)接口。

9 `1 S8 K  Q  I: Y: f9 e2 Q% b

) t" T5 z) n9 F
表 1

7 H! o3 ]& ?& [! c7 l" h$ @
(5)常见视频输入数据量理论带宽及MIPI CSI Lane数量要求,如下表所示:
备注:以下相关数据量估算不含数据传输协议相关开销,仅供参考。

+ C, d' N  r$ @, V: r6 f" g6 F* t8 ]( C

' K0 t& L/ w* ~
表 2
& F% `" x: C7 k; G
案例功能说明
ISP图像处理说明
RK3588J的ISP30模块支持标准的Sensor图像数据处理,包括自动白平衡、自动曝光、Demosaic、坏点矫正及镜头阴影矫正等基本功能,也支持HDR、去雾、降噪等高级处理功能。
ISP30功能框图如下图所示。
$ e% L* _' U3 F: P. k" u
图 2
/ w; `8 L) @3 R2 {% q
RK3588J的图像处理基于ISP图像参数调试工具RKISP2.x Tuner对摄像头采集的图像进行标定,通过IQ参数文件将摄像头采集的图像优化处理后发送至显示设备。
RKISP2.x Tuner提供了一套便于用户调试ISP参数的工具,用户可以在RKISP2.x Tuner中对所有ISP模块开展标定(Calibration)、调试(Tuning)等工作。用户可以使用RKISP2.x Tuner提供的抓图工具(Capture Tool)来拍摄RAW图,在标定工具(Calibration Tool)中完成基础模块的标定工作,在RKISP2.x Tuner中连接设备,在线进行ISP参数调试。
Tuner流程图如下所示:

: g+ L6 t8 n5 Q1 n6 w  t% I

* P# ~) w/ c( F& L" R5 _; C
图 3

0 I! u1 V" |/ _  t* N0 I1 Z/ A
缩放拼接功能说明
案例基于Linux的V4L2采集1080P的摄像头画面,通过RGA进行图像缩放和拼接处理,最终利用DRM框架将处理后的整个画面进行显示。
(1)采集图像:V4L2(Video for Linux 2)是用于支持摄像头和视频设备的框架,其提供了一组API和驱动程序接口,用于在Linux系统中进行视频采集、视频流处理和视频播放等操作。
(2)缩放拼接:RGA(Raster Graphic Acceleration Unit)是⼀个独立的2D硬件加速器,可⽤于加速点/线的绘制,执行图像缩放、旋转、bitBlt、alpha混合等常⻅的2D图形操作。
(3)图像显示:DRM(Direct Rendering Manager)是Linux内核的一个子系统,负责与GPU进行交互。用户空间程序可以使用DRM的API向GPU发送命令和数据并执行诸如配置显示器模式设置之类的操作。

( s/ ?: j! {% n- w( u/ a
RK3588J典型应用领域
图5

9 N. @' o- A' G( K% e, Z
6路视频采集案例演示
案例说明
本案例实现6路摄像头的图像采集,并对图像进行缩放和拼接处理,最终通过HDMI显示屏进行显示。其中配置所有摄像头以1920x1080@30fps分辨率采集画面,并通过硬件协处理器缩放拼接画面后以1920x1080@30fps分辨率输出到HDMI显示屏。

1 Y; V8 y9 w% G
图 5
/ R7 n8 e! R7 r. o5 L5 x
根据摄像头的数量,显示的画面布局如下:

) d$ O1 r- e- |- f' a" R4 t
图 6
7 I+ h. B: j6 ]/ P: q$ V
案例测试
请使用FFC软排线将MIPI摄像头模块(TL13850)连接至评估板CAMERA1、CAMERA2接口;将MIPI摄像头模块(Camera Module v2)连接至评估板CAMERA3~CAMERA6接口,然后将评估板HDMI OUT接口连接至HDMI显示屏。

8 u9 O+ O% |3 R! C- G7 K) ^
# @/ V6 ]- F1 g& u# g" Q8 `0 \  p
表 3
0 b* J2 e9 G: b$ p  }# j1 P" \
5 U) U! A  I' R5 m0 m; p! a
图 7

2 U! H& u/ |$ O+ c# u
请将案例bin目录下的multi_camera_display可执行程序拷贝至评估板文件系统任意目录下,进入可执行程序所在目录,执行如下命令采集视频,并输出至显示设备。命令参数"-o 208:71:1920x1080"表示将终端输出至HDMI显示器,打印信息"usec"表示耗时,单位为us,"fps"表示帧率。按"Ctrl + C"可停止运行。
Target# ./multi_camera_display -M rockchip -i 84,66,75,93,102,111 -S 1920x1080 -f NV12 -F NV12 -b 4 -o 208:71:1920x1080

- E1 W& x6 s+ M# N2 |1 q
7 C* H" l" ^8 M% x
图 8
& }3 S. `( H. ~7 b1 A+ [  k
. R& i: J% n0 g0 j6 d
图 9
6 L0 u2 G5 @5 U# D1 p
使用摄像头采集PC机显示屏的在线秒表图像,经过ARM处理后再将图像进行显示。PC机显示画面与评估板显示画面的时间差,即为时延。进行单路视频采集和6路视频采集时延测试,得到的时延结果如下表所示。' v9 M& E( U. f

' p+ P  D6 s* l0 N& z8 J/ @
1 t" T( n$ ~- R+ t7 ]) V* w
! F5 {2 d6 N. S
表 4
! z/ p7 d5 p7 M  D" a8 ]
' b* N$ Z1 S+ N9 b9 `
图 10 单路视频采集时延测试界面
" [7 g. b, d" {8 s& C2 W  e) D

' O- n0 s2 C0 ]( O* {! o
图 11 6路视频采集时延测试界面
% H( X0 s1 q+ A& W

1 a+ U! Z- ]( ]; h, ], S! V
6 o" L. T, d/ j, i: Y! o) b" n
  • TA的每日心情
    开心
    2023-5-15 15:25
  • 签到天数: 1 天

    [LV.1]初来乍到

    2#
    发表于 2024-8-26 13:56 | 只看该作者
    流程图画的很详细。
  • TA的每日心情
    开心
    2025-11-10 15:33
  • 签到天数: 32 天

    [LV.5]常住居民I

    4#
    发表于 2024-9-20 18:47 | 只看该作者
    谢谢分享,学习学习!
    您需要登录后才可以回帖 登录 | 注册

    本版积分规则

    关闭

    推荐内容上一条 /1 下一条

    EDA365公众号

    关于我们|手机版|EDA365电子论坛网 ( 粤ICP备18020198号-1 )

    GMT+8, 2025-11-23 13:39 , Processed in 0.156250 second(s), 23 queries , Gzip On.

    深圳市墨知创新科技有限公司

    地址:深圳市南山区科技生态园2栋A座805 电话:19926409050

    快速回复 返回顶部 返回列表