跳到主要内容

CSI Camera

Luckfox Pico 、Luckfox Pico Mini A/B 和 Luckfox Pico Plus/Pro/Max 适配的是 SC3336 3MP Camera (A) 摄像头,这款摄像头采用思特威SC3336感光芯片,支持3百万像素。具备高灵敏度,高信噪比低照度的性能,能够呈现更加细腻、色彩更加逼真的夜视全彩成像,更好地适应环境光线变化。注意:当前推流仅适用于 buildroot系统。

查看摄像头

  1. 首先连接摄像头,请确保连接正常后开机。系统将自动识别摄像头,注意接线不要接反了。 LuckFox Pico Ultra 开发板连接摄像头时,请确保摄像头排线的金属面朝向开发板芯片。

  2. 烧录网盘的最新镜像,登录开发板后使用luckfox-config工具打开 CSI 接口。

    luckfox-config
  3. 查看摄像头,若成功识别摄像头会生成 rkipc.ini 文件。

    # ls /userdata/
    ethaddr.txt lost+found image.bmp video0 video2 rkipc . ini video1
  4. 获取设备的 IP 地址,Luckfox Pico 、Luckfox Pico Mini A/B 和 Luckfox Pico Plus/Pro/Max 默认 IP 为 172.32.0.93

    # ifconfig
    lo Link encap:Local Loopback
    inet addr:127.0.0.1 Mask:255.0.0.0
    UP LOOPBACK RUNNING MTU:65536 Metric:1
    RX packets:0 errors:0 dropped:0 overruns:0 frame:0
    TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
    collisions:0 txqueuelen:1000
    RX bytes:0 (0.0 B) TX bytes:0 (0.0 B)

    usb0 Link encap:Ethernet HWaddr 9E:49:D7:C8:F4:A3
    inet addr:172.32.0.93 Bcast:172.32.255.255 Mask:255.255.0.0
    UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
    RX packets:763 errors:0 dropped:116 overruns:0 frame:0
    TX packets:4 errors:0 dropped:0 overruns:0 carrier:0
    collisions:0 txqueuelen:1000
    RX bytes:149160 (145.6 KiB) TX bytes:1544 (1.5 KiB)

  5. 对于 Luckfox Pico Plus/Pro/Max 由于硬件上有网口,还可以查看到有线 IP 地址:

    # ifconfig
    eth0 Link encap:Ethernet HWaddr 82:D8:B7:D8:94:5A
    inet addr:192.168.10.86 Bcast:192.168.11.255 Mask:255.255.252.0
    UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
    RX packets:144 errors:0 dropped:0 overruns:0 frame:0
    TX packets:2 errors:0 dropped:0 overruns:0 carrier:0
    collisions:0 txqueuelen:1000
    RX bytes:11210 (10.9 KiB) TX bytes:684 (684.0 B)
    Interrupt:51

    lo Link encap:Local Loopback
    inet addr:127.0.0.1 Mask:255.0.0.0
    UP LOOPBACK RUNNING MTU:65536 Metric:1
    RX packets:0 errors:0 dropped:0 overruns:0 frame:0
    TX packets:0 errors:0 dropped:0 overruns:0 carrier:0
    collisions:0 txqueuelen:1000
    RX bytes:0 (0.0 B) TX bytes:0 (0.0 B)

    usb0 Link encap:Ethernet HWaddr F2:84:8E:BA:A0:E8
    inet addr:172.32.0.93 Bcast:172.32.255.255 Mask:255.255.0.0
    UP BROADCAST RUNNING MULTICAST MTU:1500 Metric:1
    RX packets:85 errors:0 dropped:39 overruns:0 frame:0
    TX packets:4 errors:0 dropped:0 overruns:0 carrier:0
    collisions:0 txqueuelen:1000
    RX bytes:13126 (12.8 KiB) TX bytes:1544 (1.5 KiB)

配置 RNDIS 虚拟网口

  1. Windows 安全中心—>防火墙和网络保护—>关闭防火墙。

  2. 配置 RNDIS 网卡的静态IP,打开设置—>高级网络设置—>更改适配器选项。

  3. 网卡一般是类似这样的名字Remote NDIS based nternet Sharing Device,右键属性。

  4. 双击 internet 协议版本(TCP/IPv4),IPV4地址设置为 172.32.0.100,避免和设备冲突。

使用VLC media player 推流

  1. 下载并安装 VLC media player 。

  2. 打开 VLC media player 软件,在媒体—>打开网络串流

  3. 输入默认的 IP 地址:rtsp://172.32.0.93/live/0

  4. Luckfox Pico Plus/Pro/Max 版本也可以使用 eth0 的 IP地址串流。

  5. 点击播放,即可看到摄像头画面,可以旋转镜头来调焦。

优化 VLC 网络串流

VLC软件就默认会缓存1秒(1000ms=1s)的视频,可以适度减小缓存时间,可以提高实时性,但是延迟太低 可能导致丢包或者卡顿,建议不低于300ms。

  • 效果如下:

V4L2 简介

V4L2,全称 Video for Linux 2,是Linux操作系统上用于支持视频设备的内核框架。它提供了一组 AP I和驱动程序接口,使用户空间应用程序能够与各种视频设备(如摄像头、电视卡等)进行交互。V4L2 是 Linux 内核的一部分,用于处理视频输入和输出。

V4L2 框架

V4L2 视频设备对应的设备节点有 /dev/videoX,视频设备以高频摄像头或 Camera 为输入源,Linux 内核驱动该类设备,接收相应的视频信息并处理

  1. User Space(用户空间)
    • 应用程序通常通过libv4l库来操作摄像头,也可以选择基于字符设备/dev/videoX自行编写应用程序。
    • guvcview通常适用于USB 摄像头,因为它提供了用户友好的图形界面,适合在桌面环境中操作。(Luckfox Pico 暂时不支持)
    • yavta通常适用于 CSI 摄像头,因为 CSI 摄像头通常在嵌入式系统中使用,yavta是一个轻量级的命令行工具,适合在终端环境中进行测试和调试。(默认不开启)
    • v4l2 utilities: v4l-utils 工具包主要包含两个常用工具,分别是 media-ctl 和 v4l2-ctl
  2. Kernel Space(内核空间)
    • RKVICAP 和 RKISP 驱动主要是基于v4l2 / media框架实现硬件的配置、中断处理、控制 buffer轮转,以及控制 subdevice (如 MIPI D-PHY及sensor)的上下电等功能。(更多详细信息查看文档Rockchip_Driver_Guide_VI_CN_v1.1.3.pdf)
    • MIPI D-PHY是 MIPI 联盟定义的一种物理层协,通常用于连接图像传感器和图像处理器
    • Video Buffer 2 是 Linux 内核中的一个子系统, vb2 负责在 Linux 系统中处理视频缓冲区的内存管理和设备I/O操作,通常用于处理摄像头和其他视频输入设备
    • 摄像头通过D-PHY 将视频数据传输到处理单元,并在此过程中,vb2负责分配和管理用于存储视频帧的内存缓冲区
    • CCI(Camera Control Interface,摄像头控制接口):摄像头控制接口是一种用于从图像处理器向摄像头发送控制命令的接口。主要是通过GPIO(供电、片选)、I2C(下发配置命令给sensor)实现配置 sensor
  3. Hardware(硬件)
    • CSIC Controller: 主要功能是实现图像传感器和图像处理器之间的高速数据传输。
    • I2C Controller: 用于与图像传感器的I2C块进行通信,这通常用于配置和控制传感器的参数,如曝光时间、增益等。
    • GPIO Controller: 用于与图像传感器进行通信,通常用于提供电源或选择传感器,可能是通过控制传感器的供电或片选引脚。
    • EHCI/OHCI:OHCI 主要用于 USB 1.1 设备,而 EHCI 用于支持 USB 2.0 高速设备。这两者的结合使得计算机可以同时支持不同速度的 USB 设备,并为 USB 控制器提供了一致的软硬件接口。这里指的是USB类型摄像头
  4. External Devices(外设)
    • 摄像头的接口:CSI(2 x 2Lanes or 1 x 4Lanes 2.5Gbps/Lane)、DVP(BT601 / BT656 / BT1120 pclk: 150MHz)和 USB 2.0。

V4L2-utils 工具包

V4L2-utils 是一组用于测试和配置 V4L2 设备的实用工具,它们通过命令行界面提供了对 V4L2 接口的访问。Luckfox SDK 的buildroot包中已经包含了 v4l2-utils软件包中的工具,但需要手动开启它,在 buildroot 目录添加 V4L2,使用关键字"libv4l2"进行搜索。

v4l2-ctl

  1. 列出摄像头的设备

    v4l2-ctl --list-devices
    # v4l2-ctl --list-devices
    rkisp-statistics (platform: rkisp):
    /dev/video23
    /dev/video24

    rkcif-mipi-lvds (platform:rkcif):
    /dev/media2

    rkcif (platform:rkcif-mipi-lvds):
    /dev/video4
    /dev/video5
    /dev/video6
    /dev/video7
    /dev/video8
    /dev/video9
    /dev/video10
    /dev/video11
    /dev/video12
    /dev/video13
    /dev/video14

    rkisp_mainpath (platform:rkisp-vir0):
    /dev/video15
    /dev/video16
    /dev/video17
    /dev/video18
    /dev/video19
    /dev/video20
    /dev/video21
    /dev/video22
    /dev/media3

    USB Camera: USB Camera (usb-xhci-hcd.0.auto-1.1):
    /dev/video0
    /dev/video1
    /dev/media0

    USB 2.0 Camera: USB Camera (usb-xhci-hcd.0.auto-1.2):
    /dev/video2
    /dev/video3
    /dev/media1
    • rkisp_mainpath:CSI摄像头
    • USB Camera:USB 摄像头
  2. 列出摄像头支持的格式

    v4l2-ctl --device=/dev/video15 --list-formats-ext

    v4l2-ctl --device=/dev/video0 --list-formats-ext
  3. 显示摄像头参数

    v4l2-ctl --device=/dev/video15 --list-ctrls
  4. 录制视频

    #CSI 摄像头(需要先关掉自带的RKIPC)
    killall rkipc
    v4l2-ctl --device=/dev/video15 --set-fmt-video=width=640,height=480,pixelformat=NV12 --stream-mmap --stream-to=video50.yuv --stream-count=60

    #USB 摄像头
    v4l2-ctl --device=/dev/video0 --set-fmt-video=width=640,height=480,pixelformat=YUYV --stream-mmap --stream-to=video100.yuv --stream-count=100
    • -device:摄像头对应设备文件
    • --set-fmt-video:指定了宽高及 pxielformat (标识像素格式)
    • --stream-mmap:指定 buffe r的类型为 mmap,即由内核分配的物理连续的或经过 iommu 映射的buffer
    • --stream-to:指定帧数据保存的文件路径
    • --stream-count:指定抓取的帧数,不包括--stream-skip丢弃的数量
  5. 如果出现“The pixelformat 'UYVY' is invalid” 字样说明摄像头不支持此格式,使用第二步的方法查看摄像头支持的格式

  6. 看到<<<<<<<<< 5.79 fps 说明成功录制视频

media-ctl

  1. 查看有几个 media 节点

    # ls /dev/media*
    /dev/media0 /dev/media1 /dev/media2
  2. 查看拓扑结构命令为

    media-ctl -d /dev/media3 -p
  3. 上述命令如果读取不到 CSI 摄像头的 Entity,可以使用如下命令查看全部信息

    # v4l2-ctl --all -d /dev/video15
    Driver Info:
    Driver name : rkisp_v7
    Card type : rkisp_mainpath
    Bus info : platform:rkisp-vir0
    Driver version : 2.0.0
    Capabilities : 0x84201000
    Video Capture Multiplanar
    Streaming
    Extended Pix Format
    Device Capabilities
    Device Caps : 0x04201000
    Video Capture Multiplanar
    Streaming
    Extended Pix Format
    Media Driver Info:
    Driver name : rkisp-vir0
    Model : rkisp0
    Serial :
    Bus info :
    Media version : 5.10.110
    Hardware revision: 0x00000000 (0)
    Driver version : 5.10.110
    Interface Info:
    ID : 0x03000007
    Type : V4L Video
    Entity Info:
    ID : 0x00000006 (6)
    Name : rkisp_mainpath
    Function : V4L2 I/O
    Pad 0x01000009 : 0: Sink
    Link 0x0200000a: from remote pad 0x1000004 of entity 'rkisp-isp-subdev' (Unknown V4L2 Sub-Device): Data, Enabled
    Priority: 2
    Format Video Capture Multiplanar:
    Width/Height : 2304/1296
    Pixel Format : 'NV12' (Y/CbCr 4:2:0)
    Field : None
    Number of planes : 1
    Flags :
    Colorspace : Default
    Transfer Function : Default
    YCbCr/HSV Encoding: Default
    Quantization : Full Range
    Plane 0 :
    Bytes per Line : 2304
    Size Image : 4478976
    Selection Video Capture: crop, Left 0, Top 0, Width 2304, Height 1296, Flags:
    Selection Video Capture: crop_bounds, Left 0, Top 0, Width 2304, Height 1296, Flags:
    Selection Video Output: crop, Left 0, Top 0, Width 2304, Height 1296, Flags:
    Selection Video Output: crop_bounds, Left 0, Top 0, Width 2304, Height 1296, Flags:

    Image Processing Controls
  4. 查看哪个设备可以输出图像。

    media-ctl -d /dev/media3 -e "rkisp_mainpath"

显示视频

上面抓取的图片或者视频可以拷贝到 Ubuntu 中借助借助工具ffplay查看。ffplay 是 FFmpeg 工具包中的一个命令行工具,用于播放音频和视频文件。它基于 FFmpeg 库,支持广泛的音视频格式,能够在命令行中实时播放或预览多媒体内容。

  1. 播放视频

    ffplay -video_size 640x480 -pixel_format nv12 -framerate 10 -i video50.yuv
    ffplay -video_size 640x480 -pixel_format yuyv422 -framerate 10 -i video100.yuv
    • -video_size size 设置帧尺寸 设置帧尺寸大小
    • -pixel_format format 设置像素格式
    • -framerate 10: 设置视频的帧率为 10 帧/秒

  2. 转换视频格式

    ffmpeg -f rawvideo -pixel_format yuyv422 -video_size 640x480 -framerate 30 -i video.yuv -c:v libx264 output.mp4