- S3C2440+嵌入式Linux的移动视频监控终端设计

H．264视频流NALU单元封装成RTP包时，要遵循RTP负载格式标准，H．264负载格式定义了3种类型的负载结构：单一NALU模式、组合封包模式、分片封包模式。单一NALU模式是一个RTP包仅由一个完整的NALU组成；组合封包模式是可能由多个NALU组成一个RTP包；分片封包模式是将一个NALU单元封装成多个RTP包，采用分片封包模式的原因是网络传输协议有最大传输单元(MTU)一般为1500B上限，如果NALU大于MTU，IP层将其自动分割为几个小于MTU的数据包，这样无法检测数据包是否有丢失，所以有必要采取分片封包模式，在接收端把拥有相同时间戳的多个RTP包按照序列号重组成一个完整的NALU。分片封包模式的RTP包格式如图4所示。

FU inDICator的Type字段表示RTP采用的负载结构，28，29时表示采用分片封包模式，NRI字段的值根据NALU的NRI值设置。FU header的S位置1时表示该包是NALU的起始分片，E位置1时表示该包是NALU的结束分片。

2．1．3 RTP丢包处理

由于网络稳定性原因，可能造成RTP丢包的情况。针对单一NALU模式和组合封包模式丢包不会影响解码器的正常工作，会导致监控画面花屏或跳帧想象，但对于实时监控是在可承受的范围。对于分片封包模式丢包会造成接收端收到一个不完整的NALU，对一个不完整的NALU解码可能造成解码失败，甚至系统崩溃。因此，对于分片封包模式的RTP包需要判断接收的NALU是否丢包。

传输分片封包模式的NALU时，一个NALU分割封装成若干个RTP包具有相同的时间戳、依次递增的序列号。对接收的RTP包根据FU header头信息做不同的处理：接收到起始分片(S=1)，根据序列号在链表中添加节点，保存视频数据、起始分片序列号，计数器加1；接收到中间分片，在链表中找到时间戳相同的节点，将此RTP包序列号与起始序列号相减，计算出视频数据在链表的相对偏移，存储视频数据到链表相应位置，计数器加1；接收到结束分片(E=1)，同中间分片一样，但还需要保存结束分片序列号。每接收一个RTP包后判断NALU完整性，在接收到起始分片、结束分片的前提下，结束分片序列号与起始分片序列号之差是否等于计数器的值，以此判断一个NALU是否接收完整，若接收到所有分片，置位结构体中FrameCompelere，解码器可根据此位判断NALU完整性。

2．2 H．264解码器的实现

监控终端通过网络接收到H．264视频流后，需要移植H．264的解码库实现实时解码。在众多解码器中经对比和分析，选用ffmpeg开源解码器来实现。ffmpeg库为音视频数据分离、转换、解码提供了完整解决方案，其中两个重要库libavformat和libavcodec，分别支持各种音视频文件格式和音视频解码器。

利用ffmpeg的API函数进行视频流解码，先做好解码前的准备工作。调用av_register_all()函数注册所有的文件格式和编解码器的库，也可以只注册特定的解码器。关于解码器的信息在AVCodeCContext结构体中，它包含解码器所有信息，查找H．264解码器CODEC_ID_H264，通过avcodec_open()函数打开解码器。用avcodec_alLOC_frame()函数分配一帧的存储空间，存储解码后输出的数据。

在双向链表中已经保存了接收的视频流，从链表头读取NALU进行解码，每读取一个NALU将链表头指向下一个单元，释放已读取NALU占有的内存。NALU的头信息定义了视频流所属类型，一般包括增强信息(SEI)、序列参数集(SPS)、图像参数集(PPS)、条带(SlICe)等。先将SPS、PPS参数集通过解码器解码出来设置解码图像尺寸、片组数、参考帧数、量化和滤波参数等。依次从链表头读取NALU，调用avcodec_decode_ video()函数解码输出到分配的存储空间，当完成一帧的解码，就需要对解码后的图像显示到液晶屏。解码输出的图像格式为YUV420P，可以采用ffmpeg提供的sws_seale()把图像格式转换为RGB格式显示，也可以采用其他SDL之类的库直接YUV覆盖显示。整个解码流程如图5所示。

3 结语

系统采用S3C2440硬件平台和嵌入式Linux操作系统相结合，设计了移动视频监控终端，重点阐述了用RTP协议在网络中通过套接字传输视频流，结合开源解码库ffmpeg实时解码H．264视频流的解决方案。经测试，对于QCIF分辨率监控画面具有较好的实时性和可靠性。当视频分辨率增大时，解码器的解码性能成为