用实例分析H264 RTP payload

H264的RTP中有三种不同的基本负载（Single NAL,Non-interleaved,Interleaved)

应用程序可以使用第一个字节来识别。

 

在SDP中也说明了本次会话的属性

SDP 参数 
下面描述了如何在 SDP 中表示一个 H.264 流:
. "m=" 行中的媒体名必须是 "video"
. "a=rtpmap" 行中的编码名称必须是 "H264".
. "a=rtpmap" 行中的时钟频率必须是 90000.
. 其他参数都包括在 "a=fmtp" 行中.
如:
m=video 49170 RTP/AVP 98
a=rtpmap:98 H264/90000
a=fmtp:98 profile-level-id=42A01E; packetization-mode=1; sprop-parameter-sets=Z0IACpZTBYmI,aMljiA==

下面介绍一些常用的参数.
3.1 packetization-mode: 
表示支持的封包模式. 
当 packetization-mode 的值为 0 时或不存在时, 必须使用单一 NALU 单元模式.
当 packetization-mode 的值为 1 时必须使用非交错(non-interleaved)封包模式.

当 packetization-mode 的值为 2 时必须使用交错(interleaved)封包模式.

 

 

每个打包方式允许的NAL单元类型总结(yes = 允许, no = 不允许, ig = 忽略)
      Type   Packet    Single NAL    Non-Interleaved    Interleaved
                       Unit Mode           Mode             Mode
      -------------------------------------------------------------

      0      undefined     ig               ig               ig
      1-23   NAL unit     yes              yes               no
      24     STAP-A        no              yes               no
      25     STAP-B        no               no              yes
      26     MTAP16        no               no              yes
      27     MTAP24        no               no              yes
      28     FU-A          no              yes              yes
      29     FU-B          no               no              yes
      30-31  undefined     ig               ig               ig

 

这个参数不可以取其他的值.

3.2 sprop-parameter-sets: SPS,PPS
这个参数可以用于传输 H.264 的序列参数集和图像参数 NAL 单元. 这个参数的值采用 Base64 进行编码. 不同的参数集间用","号隔开.

3.3 profile-level-id:
这个参数用于指示 H.264 流的 profile 类型和级别. 由 Base16(十六进制) 表示的 3 个字节. 第一个字节表示 H.264 的 Profile 类型, 第三个字节表示 H.264 的 Profile 级别:

3.4 max-mbps: 
这个参数的值是一个整型, 指出了每一秒最大的宏块处理速度.

 

Rtp payload的第一个字节和264的NALU类似

 

+---------------+
|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+
|F|NRI| Type    |
+---------------+

 

F: 1 个比特.

forbidden_zero_bit. 在 H.264 规范中规定了这一位必须为 0.

NRI: 2 个比特.

nal_ref_idc. 取 00 ~ 11, 似乎指示这个 NALU 的重要性, 如 00 的 NALU 解码器可以丢弃它而不影响图像的回放. 不过一般情况下不太关心这个属性.

Type: 5 个比特.

nal_unit_type. 这个 NALU 单元的类型. 简述如下:
0     没有定义
1-23 NAL单元 单个 NAL 单元包.
24    STAP-A   单一时间的组合包
24    STAP-B   单一时间的组合包
26    MTAP16   多个时间的组合包
27    MTAP24   多个时间的组合包
28    FU-A     分片的单元
29    FU-B     分片的单元
30-31 没有定义

例子：

0x5C=01011100 (F:0  NRI:10  Type:28) FU-A

0x41=01000001 (F:0  NRI:10  Type:01)Single NAL

0x68=01000100 (F:0  NRI:10  Type:08)Single NAL

 

Single NAL Unit Mode :Type[1-23] packetization-mode=0

 

对于 NALU 的长度小于 MTU 大小的包, 一般采用单一 NAL 单元模式.
对于一个原始的 H.264 NALU 单元常由 [Start Code] [NALU Header] [NALU Payload] 三部分组成, 其中 Start Code 用于标示这是一个 NALU 单元的开始, 必须是 "00 00 00 01" 或 "00 00 01", NALU 头仅一个字节, 其后都是 NALU 单元内容.
打包时去除 "00 00 01" 或 "00 00 00 01" 的开始码, 把其他数据封包的 RTP 包即可.

 

 

 

 

Non-interleaved Mode:Type[1-23,24,28] packetization-mode=1

       Type=[1-23]的情况 参照 packetization-mode=0

Type=28 FU-A

+---------------+---------------+
|0|1|2|3|4|5|6|7|0|1|2|3|4|5|6|7|
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|F|NRI| Type:28 |S|E|R| Type    |
+---------------+---------------+

 

S:开始标志

E:结束标志 (与 Mark相同）

R:必须为0

 

Type:h264的NALU Type

 

例：

 

0x7C85=01111100 10000101 (开始包)

0x7C05=01111100 00000101 (中间包)

0x7C45=01111100 01000101 (结束包)

 

Type=23  STAP-A

0               1             2                 3
|0 1 2 3 4 5 6 7|8 9 0 1 2 3 4|5 6 7 8 9 0 1 2 3|4 5 6 7 8 9 0 1
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                          RTP Header                           |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|STAP-A NAL HDR |         NALU 1 Size           | NALU 1 HDR    |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                         NALU 1 Data                           |
:                                                               :
+               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

|               | NALU 2 Size                   | NALU 2 HDR    |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                         NALU 2 Data                           |
:                                                               :
|                               +-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+
|                               :...OPTIONAL RTP padding        |
+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+-+

 

 

[cpp] view plain copy

 

  1. class H264NALUParser    
  2. {  
  3. public:  
  4.     H264NALUParser(int width , int height);  
  5.     H264NALUParser();  
  6.     virtual ~H264NALUParser();  
  7.     void SetBuffer(unsigned char * buffer,int len,int f,int nri,int type);  
  8.     BOOL readOnePacket(unsigned char * buffer,int &len);  
  9.     BOOL isPacketOutstanding();  
  10. private:  
  11.     unsigned char * m_pNaluBuffer;  // NALU数据指向的缓冲区的指针  
  12.     unsigned int m_nNaluSize;       // NALU数据缓冲区的大小  
  13.     unsigned char * m_pCurNaluPos;  //指向下一个数据包要读取的缓冲区指针  
  14.     int m_nFrameWidth;  
  15.     int m_nFrameHeight;  
  16.     int m_nPacketCounts;  
  17.     int m_nPacketSeqNum;  
  18.     int m_nF;  
  19.     int m_nNRI;  
  20.     int m_nType;  
  21.     enum {  
  22.         STAP_A = 24,  
  23.         STAP_B = 25,  
  24.         MTAP16 = 26,  
  25.         MTAP24 = 27,  
  26.         FU_A   = 28,  
  27.         FU_B   = 29  
  28.     };  
  29. };    
  30.   
  31. ////////////////// class H264NALUParser /////////////////////////////  
  32. H264NALUParser::H264NALUParser(int width , int height)  
  33. {  
  34.     m_nFrameWidth   = width;  
  35.     m_nFrameHeight  = height;  
  36.     m_pNaluBuffer   = NULL;  
  37.     m_nNaluSize     = 0;  
  38.     m_nPacketCounts = 0;  
  39.     m_nPacketSeqNum = 0;  
  40.     m_nF            = 0;  
  41.     m_nNRI          = 0;  
  42.     m_nType         = 0;  
  43. }  
  44. H264NALUParser::H264NALUParser()  
  45. {  
  46.     m_pNaluBuffer   = NULL;  
  47.     m_nNaluSize     = 0;  
  48.     m_nPacketCounts = 0;  
  49.     m_nPacketSeqNum = 0;  
  50.     m_nF            = 0;  
  51.     m_nNRI          = 0;  
  52.     m_nType         = 0;  
  53. }  
  54. H264NALUParser::~H264NALUParser()  
  55. {  
  56. }  
  57. void H264NALUParser::SetBuffer(unsigned char * buffer,int len,int f,int nri,int type)  
  58. {  
  59.     m_pNaluBuffer   = buffer;  
  60.     m_nNaluSize     = len;  
  61.     m_nF            = f;  
  62.     m_nNRI          = nri;  
  63.     m_nType         = type;  
  64.     m_pCurNaluPos   = m_pNaluBuffer;  
  65.     m_nPacketCounts = (m_nNaluSize + H264_MTU - 1) / H264_MTU;  
  66.     m_nPacketSeqNum = 0;  
  67. }  
  68. BOOL H264NALUParser::readOnePacket(unsigned char * buffer,int &len)  
  69. {  
  70.     if(m_pCurNaluPos >= m_pNaluBuffer + m_nNaluSize)  
  71.     {  
  72.         return FALSE;  
  73.     }  
  74.     struct h264_rtp_hdr header;  
  75.     int headersize;  
  76.     unsigned char * pCurBuf = buffer;  
  77.     if(m_nNaluSize <= H264_MTU)// Single NALU  
  78.     {  
  79.         header.SingleNALU.f     = m_nF;  
  80.         header.SingleNALU.nri   = m_nNRI;  
  81.         header.SingleNALU.type  = m_nType;  
  82.         headersize = sizeof(header.SingleNALU);  
  83.         memcpy(pCurBuf,&(header.SingleNALU),headersize);  
  84.         pCurBuf += headersize;  
  85.     }  
  86.     else// FU-A  
  87.     {  
  88.         header.FU_A.f           = m_nF;  
  89.         header.FU_A.nri         = m_nNRI;  
  90.         header.FU_A.type_indicator  = FU_A;  
  91.         if(0 == m_nPacketSeqNum)  
  92.         {  
  93.             header.FU_A.s       = 1;  
  94.         }  
  95.         else  
  96.         {  
  97.             header.FU_A.s       = 0;  
  98.         }  
  99.         if(m_nPacketSeqNum == m_nPacketCounts - 1)  
  100.         {  
  101.             header.FU_A.e       = 1;  
  102.         }  
  103.         else  
  104.         {  
  105.             header.FU_A.e       = 0;  
  106.         }  
  107.         header.FU_A.r           = 0;  
  108.         header.FU_A.type_header = m_nType;  
  109.         //  
  110.         headersize = sizeof(header.FU_A);  
  111.         memcpy(pCurBuf,&(header.FU_A),headersize);  
  112.         pCurBuf += headersize;  
  113.     }  
  114.     if(m_nPacketSeqNum < m_nPacketCounts - 1)  
  115.     {  
  116.         memcpy(pCurBuf,m_pCurNaluPos,H264_MTU);  
  117.         m_pCurNaluPos += H264_MTU;  
  118.         len = headersize + H264_MTU;  
  119.     }  
  120.     else  
  121.     {  
  122.         int remainLen = m_nNaluSize % H264_MTU;  
  123.         if(0 == remainLen)  
  124.         {  
  125.             remainLen = H264_MTU;  
  126.         }  
  127.         memcpy(pCurBuf,m_pCurNaluPos,remainLen);  
  128.         m_pCurNaluPos += remainLen;  
  129.         len = headersize + remainLen;  
  130.     }  
  131.     m_nPacketSeqNum ++;  
  132.     return TRUE;  
  133. }  
  134. BOOL H264NALUParser::isPacketOutstanding()  
  135. {  
  136.     return (m_nPacketSeqNum < m_nPacketCounts);  
  137. }  

 

Interleaved Mode:Type[26-29] packetization-mode=2

 

待续

 

STAP-B

MTAP16

MTAP24

FU-B

时间： 2024-08-21 17:29:17

用实例分析H264 RTP payload的相关文章

Python二分法搜索算法实例分析

  这篇文章主要介绍了Python二分法搜索算法,实例分析了Python实现二分法的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下 今天看书时,书上提到二分法虽然道理简单,大家一听就明白但是真正能一次性写出别出错的实现还是比较难的,即使给了你充足的时间,比如1小时.如果你不是特别认真的话,可能还是会出一些这样那样的错误,所以就尝试了自己去实现一下,看能否一次通过,结果自然不言而喻,虽然用的时间不长,但是我失败了,呵呵. 个人觉得失败的最主要原因是自己没有认真的先想好这个思路和可能出现的分支

巧用百度分词技术实例分析博客多个关键词的排名

武汉SEO混小子最近每天忙着做饭啊做饭.被做饭折腾的够呛,手上还有很多网站需要维护,所以博客一直不接单子做,找的人倒是挺多的,昨天就有一位广州的人加我QQ,咨询了下网站的事情,他也是位初入SEO的朋友,老板交给他一个网站,要在首页做8个关键词,因为每个关键词有的长有的短,结合起整体,就感觉非常长,或许效果不是很好,就来问到我,其实这样的问题我在以前也纠结过,不过还好,慢慢的使用实例就解决掉了,合理的运用百度分词技术可以达到这个目的,今天这篇文章就实例分析下我的这个博客,让新手朋友直观的了解下百度

实例分析在URL结构优化中两个常见的误区

站点的收录排名关系到一个站点的能否在竞争如此激烈的web行业中生存下去.而关系到站点收录于排名的一个内在因素就是站点的URL结构.昨日阅读到一篇关于url错误结构的文章,文章名为:实例分析URL结构规划中常见的三种错误.读后体会到原来一个简单的URL结构竟有如此多的可以影响到站点SEO的细节.而笔者在分析之后也发现了在优化过程中我们容易出现的两个URL结构优化误解,笔者将在本文中分析这两个误解. 误解以:URL结构需要统一入口 笔者看到很多前辈的文章,很多人都认为我们在站点的URL地址管理上应该

python概率计算器实例分析

 这篇文章主要介绍了python概率计算器实现方法,实例分析了Python实现概率计算的技巧,具有一定参考借鉴价值,需要的朋友可以参考下     本文实例讲述了python概率计算器实现方法.分享给大家供大家参考.具体实现方法如下: ? 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 from random import randrange #randrange form ra

Asp.Net(C#)自动执行计划任务的程序实例分析分享

 这篇文章主要介绍了Asp.Net(C#)自动执行计划任务的程序实例分析,有需要的朋友可以参考一下 在业务复杂的应用程序中,有时候会要求一个或者多个任务在一定的时间或者一定的时间间隔内计划进行,比如定时备份或同步数据库,定时发送电子邮件等,我们称之为计划任务.实现计划任务的方法也有很多,可以采用SQLAgent执行存储过程来实现,也可以采用Windows任务调度程序来实现,也可以使用Windows服务来完成我们的计划任务,这些方法都是很好的解决方案.但是,对于Web应用程序来说,这些方法实现起来

php实现简单的语法高亮函数实例分析

  这篇文章主要介绍了php实现简单的语法高亮函数,实例分析了php通过正则表达式实现语法高亮的相关技巧,需要的朋友可以参考下 本文实例讲述了php实现简单的语法高亮函数.分享给大家供大家参考.具体分析如下: 这是一个php实现的简单语法高亮显示的函数,注意:这个函数设计的比较简单,可能对某些语法不能高亮显示,你可以自己扩充该函数的功能 ? 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29

PHP加密解密类实例分析

  这篇文章主要介绍了PHP加密解密类,实例分析了php实现加密与解密的原理与相关技巧,非常具有实用价值,需要的朋友可以参考下 本文实例讲述了PHP加密解密类.分享给大家供大家参考.具体分析如下: 这段代码支持 数组加密 , 密文有效期, 各种对称加密 其中参数如下: * @use ption::en($string, $key); * @param String $string 需要加密的字串 * @param String $skey 密钥 * @param int $expiry 密文有效

使用PHPExcel操作Excel用法实例分析

 这篇文章主要介绍了使用PHPExcel操作Excel用法,实例分析了使用PHPExcel进行读写及生成等常用技巧,非常具有实用价值,需要的朋友可以参考下     本文实例分析了使用PHPExcel操作Excel用法.分享给大家供大家参考.具体分析如下: PHPExcel下载地址: http://www.codeplex.com/PHPExcel http://www.phpexcel.net 开发包Tests目录有详细使用实例 支持中文,注意文件编码 文件保存为utf-8 1.header部分

PHP动态规划解决0-1背包问题实例分析

 这篇文章主要介绍了PHP动态规划解决0-1背包问题,实例分析了背包问题的原理与实现技巧,需要的朋友可以参考下     本文实例分析了PHP动态规划解决0-1背包问题.分享给大家供大家参考.具体分析如下: 背包问题描述:一个承受最大重量为W的背包,现在有n个物品,每个物品重量为t, 每个物品的价值为v. 要使得这个背包重量最大(但不能超过W),同时又需要背包的价值最大. 思路:定义一个二维数组,一维为物品数量(表示每个物品),二维是重量(不超过最大,这里是15),下面数组a, 动态规划原理思想,