现在直播应用非常火爆,它以生动直观的方式向用户传达最真实的现场信息,受到广大用户的普遍欢迎。小编作为一名技术人员,经常开发各种直播平台,(娱乐直播、游戏直播、教育直播、财经直播等)下面我把自己积累的一些经验分享给大家,希望和大家一起交流学习,共同进步。

   
以前做视频播放器开发的时候,只知道请求服务器,然后服务器返回一个播放串。这样视频就播放了
其它的操作比如UI定制
通知的跟踪等…..这些都是UI层面上的东西,压根跟音视频编解码就没啥关系!但是有的同学去面试的时候。如果有做视频相关项目的公司。就会被问到音视频编解码的知识点。很多人就瞬间石化了!记得14年去快播(那时候快播还没有倒闭)面试iOS开发工程师的时候,面试官就问了我对音视频编解码的知识
很可惜的是我一句都答上!结果大家肯定都知道了。好了闲话就先扯到这里。下面就给大家简单的介绍一下视频播放的原理。以及现在主流的视频编解码格式
以及音频编解码格式。让大家对视频播放从编码到播放有一个基础的概念。

311_副本.jpg (上传于2018-08-22
16:59:59)
澳门新葡亰 1

   喜欢看电影的朋友应该都知道,
我们在一些网站上下载电影。由于下载的来源不同,这些电影文件有不同的格式,用不同的后缀表示:avi,rmvb,mp4,flv,mkv等……。在这里需要注意的是,这些格式代表的是封装格式。何为封装格式?就是把视频数据和音频数据打包成一个文件的规范。仅仅靠看文件的后缀,很难能看出具体使用了什么视音频编码标准。总的来说,不同的封装格式之间差距不大,各有优劣。

   
注:有些封装格式支持的视音频编码标准十分广泛,应该算比较优秀的封装格式,比如MKV;而有些封装格式支持的视音频编码标准很少,应该属于落后的封装格式,比如RMVB。

1 . 视频播放的原理

    音视频技术主要包含以下几点:封装技术,视频压缩编码技术 以及
音频压缩编码技术。如果考虑到网络传输的话,还包括流媒体协议技术。在这里不细说了,(还没学到那里去等我了解了在告诉大家!)
仅简要说明一下视频播放器的原理。

视频播放器播放一个互联网上的视频文件,需要经过以下几个步骤:解协议,解封装,解码视音频,视音频同步。如果播放本地文件则不需要解协议,为以下几个步骤:解封装,解码视音频,视音频同步。他们的过程如图所示。

   
解协议的作用,就是将流媒体协议的数据,解析为标准的相应的封装格式数据。视音频在网络上传播的时候,常常采用各种流媒体协议,例如HTTP,RTMP,或是MMS等等。这些协议在传输视音频数据的同时,也会传输一些信令数据。这些信令数据包括对播放的控制(播放,暂停,停止),或者对网络状态的描述等。解协议的过程中会去除掉信令数据而只保留视音频数据。例如,采用RTMP协议传输的数据,经过解协议操作后,输出FLV格式的数据。

   
解封装的作用,就是将输入的封装格式的数据,分离成为音频流压缩编码数据和视频流压缩编码数据。封装格式种类很多,例如MP4,MKV,RMVB,TS,FLV,AVI等等,它的作用就是将已经压缩编码的视频数据和音频数据按照一定的格式放到一起。例如,FLV格式的数据,经过解封装操作后,输出H.264编码的视频码流和AAC编码的音频码流。

   
解码的作用,就是将视频/音频压缩编码数据,解码成为非压缩的视频/音频原始数据。音频的压缩编码标准包含AAC,MP3,AC-3等等,视频的压缩编码标准则包含H.264,MPEG2,VC-1等等。解码是整个系统中最重要也是最复杂的一个环节。通过解码,压缩编码的视频数据输出成为非压缩的颜色数据,例如YUV420P,RGB等等;压缩编码的音频数据输出成为非压缩的音频抽样数据,例如PCM数据。

** 
 音
视频同步的作用,就是根据解封装模块处理过程中获取到的参数信息,同步解码出来的视频和音频数据,并将视频音频数据送至系统的显卡和声卡播放出来。**

 2.  接下来的几节我们将会列出主要的
流媒体协议,封装格式,以及视音频编码标准。更详细的比较可以参考:

   
 视频参数(流媒体系统,封装格式,视频编码,音频编码,播放器)对比

第一步,移动端视音频采集

流媒体协议

 
流媒体协议是服务器与客户端之间通信遵循的规定。当前网络上主要的流媒体协议如表所示。

RTSP+RTP经常用于IPTV领域。因为其采用UDP传输视音频,支持组播,效率较高。但其缺点是网络不好的情况下可能会丢包,影响视频观看质量。因而围绕IPTV的视频质量的研究还是挺多的。

RTSP规范可参考:RTSP协议学习笔记

RTSP+RTP系统中衡量服务质量可参考:网络视频传输的服务质量(QoS)

IPTV码流分析可参考:IPTV视频码流分析

 
因为互联网网络环境的不稳定性,RTSP+RTP较少用于互联网视音频传输。互联网视频服务通常采用TCP作为其流媒体的传输层协议,因而像RTMP,MMS,HTTP这类的协议广泛用于互联网视音频服务之中。这类协议不会发生丢包,因而保证了视频的质量,但是传输的效率会相对低一些。此外RTMFP是一种比较新的流媒体协议,特点是支持P2P。

RTMP协议学习:RTMP流媒体技术零基础学习方法

首先,对于手机端的视音频采集编码技术,我们有过类似的经验。考虑到手机的处理能力,我们的技术路线是利用手机自身核心处理器的视频编码能力来完成。在Android端调用Mediacodec开发接口来实现,iOS端调用苹果提供的Core
Video框架来实现,编码格式上我们采用H.264视频编码和AAC音频编码,通过硬件编码方式极大地降低了移动终端的CPU负荷与功耗,。在协议的选择上,我们采用当前主流的RTMP协议由客户端向服务器端推送数据。RTMP是Adobe公司制定的一款流传输一些,结构比较简单,自己研究就能搞定,而且这款协议在行业内应用非常广泛,便于不同产品的集成。

封装格式 

  封装格式的主要作用是把视频码流和音频码流按照一定的格式存储在一个文件中。现如今流行的封装格式如下表所示:

由表可见,除了AVI之外,其他封装格式都支持流媒体,即可以“边下边播”。有些格式更“万能”一些,支持的视音频编码标准多一些,比如MKV。而有些格式则支持的相对比较少,比如说RMVB。这些封装格式都有相关的文档,在这里就不一一例举了。

第二步,内容的发布和转码

视频编码

   
视频编码的主要作用是将视频像素数据(RGB,YUV等)压缩成为视频码流,从而降低视频的数据量。如果视频不经过压缩编码的话,体积通常是非常大的,一部电影可能就要上百G的空间。视频编码是视音频技术中最重要的技术之一。视频码流的数据量占了视音频总数据量的绝大部分。高效率的视频编码在同等的码率下,可以获得更高的视频质量。

视频编码的简单原理可以参考:视频压缩编码和音频压缩编码的基本原理

注:视频编码技术在整个视音频技术中应该是最复杂的技术。如果没有基础的话,可以先买一些书看一下原理,比如说《现代电视原理》《数字电视广播原理与应用》(本科的课本)中的部分章节。

   
由表可见,有两种视频编码方案是最新推出的:VP9和HEVC。目前这两种方案都处于研发阶段,还没有到达实用的程度。当前使用最多的视频编码方案就是H.264。
H.264仅仅是一个编码标准,而不是一个具体的编码器,H.264只是给编码器的实现提供参照用的。**

前端设备将直播的视音频内容采集处理后,首先推送给平台的源站服务器,我们将源服务器部署在了北京本地的运营商骨干节点机房(近距离便于维护)。源服务器采用多机集群热备份机制,防止一台源站服务器宕机后影响整个平台的稳定运行。

音频编码

** 音频编码的主要作用是将音频采样数据(PCM等)压缩成为音频码流,从而降低音频的数据量。音频编码也是互联网视音频技术中一个重要的技术。但是一般情况下音频的数据量要远小于视频的数据量,因而即使使用稍微落后的音频编码标准,而导致音频数据量有所增加,也不会对视音频的总数据量产生太大的影响。高效率的音频编码在同等的码率下,可以获得更高的音质。


音频编码的简单原理可以参考:视频压缩编码和音频压缩编码的基本原理

 
由表可见,近年来并未推出全新的音频编码方案,可见音频编码技术已经基本可以满足人们的需要。音频编码技术近期绝大部分的改动都是在MP3的继任者——AAC的基础上完成的。

源站服务器连接有专业的磁盘阵列存储设备,当源站服务器接收到数据后,首先复制N份转发给下面的N个二级CDN节点,同时复制一份给转码服务器。转码服务器将接收到的每一个流进行实时的转码,主要是将高清码流转换一份标清码流给小屏移动终端,移动终端接收标清小码流不仅符合自身的小屏分辨率需要,同时可以降低对移动端的解码能力要求,还能有效节省带宽成本。

现有网络视音频平台对比

 现有的网络视音频服务主要包括两种方式:点播和直播。点播意即根据用户的需要播放相应的视频节目,这是互联网视音频服务最主要的方式。绝大部分视频网站都提供了点播服务。直播意即互联网视音频平台直接将视频内容实时发送给用户,目前还处于发展阶段。直播在网络电视台,社交视频网站较为常见。

 

** 
 可以看出,直播服务普遍采用了RTMP作为流媒体协议,FLV作为封装格式,H.264作为视频编码格式,AAC作为音频编码格式。采用RTMP作为直播协议的好处在于其被Flash播放器支持。而Flash播放器如今已经安装在全球99%的电脑上,并且与浏览器结合的很好。因此这种流媒体直播平台可以实现“无插件直播”,极大的简化了客户端的操作。封装格式,视频编码,音频编码方面,无一例外的使用了FLV

  • 澳门新葡亰,H.264 +
    AAC的组合。FLV是RTMP使用的封装格式,H.264是当今实际应用中编码效率最高的视频编码标准,AAC则是当今实际应用中编码效率最高的音频编码标准。视频播放器方面,都使用了Flash播放器。**

**可以看出,点播服务普遍采用了HTTP作为流媒体协议,H.264作为视频编码格式,AAC作为音频编码格式。采用HTTP作为点播协议有以下两点优势:一方面,HTTP是基于TCP协议的应用层协议,媒体传输过程中不会出现丢包等现象,从而保证了视频的质量;另一方面,HTTP被绝大部分的Web服务器支持,因而流媒体服务机构不必投资购买额外的流媒体服务器,从而节约了开支。点播服务采用的封装格式有多种:MP4,FLV,F4V等,它们之间的区别不是很大。视频编码标准和音频编码标准是H.264和AAC。这两种标准分别是当今实际应用中编码效率最高的视频标准和音频标准。视频播放器方面,无一例外的都使用了Flash播放器。**

  这几天看了好多的文章就整理了这么多。希望对大家扫盲有帮助!

第三步,流媒体发布

流媒体发布这个环节对于整个平台来说也是至关重要,因为最终面向终端用户提供服务的是分布在全网的流媒体服务器,流媒体服务器的稳定性以及性能优劣决定着终端用户的体验效果和平台的运营成本。根据之前做IPTV的经验,我们在这个项目中选择的技术路线还是自行开发,当然还是基于之前做IPTV流媒体服务器的基础来做,核心技术点又有如下的改进:

  1. 流媒体服务器还是采用C语言实现,保障运行效率最高;

  2. 将之前的多进程模型改成异步IO模型,提高服务器的并发处理性能;

  3. 在协议层上增加对RTMP、HLS协议的支持;

4.引入hadoop这一分布式架构,便于大规模分布式部署、调度和容错;

通过这些改进,流媒体服务器的整体性能又会有一个质的飞跃。

第四步,CDN内容分发

网站地图xml地图