iOS直播类APP开发流程解析_IOS

本文为大家分享了iOS直播类APP开发流程,供大家参考,具体内容如下

一 . 音视频处理的一般流程:

 数据采集→数据编码→数据传输(流媒体服务器) →解码数据→播放显示
1、数据采集:
摄像机及拾音器收集视频及音频数据,此时得到的为原始数据
涉及技术或协议:
摄像机:CCD、CMOS
拾音器:声电转换装置(咪头)、音频放大电路
2、数据编码:
使用相关硬件或软件对音视频原始数据进行编码处理(数字化)及加工(如音视频混合、打包封装等),得到可用的音视频数据
涉及技术或协议:
编码方式:CBR、VBR
编码格式
视频:H.265、H.264、MPEG-4等,封装容器有TS、MKV、AVI、MP4等
音频:G.711μ、AAC、Opus等,封装有MP3、OGG、AAC等
3、数据传输:
将编码完成后的音视频数据进行传输,早期的音视频通过同轴电缆之类的线缆进行传输,IP网络发展后,使用IP网络优传输
涉及技术或协议:
传输协议:RTP与RTCP、RTSP、RTMP、HTTP、HLS(HTTP Live Streaming)等
控制信令:SIP和SDP、SNMP等
4、解码数据:
使用相关硬件或软件对接收到的编码后的音视频数据进行解码,得到可以直接显示的图像/声音
涉及技术或协议:
一般对应的编码器都会带有相应的解码器,也有一些第三方解码插件等
5、播放显示:
在显示器(电视、监视屏等)或扬声器(耳机、喇叭等)里,显示相应的图像画面或声音
涉及技术或协议:
显示器、扬声器、3D眼镜等

 (二) 视频推流与视频拉流的工作过程解析: 
1.视频推流端
推流,就是将采集到的音频,视频数据通过流媒体协议发送到流媒体服务器。 
一、选择流媒体协议 
现在直播应用,采用RTMP协议居多,也有部分使用HLS协议。 
采用RTMP协议,就要看下它与流媒体服务器交互的过程,RTMP协议的默认端口是1935,采用TCP协议。并且需要了解FLV的封装格式。 
采用HLS协议,因为涉及到切片,延时会比较大,需要了解TS流。 

二、采集音视频数据 
做直播,数据的来源不可缺少,就是采集摄像头,麦克风的数据。 
iOS平台上采集音视频数据,需要使用AVFoundation.Framework框架,从captureSession会话的回调中获取音频,视频数据。 

三、硬编码,软编码音视频数据

软编码就是利用CPU资源来压缩音视频数据,硬编码与之相反。 
软编码的话,现在广泛采用FFmpeg库结合编码库来实现,FFmpeg+X624来编码视频数据YUV/RGB输出H264数据,
FFmpeg+fdk_aac来编码音频数据PCM输出AAC数据。

 四、根据所选流媒体协议封包音视频数据
 将音频,视频打包成packet。 

五、与服务器交互发送封包数据
根据所选流媒体协议,发送相应指令连接服务器,连接服务器成功后,就可以发送packet数据了。 
Part 2. 拉流端 
拉流,就是从流媒体服务器获取音频,视频数据。 
一)、解析协议 
播放器端根据URL解析所用的流媒体协议(RTMP,HLS)。 
二)、解封装 
解封装,就是demux的过程,从容器格式(FLV,TS)中,分离出音视频数据。 
三)、解码 
解码,就是把获取到的数据解压缩,恢复成原始数据。解码就是将H264变成YUV,AAC变成PCM。 
解码可以使用软解码,硬解码。 
软解码就是利用CPU资源去解压缩数据,采用的方式是FFmpeg解码。 
硬解码,对于iOS平台来说,可以使用VideoToolbox.Framework(该框架只能在iOS 8.0及以上系统使用)
硬解码视频数据。Android平台上,可以使用MediaCodec来硬解码视频数据。 
四)、渲染数据 
采用OpenGL渲染YUV数据,呈现视频画面。将PCM送入设备的硬件资源播放,产生声音。 
iOS播放流式音频,使用Audio Queue 的方式,即,利用AudioToolbox.Framework 框架。

三、 iOS开发之iOS直播平台有用的第三方资源共享: 
1.  实时美颜参考网址:http://altitudelabs.com/blog/real-time-filter/ 
2. 直播测试地址: 
HLS:http://live.3gv.ifeng.com/live/hongkong.m3u8 凤凰卫视香港台 
SMTP:rtmp://live.hkstv.hk.lxdns.com/live/hks 香港卫视 
RSTP:rtsp://rtsp.vdowowza.tvb.com/tvblive/mobileinews200.stream 互动新闻台1 
3.  HLS streaming工具下载,用于处理m3u8音、视频源的HLS Streaming Tool Download
4. 直播相关SDK
1). VideoCore 在新浪云上有文档说明,可阅读iOS推流SDK使用文档
2). 网易云信直播SDK 好像是收费的,价格还不便宜,一般公司可能也不会用,不过可以尝试看看,了解一下,有助于学习!
3). 暴风云直播   http://www.baofengcloud.com/apisdk/sdk/live/iossdk.html
4). 融云直播     http://www.rongcloud.cn/live
5). 腾讯直播SDK  https://www.qcloud.com/solution/video.html

5. 直播相关开源库
1). BeautifyFaceDemo 基于GPUImage的图片处理,做美颜方面可以参考一下
2).   lf.swift 开源RTMP Swift版的,可以学习一下!好像作者是日本的,或者是在日本工作的,写了不少日文!
3).  PLPlayerKit 一个不依赖FFmpeg的播放器,支持RTMP
4).  HLS-Demo   https://github.com/yangchao0033/HLS-Demo  HLS播放demo
5). SmarterStreaming  https://github.com/daniulive/SmarterStreaming  直播SDK(支持私有协议和RTMP推流,如windows推流/android推流/iOS推流/windows播放器/android播放器/iOS播放器) 

四、 iOS开发之 iOS 直播平台 常见的视频直播相关协议详解

1、RTMP(Real Time Messaging Protocol,实时消息传送协议) 
RTMP是Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放协议。它有三种变种: 
1)、工作在TCP之上的明文协议,使用端口1935; 
2)、RTMPT封装在HTTP请求之中,可穿越防火墙; 
3)、RTMPS类似RTMPT,但使用的是HTTPS连接; 
RTMP协议是被Flash用于对象、视频、音频的传输。这个协议建立在TCP协议或者轮询HTTP协议之上。RTMP协议就像一个用来装数据包的容器,这些数据既可以是AMF格式的数据,也可以是FLV中的视音频数据。一个单一的连接可以通过不同的通道传输多路网络流,这些通道中的包都是按照固定大小的包传输的。 

2、RTSP(Real Time Streaming Protocol,实时流传输协议) 
RTSP定义了一对多应用程序如何有效地通过IP网络传送多媒体数据。RTSP提供了一个可扩展框架,数据源可以包括实时数据与已有的存储的数据。该协议目的在于控制多个数据发送连接,为选择发送通道如UDP、组播UDP与TCP提供途径,并为选择基于RTP上发送机制提供方法。 
RTSP语法和运作跟HTTP/1.1类似,但并不特别强调时间同步,所以比较能容忍网络延迟。代理服务器的缓存功能也同样适用于RTSP,并且因为RTSP具有重新导向功能,可根据实际负载情况来切换提供服务的服务器,以避免过大的负载集中于同一服务器而造成延迟。 

3、RTP(Real-time Transport Protocol,实时传输协议) 
RTP是针对多媒体数据流的一种传输层协议,详细说明了在互联网上传递音频和视频的标准数据包格式。RTP协议常用于流媒体系统(配合RTCP协议),视频会议和一键通系统(配合H.323或SIP),使它成为IP电话产业的技术基础。 
RTP是建立在UDP协议上的,常与RTCP一起使用,其本身并没有提供按时发送机制或其它服务质量(QoS)保证,它依赖于低层服务去实现这一过程。 
RTP 并不保证传送或防止无序传送,也不确定底层网络的可靠性,只管发送,不管传输是否丢包,也不管接收方是否有收到包。RTP 实行有序传送,RTP中的序列号允许接收方重组发送方的包序列,同时序列号也能用于决定适当的包位置,如在视频解码中,就不需要顺序解码。 

4、RTCP(Real-time Transport Control Protocol,实时传输控制协议) 
RTCP是RTP的配套协议,为RTP媒体流提供信道外的控制。RTCP和RTP一起协作将多媒体数据打包和发送,定期在多媒体流会话参与者之间传输控制数据。 
RTCP的主要功能是为RTP所提供的服务质量(QoS)提供反馈,收集相关媒体连接的统计信息,例如传输字节数,传输分组数,丢失分组数,单向和双向网络延迟等等。网络应用程序可以利用RTCP所提供的信息来提高服务质量,比如限制流量或改用压缩比小的编解码器。

时间: 2024-10-28 00:10:15

iOS直播类APP开发流程解析_IOS的相关文章

app开发流程

APP开发流程 APP DEVELOPMENT PROCESS STEP1详细阐述您的开发需求 开发类型需要开发的平台具体的产品功能需求具体的产品设计需求项目期望完成时间开发预算 STEP2需求评估 功能需求技术难度评估设计需求可行性与体验评估项目预期完成时间实际开发费用 STEP3项目技术开发与视觉规划 参与项目开发沟通会议产品原型设计审议及确认客户品牌调性与产品风格融合具体功能操作体验优化 项目完成时运营所需填充内容统计及预告知客户项目技术及视觉进度管控视觉设计与客户沟通定稿 STEP4程序

app开发流程有哪些

app开发流程是需求方和供求方相互协调的过程,一般分为需求分析.功能设计.功能实现.项目测试.上线等几个步骤,下面我们就来一起看看ytkah团队进行app开发各个流程主要做哪些事情,让您对app开发设计有一个更全面的了解,更放心地将项目交予我们来为您实施. app开发流程1. 需求分析首先要确定项目整体方案,整个项目的规划,大体框架,做成文档展现出来,以便大家提意见和更好的改进.也就是说首先要确立产品原型,进入项目评估阶段.经过反复确认,最终形成产品脑图和完整的需求文档. app开发流程2. 功

详解iOS中多线程app开发的GCD队列的使用_IOS

GCD的基本使用 一.主队列介绍 主队列:是和主线程相关联的队列,主队列是GCD自带的一种特殊的串行队列,放在主队列中得任务,都会放到主线程中执行. 提示:如果把任务放到主队列中进行处理,那么不论处理函数是异步的还是同步的都不会开启新的线程. 获取主队列的方式: 复制代码 代码如下:  dispatch_queue_t queue=dispatch_get_main_queue(); (1)使用异步函数执行主队列中得任务,代码示例: 复制代码 代码如下: // //  YYViewControl

用iOS代码获取APP启动页图片_IOS

用代码获取APP启动页图片  // // AppleSystemService.swift // Swift-Animations // // Created by YouXianMing on 16/8/11. // Copyright 2016年 YouXianMing. All rights reserved. // import UIKit class AppleSystemService : NSObject { /** Get the lauch image. - returns:

求推荐一本手机app开发的书

问题描述 求推荐一本手机app开发的书 情况是这样的,我本来是学java的,但是毕业设计给我分配了一个<基于Bluetooth的移动客户端自助购物软件设计与实现>这样的题目,以前没有做过手机app的开发,希望大家能给我推荐一本书,能够帮助我完成毕业设计 (我有java基础,所以希望大家给我推荐一本适合的书,能够帮助我了解手机APP开发流程,500页以内的书最好,有项目示例) 解决方案 Baidu :J2ME 手机编程 电子书 解决方案二: http://www.cyzone.cn/a/2014

服务器-开发一款iOS视频类的App后台需要什么?

问题描述 开发一款iOS视频类的App后台需要什么? 想开发一款iOS视频类的app,就是想自己走一下整体流程.但我只是大致上了解前端的东西,后台的服务器用什么语言写还有数据库用什么写都不清楚,说白了就是不清楚json怎么来的根本就不知道?谁能给我指点下吧,都苦恼好几天了!谢谢!还有,我要都要用那个语言写呢? 解决方案 php+mysql?这个组合应该比较广泛吧,我也是新手 解决方案二: 用哪个语言来写不是关键,关键是无论什么编程语言,都需要一个学习的过程,没有一种语言简单到对于一窍不通的人拿来

Xcode中iOS应用开发的一般项目目录结构和流程简介_IOS

项目所需的平台路径 1.开发平台路径: /Developer/Platforms 此路径下一般有三个目录,分别是mac电脑.模拟器.iphone真机 MacOSX.platform        iPhoneSimulator.platform iPhoneOS.platform 每个目录下都有一个/Developer/usr/bin目录,放置开发中需要的程序 总的目录比如:/Developer/Platforms/*/Developer/usr/bin/ 注意:*代表上面上个目录中的一个,具体

App开发团队必须知道的 iOS 11 更新点

本文讲的是App开发团队必须知道的 iOS 11 更新点,WWDC 2017 已经过去差不多一个季度了,最近随着 Xcode 9 正式版以及 iPhone 8.iPhone X 的发布,iOS 11 的全面适配也被提上了日程.我整理了一下更新点,包括开发.设计.产品甚至是市场都应该注意的点,分享出来希望对大家有所帮助. 新增框架 ARKit iOS 11 引入了新的 ARKit 框架,让您轻松创建无可比拟的 iPhone 和 iPad 增强现实体验. 通过将数字对象和信息与您周围的环境相融合,A

APP开发的一些简单流程思路

APP开发的一些简单流程思路   项目最初想法的形成 1.  项目最初想法的形成 l  一款APP不是随便就会出来,自然是由项目发起人在某个场景中形成的.有可能是项目发起人所处的工作环境,有可能是由某件事情,有可能是项目发起的人生活经历等等,场景不一致,也直接导致了APP定位和方向,面向的用户群体.   l  用户的基本调研问卷 l  绝大多数的自己的想法或者商业模式,在没有得到确凿的数据论证之前,是很难断定是否适合目前的市场,所以需要收集广大用户的问卷调研结果,并进行分析,这样就可判断自己所思