直播类视频App软件怎么开发

一、直播类视频App软件怎么开发

直播视频采集SDK（PC/IOS/Anddroid）——直播CDN

（直播流分发加速）——直播视频播放器SDK（PC/IOS/Android）

数据采集→数据编码→数据传输(流媒体服务器)→解码数据→播放显示

摄像机及拾音器收集视频及音频数据，此时得到的为原始数据

拾音器：声电转换装置（咪头）、音频放大电路

使用相关硬件或软件对音视频原始数据进行编码处理（数字化）及加工（如音视频混合、打包封装等），得到可用的音视频数据

视频：H.265、H.264、MPEG-4等，封装容器有TS、MKV、AVI、MP4等

音频：G.711μ、AAC、Opus等，封装有MP3、OGG、AAC等

将编码完成后的音视频数据进行传输，早期的音视频通过同轴电缆之类的线缆进行传输，IP网络发展后，使用IP网络优传输

传输协议：RTP与RTCP、RTSP、RTMP、HTTP、HLS（HTTP Live Streaming）等

使用相关硬件或软件对接收到的编码后的音视频数据进行解码，得到可以直接显示的图像/声音

一般对应的编码器都会带有相应的解码器，也有一些第三方解码插件等

在显示器（电视、监视屏等）或扬声器（耳机、喇叭等）里，显示相应的图像画面或声音

1、RTMP(Real Time Messaging Protocol，实时消息传送协议)

RTMP是Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放协议。它有三种变种：

1）、工作在TCP之上的明文协议，使用端口1935；

2）、RTMPT封装在HTTP请求之中，可穿越防火墙；

3）、RTMPS类似RTMPT，但使用的是HTTPS连接；

RTMP协议是被Flash用于对象、视频、音频的传输。这个协议建立在TCP协议或者轮询HTTP协议之上。RTMP协议就像一个用来装数据包的容器，这些数据既可以是AMF格式的数据，也可以是FLV中的视音频数据。一个单一的连接可以通过不同的通道传输多路网络流，这些通道中的包都是按照固定大小的包传输的。

2、RTSP(Real Time Streaming Protocol，实时流传输协议)

RTSP定义了一对多应用程序如何有效地通过IP网络传送多媒体数据。RTSP提供了一个可扩展框架，数据源可以包括实时数据与已有的存储的数据。该协议目的在于控制多个数据发送连接，为选择发送通道如UDP、组播UDP与TCP提供途径，并为选择基于RTP上发送机制提供方法。

RTSP语法和运作跟HTTP/1.1类似，但并不特别强调时间同步，所以比较能容忍网络延迟。代理服务器的缓存功能也同样适用于RTSP，并且因为RTSP具有重新导向功能，可根据实际负载情况来切换提供服务的服务器，以避免过大的负载集中于同一服务器而造成延迟。

3、RTP(Real-time Transport Protocol，实时传输协议)

RTP是针对多媒体数据流的一种传输层协议，详细说明了在互联网上传递音频和视频的标准数据包格式。RTP协议常用于流媒体系统（配合RTCP协议），视频会议和一键通系统（配合H.323或SIP），使它成为IP电话产业的技术基础。

RTP是建立在UDP协议上的，常与RTCP一起使用，其本身并没有提供按时发送机制或其它服务质量（QoS）保证，它依赖于低层服务去实现这一过程。

RTP并不保证传送或防止无序传送，也不确定底层网络的可靠性，只管发送，不管传输是否丢包，也不管接收方是否有收到包。RTP实行有序传送，RTP中的序列号允许接收方重组发送方的包序列，同时序列号也能用于决定适当的包位置，如在视频解码中，就不需要顺序解码。

4、RTCP(Real-time Transport Control Protocol，实时传输控制协议）

RTCP是RTP的配套协议，为RTP媒体流提供信道外的控制。RTCP和RTP一起协作将多媒体数据打包和发送，定期在多媒体流会话参与者之间传输控制数据。

RTCP的主要功能是为RTP所提供的服务质量（QoS）提供反馈，收集相关媒体连接的统计信息，例如传输字节数，传输分组数，丢失分组数，单向和双向网络延迟等等。网络应用程序可以利用RTCP所提供的信息来提高服务质量，比如限制流量或改用压缩比小的编解码器。

二、h5如何快速实现实时音视频开发

1、接入zego即构科技的音视频SDK是实现实时音视频开发的快捷方式。

2、此方法能显著降低技术和时间成本，相比于其他供应商，我个人更倾向于使用即构的SDK。他们自主研发音视频引擎，就如同拥有自种的花种与土地，你可根据需求自由定制规模与布局，操作快速，最快仅需半小时即可搭建所需场景。

3、zego即构科技的SDK为开发者提供了全面的音视频处理功能，包括但不限于音视频流传输、音视频编解码、实时音视频互动等，这些功能对于实时音视频开发至关重要。SDK的代码结构清晰，易于理解和使用，开发者无需从零开始，大大节省了开发时间。

4、在接入即构SDK后，开发者可以利用其提供的接口快速实现音视频的实时传输与互动，如语音通话、视频会议、直播互动等。SDK支持多种语言环境，如Java、C++、Python等，满足不同开发者的编程需求。

5、即构SDK还提供了丰富的示例代码和文档，帮助开发者快速上手。SDK的稳定性与性能也得到了广泛认可，能够适应各种网络环境，确保音视频传输的流畅性与稳定性。

6、总之，接入zego即构科技的音视频SDK是实现实时音视频开发的理想选择。它能大幅降低开发成本，提高开发效率，并提供稳定、高性能的音视频处理能力，满足开发者在不同场景下的需求。

三、音视频开发—音视频同步

音视频同步是确保播放声音与画面一致性的关键。视频以帧为单位播放，每秒显示一定帧数，音频则以采样点播放，每秒播放特定采样数。若视频仅按帧率播放，音频仅按采样率播放，将逐渐失去同步，影响用户体验。同步策略通过选定一个主时钟（如音频或视频时钟）和一个从时钟，不断调整从时钟，使其与主时钟保持一致。

1.**ffplay默认的同步方式**：视频同步到音频，确保音频始终与视频同步。

-**I帧**：包含完整图像信息的帧，可在频道切换时保持图像完整性。

-**IDR帧**：特殊I帧，用于清空并更新解码器的解码图片缓冲区（DPB），阻止错误传播。

-**P帧**：利用之前或P帧进行预测编码的帧。

-**B帧**：双向预测编码帧，压缩率高，适合本地存储和视频点播，但需要更多缓冲和CPU资源。

3.**GOP**：一组连续图像，由I帧或P帧与B帧组成，是编解码器的基本处理单位。分为闭合式和开放式GOP，其中I帧在闭合式GOP中起关键作用。

4.**DTS和PTS**：DTS表示压缩帧的解码时间，PTS表示原始帧的显示时间。B帧因双向预测需要更复杂的解码顺序，导致DTS与PTS不同。

5.**视频同步音频**：ffplay默认通过视频同步到音频，视频播放线程实现。关键在于调整视频播放时的延迟，确保视频与音频同步。

6.**音频播放**：音频播放不依赖视频，自成一体，通过SDL音频播放线程回调实现。

7.**更新时钟**：通过`set_clock`和`set_clock_at`函数更新音频和视频时钟，确保播放同步。

8.**播放控制**：通过空格键实现暂停与继续，s键实现逐帧播放，变速变调则分别调整语速和音调，保持语义不变，采用Sonic或Soundtouch库实现。

9.**SEEK操作**：通过事件机制和按键触发进行快进快退，调整播放位置，保持用户交互流畅。

以上内容详细阐述了音视频开发中音视频同步的关键概念和实现方法，从同步策略到播放控制的各个环节，确保了音视频的无缝播放和用户满意度。