实时视频流处理与图像识别视频流处理技术

转载

epeppanda 2024-04-23 16:25:22

文章标签 实时视频流处理与图像识别数据音视频流程图 文章分类 计算机视觉人工智能

视频播放器原理
什么是 ffmpeg?
ffmpeg 音视频编/解码流程图
ffmpeg 常用 struct AVFormatContext AVStream AVCodecContext AVCodec AVPacket AVFrame
ffmpeg 常用Api av_register_all() avformat_alloc_output_context2() avio_open() av_new_stream() avcodec_find_encoder() avcodec_open2() avformat_write_header() avcodec_encode_video2() av_write_frame() flush_encoder() av_write_trailer() ffmpeg编码视频的流程图 ffmpeg解码视频的流程图
分享-解决问题的思路

0.视频播放器原理

编码

录像(视频)、录音(音频)，实质上是一个压缩采集到的图像或者音频数据的过程，这个过程又称为编码。那为什么需要编码（压缩）呢？因为设备采集到的音视频数据太大了，如果不进行压缩，占用的空间太大，不利于传输等。

解码

播放视频或者音频文件，实质上是一个解压缩的过程，这个过程又称为解码。那为什么又要解码（解压缩）呢？因为播放器播放需要的是音频采样数据、视频像素数据，通俗一点来说就是需要的是编码之前的数据，所以需要解码来获取。

如下图展示了播放器播放视频的原理：

实时视频流处理与图像识别视频流处理技术_流程图

1.什么是ffmpeg？

1.ffmpeg 是音视频处理核心技术，要成为音视频领域的开发高手，不可不学 ffmpeg，一个完整的跨平台解决方案，用于录制，转换和流式传输音频和视频的技术。
2.腾讯视频、爱奇艺、阿里影音、均有大量音视频开发工程师的需求。
3.ffmpeg 源代码采用 c 编写

2.ffmpeg 音视频编/解码流程图

如下所示流程图：

实时视频流处理与图像识别视频流处理技术_数据_02

如上图所示，音视频文件已流形式经编码 encode 之后成为 packet，packet 被解码之后成为视频帧frame

3.ffmpeg 常用 struct

AVFormatContext

AVFormatContext 主要存储视音频封装格式中包含的信息

AVStream

AVStream 存储一个视频/音频流的相关数据

AVCodecContext

流解码器容器－每个AVStream对应一个AVCodecContext，存储该视频/音频流使用解码方式的相关数据、如 codec_type 编码器类型。

AVCodec

解码器－每个AVCodecContext中对应一个AVCodec，包含该视频/音频对应的解码器。每种解码器都对应一个AVCodec结构。

AVPacket

视频,每个结构一般是存一帧；音频可能有好几帧

帧(stream)数据编码后的数据，或解码为帧(stream) 数据前的数据存储格式为AVPacket

AVFrame

包(Packet)数据解码之后以帧(frame)的结构存在。

4.ffmpeg 常用Api

av_register_all()

注册所有 ffmpeg 解码器，如果需要使用支持特定类型音视频解码的解码器则需要使用 void av_register_input_format(AVInputFormat *format);

avformat_alloc_output_context2()

初始化输出码流的AVFormatContext。

avio_open()

创建并初始化AVIOContext以访问 url 指示的资源。

av_new_stream()

创建新流，此新流用于添加到新的媒体文件

avcodec_find_encoder()

查找编码器，一般是用来将数据帧进行编码，并生成新的输出文件。

avcodec_open2()

打开编码器

avformat_write_header()

写文件头（对于某些没有文件头的封装格式，不需要此函数。比如说MPEG2TS）。

avcodec_encode_video2()

将 frame 进行编码，并转化为 packet 进行存储

av_write_frame()

Write a packet to an output media file. 将编码后的视频码流写入文件

flush_encoder()

Write the stream trailer to an output media file and free the file private data。
将流预告片写入输出媒体文件并释放文件私人数据。

其实上述常用Api 是一个视频流文件进行编码并输出编码后文件常用的Api

ffmpeg编码视频的流程图

如下所示：

实时视频流处理与图像识别视频流处理技术_实时视频流处理与图像识别_03

ffmpeg解码视频的流程图

实时视频流处理与图像识别视频流处理技术_数据_04

4 分享-解决问题的思路

最近接触 ffmpeg 是因为部门业务需要，之前个人从未接触过 ffmpeg。

4.1 业务目标

通过调用 ffmpeg Api 实现截取视频任意一帧。

4.2 出现的问题

1.个人对视频当中某一帧获取流程不是很了解；
2.读源码过程中有些 ffmpeg Api 看不懂；

4.3 问题的根本原因

1.对视频播放的本质不清楚，其实视频的本质是一帧一帧的图片拼接起来的结果；
2.没有耐心读 ffmpeg 源码，因为没学过c ；
3.对未知的从未尝试过的事情有些许排斥。

4.4 解决问题的方案

1.了解视频播放原理－知道了解码、编码等问题（完成100%）
2.了解ffmpeg、解码、编码(所以解决方案的第一步是前提)、学习编码/解码相关流程，(毕竟视频的生成、播放与编解码是分不开的)、以及相关Api （完成100%）
3.尝试读前辈代码、并提取实现业务的 keycode、文档输出等。（2018-10-23日晚上下班前输出相关文档）