Android 视频回放竖直时间轴

转载

数据侠客行 2024-09-05 19:49:19

文章标签 Android 视频回放竖直时间轴移动开发 json 旋转角度顺时针 文章分类 Android 移动开发

在做图片和视频编辑时，不可避免的是旋转角度问题，这里仅记录下相关处理策略。

图片旋转角度

获取图片旋转角度

一般情况下，Camera拍摄的图片和视频都存在旋转角度问题，真正渲染时，需要进行旋转操作。在Android平台上可以通过ExifInterface类获取JPEG的EXIF信息，其中就包括了旋转角度，如下所示：

// 图片旋转角度，该角度表示在正常图片的基础上逆时针旋转的角度
var degree = 0
val exifInterface = ExifInterface(path)
val orientation = exifInterface.getAttributeInt(ExifInterface.TAG_ORIENTATION, ExifInterface.ORIENTATION_NORMAL)
when (orientation) {
    ExifInterface.ORIENTATION_ROTATE_90 -> degree = 90
    ExifInterface.ORIENTATION_ROTATE_180 -> degree = 180
    ExifInterface.ORIENTATION_ROTATE_270 -> degree = 270
}
复制代码

除此之外，简单列举几个通过ExifInterface获取的元数据：

ExifInterface.TAG_ORIENTATION ：逆时针的旋转角度
ExifInterface.TAG_IMAGE_WIDTH ：图片宽度（处理旋转角度之前的宽度，顺时针旋转扶正后的高度）
ExifInterface.TAG_IMAGE_LENGTH ：图片高度（处理旋转角度之前的高度，顺时针旋转扶正后的宽度）
ExifInterface.TAG_DATETIME ：拍摄时间，例如：2018:01:15 15:13:50
ExifInterface.TAG_MODEL ：设备型号，例如：ONEPLUS A6010
ExifInterface.TAG_MAKE ：设备生产厂商，例如：OnePlus

EXIF(EXchangeable Image File Format)是专门为数码相机照片设定的可交换图像文件格式，可以记录数码照片的属性信息和拍摄数据。

通过Mac的显示检查器（打开图片->工具->显示检查器）也可以查看图片的EXIF信息，如下所示。因此我们需要顺时针旋转90度，以修正图片，所以最终上屏的Size是3456*4608。

处理图片旋转角度

上述获取了图片的逆时针旋转角度degree，所以我们需要顺时针旋转相同的角度，以修正图片旋转问题，而Matrix的旋转API正好就是顺时针旋转，所以处理逻辑如下所示：

val matrix = Matrix()
val originWidth = originBitmap.width
val originHeight = originBitmap.height
val originRectF = RectF(0f, 0f, originWidth.toFloat(), originHeight.toFloat())
val tempRectF = RectF()
// 首先围绕图片中心点旋转上面获取的degree（因为degree是逆时针旋转角度，所以这里需要顺时针旋转进行修正，而Matrix的setRotate正好是顺时针旋转）
matrix.setRotate(degree, originWidth / 2f, originHeight / 2f)
matrix.mapRect(tempRectF, originRectF)
// 修正旋转导致的位移
matrix.postTranslate(0 - tempRectF.left, 0 - tempRectF.top)
复制代码

因此，通过上述获得的matrix，去canvas.drawBitmap，就修正了图片的旋转问题。整个流程，可以通过下面的示意图描述：

上述degree表示在正常图片的基础上逆时针旋转的角度，即为了修正图片，我们需要顺时针旋转相同的角度。

视频旋转角度

获取视频旋转角度

val mediaPlayerWrapper = MediaMetadataRetriever()
mediaPlayerWrapper.setDataSource(inputPath)
// 视频旋转角度，该角度表示在正常视频的基础上逆时针旋转的角度（与图片旋转角度含义一致） 
val rotation = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_ROTATION)
// 配合上述旋转角度的视频宽度
val width = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_WIDTH)
// 配合上述旋转角度的视频高度
val height = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_VIDEO_HEIGHT)
// 视频时长
val duration = mediaPlayerWrapper.extractMetadata(MediaMetadataRetriever.METADATA_KEY_DURATION)
复制代码

上述通过MediaMetadataRetriever获取的rotation表示在正常视频的基础上逆时针旋转的角度（与图片旋转角度degree含义一致）。

处理视频旋转角度

一般情况下，播放器在硬解后拿到的OES Texture就是逆时针旋转rotation之后纹理，所以我们只要对纹理坐标顺时针旋转相同角度就可以了。

在对纹理坐标进行旋转时，有一个重要的差异点：屏幕纹理坐标系和FBO纹理坐标系的坐标原点(0,0)在Y轴上是相反的，如下所示：

屏幕纹理坐标系
FBO纹理坐标系

所以，渲染到FBO与屏幕时，需要使用不同的纹理坐标。

假设顶点坐标是

float pos[] = {
    -1.0f, 1.0f,
    -1.0f, -1.0f,
    1.0f, 1.0f,
    1.0f, -1.0f,
    };
复制代码

若是渲染到FBO时，旋转角度和纹理坐标的对应关系如下所示：

val rotation = 90
val textureCoord = when (rotation) {
    90 -> floatArrayOf(
        1.0f, 1.0f,
        0.0f, 1.0f,
        1.0f, 0.0f,
        0.0f, 0.0f
        )
    180 -> floatArrayOf(
        1.0f, 0.0f,
        1.0f, 1.0f,
        0.0f, 0.0f,
        0.0f, 1.0f
        )
    270 -> floatArrayOf(
        0.0f, 0.0f,
        1.0f, 0.0f,
        0.0f, 1.0f,
        1.0f, 1.0f
        )
    // 0
    else -> floatArrayOf(
        0.0f, 1.0f,
        0.0f, 0.0f,
        1.0f, 1.0f,
        1.0f, 0.0f
        )
}
复制代码

相反的，若是渲染到屏幕时，旋转角度和纹理坐标的对应关系如下所示：

val rotation = 90
val textureCoord = when (rotation) {
    90 -> floatArrayOf(
        0.0f, 1.0f,
        1.0f, 1.0f,
        0.0f, 0.0f,
        1.0f, 0.0f
        )
    180 -> floatArrayOf(
        1.0f, 1.0f,
        1.0f, 0.0f,
        0.0f, 1.0f,
        0.0f, 0.0f
        )
    270 -> floatArrayOf(
        1.0f, 0.0f,
        0.0f, 0.0f,
        1.0f, 1.0f,
        0.0f, 1.0f
        )
    // 0
    else -> floatArrayOf(
        0.0f, 0.0f,
        0.0f, 1.0f,
        1.0f, 0.0f,
        1.0f, 1.0f
        )
}
复制代码

整个流程，可以通过下面的示意图描述：

上述rotation表示在正常视频的基础上逆时针旋转的角度，即为了修正视频，我们需要针对纹理坐标顺时针转相同的角度（与处理图片旋转角度的方式一致）。

GLES20.glReadPixels

众所周知，我们可以通过GLES20.glReadPixels从指定的Read Buffer中获取一帧图像。但是实践中发现，当从FBO和屏幕Buffer（FBO0）中分别读取帧数据时，得到的图像是镜像关系，原因就是我们上面提及的***屏幕纹理坐标系和FBO纹理坐标系在Y轴上是反序的***。

首先看下如何读取并保存帧数据，如下所示：

// 一帧图像的Size
val buffer = ByteBuffer.allocateDirect(width * height * 4)
buffer.order(ByteOrder.LITTLE_ENDIAN)
GLES20.glReadPixels(0, 0, width, height, GLES20.GL_RGBA, GLES20.GL_UNSIGNED_BYTE, buffer)
buffer.rewind()

// outputFile表示存储的目标文件
val bos = BufferedOutputStream(FileOutputStream(outputFile))
val bmp = Bitmap.createBitmap(width, height, Bitmap.Config.ARGB_8888)
// 填充像素数据
bmp.copyPixelsFromBuffer(buffer)
bmp.compress(Bitmap.CompressFormat.JPEG, 100, bos)
bmp.recycle()
bos.close()
复制代码

然后看下真实的案例：