ffplay 外部时钟同步的原理

2024-05-04 02:48

本文主要是介绍ffplay 外部时钟同步的原理,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

概述
ffplay有三种同步方式:1、音频作为主时钟;2、视频作为主时钟;3、外部时钟源作为主时钟。默认的同步方式为“音频作为主时钟”方式,具体代码分析可查阅:https://blog.csdn.net/lyy901135/article/details/95307111

音频作为主时钟时,视频pts向音频的pts看齐,若视频播放延迟,则需进行丢帧处理。视频作为主时钟时,音频需向视频的pts看齐,要音频播放延迟/超前,则需对音频样本进行缩放。本文主要介绍第三种同步方式:外部时钟源作为主时钟。

视频同步方式的选择
使用ffplay的-sync参数可指定音视频同步的种类,比如如下命令选择外部时钟作为主时钟。

ffplay ~/Videos/Sintel.2010.720p.mkv -sync ext
1
原理说明
外部时钟更新的时机
初始时,外部时钟源pts初始化为NAN,后续该外部时钟源的字段的更新都是通过sync_clock_to_slave()完成。音频或视频帧在分别更新自己对应的时钟时,也会调用sync_clock_to_slave()尝试对外部时钟做更新。

为何上文说是尝试对外部时钟进行更新?是因为在sync_clock_to_slave()代码中我们可以看到更新规则:

1、外部时钟pts非法,从属时钟(音频/视频)的pts有效时更新。
2、外部时钟pts与从属时钟的时间差值超过AV_NOSYNC_THRESHOLD(10秒),则对外部时钟进行更新。

static void sync_clock_to_slave(Clock *c, Clock *slave)
{
    double clock = get_clock(c);
    double slave_clock = get_clock(slave);
    /* 仅当下列条件满足时,才会更新外部时钟 */
    if (!isnan(slave_clock) && (isnan(clock) || fabs(clock - slave_clock) > AV_NOSYNC_THRESHOLD))
        set_clock(c, slave_clock, slave->serial);
}
1
2
3
4
5
6
7
8
由于外部时钟初始化时为NAN,因此第一帧音频(视频)播放时,会满足第1个条件,从而调用set_clock()更新了外部时钟。我们展开函数进行分析可知,第一帧有效帧播放后,外部时钟的字段分别对应的值(如下代码注释)

static void set_clock_at(Clock *c, double pts, int serial, double time)
{
    /* 第一个有效帧对应的pts,以音频为例,此时对应的就是第一帧播放时,音频clock的时间值 */
    c->pts = pts;
    
    /* 第一帧有效帧播放时的系统时间 */
    c->last_updated = time;
    
    /* 当前时刻,外部时钟的时间值(pts)与系统时间值之差
     * 一定注意是当前时刻,后续时间点计算都是根据此值作为基准来计算。
     * 每隔10秒才会更新这个基准时间。
     */
    c->pts_drift = c->pts - time;
    c->serial = serial;
}

static void set_clock(Clock *c, double pts, int serial)
{
    double time = av_gettime_relative() / 1000000.0;
    set_clock_at(c, pts, serial, time);
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
函数sync_clock_to_slave()被调用的地方:

static void update_video_pts(VideoState *is, double pts, int64_t pos, int serial) {
    /* update current video pts */
    set_clock(&is->vidclk, pts, serial);
    /* 视频时钟更新时,尝试更新外部时钟 */
    sync_clock_to_slave(&is->extclk, &is->vidclk);
}
1
2
3
4
5
6
/* prepare a new audio buffer */
static void sdl_audio_callback(void *opaque, Uint8 *stream, int len)
{
    ............
    
    /* Let's assume the audio driver that is used by SDL has two periods. */
    if (!isnan(is->audio_clock)) {
        set_clock_at(&is->audclk, is->audio_clock - (double)(2 * is->audio_hw_buf_size + is->audio_write_buf_size) / is->audio_tgt.bytes_per_sec, is->audio_clock_serial, audio_callback_time / 1000000.0);
        /* 音频时钟更新时,尝试更新外部时钟 */
        sync_clock_to_slave(&is->extclk, &is->audclk);
    }
}
1
2
3
4
5
6
7
8
9
10
11
12
外部时钟时间轴特性
了解到外部时钟更新时机,笔者就很迷惑了。既然作为同步的基准时间轴,那肯定要不停的增长,而且这个增长还必须是有规律的(比如像自然时间一样,一秒一秒的增长)。但是刚才看到确实是每隔10秒才更新一次外部时间,那这10秒内的音视频要怎么同步?

带着这个疑问,我们分别看下视频与音频如何与主时钟进行同步,首先是视频同步的代码,具体同步原理可参见:https://blog.csdn.net/lyy901135/article/details/95307111

static double compute_target_delay(double delay, VideoState *is)
{
    double sync_threshold, diff = 0;

    /* update delay to follow master synchronisation source */
    if (get_master_sync_type(is) != AV_SYNC_VIDEO_MASTER) {
        /* if video is slave, we try to correct big delays by duplicating or deleting a frame */
        /* 与主时钟对比,获取时间差 */
        diff = get_clock(&is->vidclk) - get_master_clock(is);
        ........
    }
    ........
}
1
2
3
4
5
6
7
8
9
10
11
12
13
音频同步代码如下,根据与主时钟的差距,计算出当前需要多少帧音频样本,然后根据这个计算所得的音频样本数,对原始音频进行缩放。

/* return the wanted number of samples to get better sync if sync_type is video
 * or external master clock */
static int synchronize_audio(VideoState *is, int nb_samples)
{
    int wanted_nb_samples = nb_samples;

    /* if not master, then we try to remove or add samples to correct the clock */
    if (get_master_sync_type(is) != AV_SYNC_AUDIO_MASTER) {
        ............
        
        /* 与主时钟对比,获取时间差 */
        diff = get_clock(&is->audclk) - get_master_clock(is);
        
        .........
    }

    return wanted_nb_samples;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
上面均调用了get_master_clock来获取此时主时钟的时间值,当前主时钟为外部时钟。我们继续看下这个时间值是怎么计算的。从下面代码可以看出整个原理,其实外部时钟就是一开始记录了第一帧的pts,以及第一帧的系统时间(假定为T0,则代码中pts_drift = pts-T0)。如果当前时钟假定为T1,那么此时主时钟的时间就应该为

pts + (T1 - T0) = (pts - T0) + T1 = pts_drift + T1

T1-T0表示用系统时间,计算从开始到现在的总时长。pts表示第一帧播放的时刻,那么pts+T1-T0,就表示当前时刻的pts值,这个值则可以用于音频/视频的clock对比。

/* get the current master clock value */
static double get_master_clock(VideoState *is)
{
    double val;

    switch (get_master_sync_type(is)) {
        case AV_SYNC_VIDEO_MASTER:
            val = get_clock(&is->vidclk);
            break;
        case AV_SYNC_AUDIO_MASTER:
            val = get_clock(&is->audclk);
            break;
        default:
            val = get_clock(&is->extclk);
            break;
    }
    return val;
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
static double get_clock(Clock *c)
{
    if (*c->queue_serial != c->serial)
        return NAN;
    if (c->paused) {
        return c->pts;
    } else {
        double time = av_gettime_relative() / 1000000.0;
        return c->pts_drift + time - (time - c->last_updated) * (1.0 - c->speed);
    }
}
————————————————
版权声明:本文为CSDN博主「树叶-梨花」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/lyy901135/article/details/98957943

这篇关于ffplay 外部时钟同步的原理的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/958196

相关文章

Java Spring 中 @PostConstruct 注解使用原理及常见场景

《JavaSpring中@PostConstruct注解使用原理及常见场景》在JavaSpring中,@PostConstruct注解是一个非常实用的功能,它允许开发者在Spring容器完全初... 目录一、@PostConstruct 注解概述二、@PostConstruct 注解的基本使用2.1 基本代

Golang HashMap实现原理解析

《GolangHashMap实现原理解析》HashMap是一种基于哈希表实现的键值对存储结构,它通过哈希函数将键映射到数组的索引位置,支持高效的插入、查找和删除操作,:本文主要介绍GolangH... 目录HashMap是一种基于哈希表实现的键值对存储结构,它通过哈希函数将键映射到数组的索引位置,支持

Spring Boot循环依赖原理、解决方案与最佳实践(全解析)

《SpringBoot循环依赖原理、解决方案与最佳实践(全解析)》循环依赖指两个或多个Bean相互直接或间接引用,形成闭环依赖关系,:本文主要介绍SpringBoot循环依赖原理、解决方案与最... 目录一、循环依赖的本质与危害1.1 什么是循环依赖?1.2 核心危害二、Spring的三级缓存机制2.1 三

C#中async await异步关键字用法和异步的底层原理全解析

《C#中asyncawait异步关键字用法和异步的底层原理全解析》:本文主要介绍C#中asyncawait异步关键字用法和异步的底层原理全解析,本文给大家介绍的非常详细,对大家的学习或工作具有一... 目录C#异步编程一、异步编程基础二、异步方法的工作原理三、代码示例四、编译后的底层实现五、总结C#异步编程

Go 语言中的select语句详解及工作原理

《Go语言中的select语句详解及工作原理》在Go语言中,select语句是用于处理多个通道(channel)操作的一种控制结构,它类似于switch语句,本文给大家介绍Go语言中的select语... 目录Go 语言中的 select 是做什么的基本功能语法工作原理示例示例 1:监听多个通道示例 2:带

鸿蒙中@State的原理使用详解(HarmonyOS 5)

《鸿蒙中@State的原理使用详解(HarmonyOS5)》@State是HarmonyOSArkTS框架中用于管理组件状态的核心装饰器,其核心作用是实现数据驱动UI的响应式编程模式,本文给大家介绍... 目录一、@State在鸿蒙中是做什么的?二、@Spythontate的基本原理1. 依赖关系的收集2.

Java编译生成多个.class文件的原理和作用

《Java编译生成多个.class文件的原理和作用》作为一名经验丰富的开发者,在Java项目中执行编译后,可能会发现一个.java源文件有时会产生多个.class文件,从技术实现层面详细剖析这一现象... 目录一、内部类机制与.class文件生成成员内部类(常规内部类)局部内部类(方法内部类)匿名内部类二、

Python中随机休眠技术原理与应用详解

《Python中随机休眠技术原理与应用详解》在编程中,让程序暂停执行特定时间是常见需求,当需要引入不确定性时,随机休眠就成为关键技巧,下面我们就来看看Python中随机休眠技术的具体实现与应用吧... 目录引言一、实现原理与基础方法1.1 核心函数解析1.2 基础实现模板1.3 整数版实现二、典型应用场景2

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容:标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO(blocking I/O)NI

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步