ffmpeg音频处理——pcm格式与resample(重采样)

1 基本概念1:获取pcm音频帧声道数

2 基本概念2:获取pcm音频帧每个声道的sample采样点个数

3.1 获取解码之后的pcm音频帧物理存放方式

3.2 ffmpeg支持的音频帧的物理存放方式

3.3.1 第一层意思: 每个采样点数据的物理存储类型

3.3.2 第二层意思: 不同声道的同一采样点是否单独存放

1. 参考链接
   

   PCM数据格式 - taoanran - 开源中国社区
   Decode Audio from Memory - C++ - Stack Overflow
   audio - What is the difference between AV_SAMPLE_FMT_S16P and AV_SAMPLE_FMT_S16? - Stack Overflow
   

2. 两种存放方式 packed和planar
   
   1. 第一种: 多个声道数据交错存放(packed类型,不带字符P)
      

      对于 packed音频(左右声道打包存放), 只有一个数据指针(相当于一个声道)。
      所有声道的数据交错排放在frame->data[0](即frame->extended_data[0])地址处
      所有声道的数据长度为linesize[0](单位:字节)
      

      地址	数据	备注
      data[0]	声道1的采样点0	每个采样点数据有int、uint、float，大端小端之分
      data[0]+1	声道2的采样点0
      data[0]+2	声道1的采样点1
      data[0]+3	声道2的采样点1
      data[0]+4	声道1的采样点2
      data[0]+5	声道2的采样点2
      …	…
      data[0]+2i	声道1的采样点i
      data[0]+2i+1	声道2的采样点i

      比如: AV_SAMPLE_FMT_S16 所有声道的数据放在一个buffer中，左右声道采样点交叉存放，每个采样值为一个signed 16位(范围为-32767 to +32767)。
      

   2. 第二种: 每个声道数据单独存放(planar类型，带字符P)
      

      对于 planar音频(左右声道分开存放)，每个声道有自己的数据存放位置。
      声道0的起始地址为 frame->data[0](或frame->extended_data[0])
      声道1的起始地址为 frame->data[1](或frame->extended_data[1])
      声道i的起始地址为 frame->data[i](或frame->extended_data[i])
      每个声道的数据长度为linesize[0](单位:字节)
      

      实际上ffmpeg在实现的时候，每个声道的数据连续存放，不同声道之间也是连续存放的。
      

      地址	声道
      data[0]	声道1	采样点1
      		采样点2
      		采样点i
      data[1]	声道2	采样点1
      		采样点2
      		采样点i

      所以 data[i]=data[i-1] + linesize[0]
      

      比如: AV_SAMPLE_FMT_S16P 每个声道的数据放在单独的buffer中，每个采样值为一个signed 16位(范围为-32767 to +32767)。
      

   3. 两者之间的联系
      
      1. 所有声道的数据都是存放在 frame->data[0]开始的一段连续空间中
         
      2. 如果是 packed类型，同一采样点的不同声道数据放到一起，然后存储下一个采样点
         
      3. 如果是 planar类型，同一声道的所有采样点数据放到一起，然后存放下一个声道
         
3. 判断是否是 planar类型
   

   av_sample_fmt_is_planar(sample_fmt)
   

4. 两者之间的转换
   
   1. 通过重采样函数进行转换
      
   2. 手动将每个声道的数据交错存放
      
5. 根据存放方式，分配pcm数据空间(重采样用)
   
   1. 手动分配
      

      int nb_planes;
      static uint8_t **audio_dst_data = NULL;
      nb_planes = av_sample_fmt_is_planar(audio_dec_ctx->sample_fmt) ? audio_dec_ctx->channels : 1; //如果是 planar类型，需要分配一个指针数组，每个元素指向一个声道
      audio_dst_data = av_mallocz(sizeof(uint8_t *) * nb_planes);
      if (!audio_dst_data) {
      fprintf(stderr, "Could not allocate audio data buffers\n");
      ret = AVERROR(ENOMEM);
      goto end;
      }
      ret = av_samples_alloc(audio_dst_data, &audio_dst_linesize, av_frame_get_channels(frame),
      frame->nb_samples, frame->format, 1);
      if (ret < 0) {
      fprintf(stderr, "Could not allocate audio buffer\n");
      return AVERROR(ENOMEM);
      }
      

   2. 调用接口函数(内部实现，即是上面的函数调用过程)
      

      uint8_t ** audio_data;
      src_nb_channels = av_get_channel_layout_nb_channels(src_ch_layout);
      ret = av_samples_alloc_array_and_samples(&src_data, &src_linesize, src_nb_channels, //都是定义二重指针 audio_data,注意这里的调用方式
      src_nb_samples, src_sample_fmt, 0);
      if (ret < 0) {
      fprintf(stderr, "Could not allocate source samples\n");
      goto end;
      }
      // 这个函数内部即是上面的过程
      int av_samples_alloc_array_and_samples (uint8_t * audio_data,
      int * linesize,
      int nb_channels,
      int nb_samples,
      enum AVSampleFormat sample_fmt,
      int align
      )