视频监控安防平台-自定义文件格式MFS存储

2024-01-22 02:38

本文主要是介绍视频监控安防平台-自定义文件格式MFS存储,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

            视频监控安防平台-自定义文件格式MFS存储

首先在视频监控领域存储是最重要的,为什么怎么说呢,都是监控是用来事后处理事物的,所以说存储是多么重要的,要想有一个比较稳定的存储,必须要好好规划,我尝试过自定义avi格式存储和mp4格式存储,如果用在简单的项目上还好没什么问题,但是如果在大型项目上面(比如1000路高清摄像头的存储),那么问题就会慢慢暴露出来,最常见的问题就是写入磁盘的时候会卡个几秒几分钟,在项目上可想而知这就意味着丢几秒几分钟视频,后果是相对严重的,由于遇到这样的问题iostat、iotop这些监控磁盘信息的数据都显示压力大写不进去,这也是给我了重新设计自己的存储格式,首先存储格式必须简单而且易用,自己设计还有好处就是可以任意实现自己的想要的功能,比如单帧播放、单帧倒放、倒放、同步回放等很多项目都必须要的功能。下面简单说说自己的设计思路,首先自己构思存储的结构图:


存储文件格式思想大概是预留1M来存储每个I帧P帧等信息,最后预留1M来预防最后一个I帧无法全部写入,详细看结构图,应该比较易懂。
设计结构搞完了,就开始正式写代码了,下面粘贴一下代码:
公共头文件mfs.h

#ifndef LIB_MFS_H__
#define LIB_MFS_H__#include <vector>
#include "Log.h"#define MFS8K           (8<<10)//8192
#define MFS16K          (16<<10)//16384
#define MFS24K          (24<<10)//24576
#define MFS32K          (32<<10)//32768
#define MFS64K          (64<<10)//65536
#define MFS128K         (128<<10)//131072
#define MFS256K         (256<<10)//262144
#define MFS257K         (257<<10)//263168
#define MFS512K         (512<<10)//524288
#define MFS820K         (820<<10)//524288#define MFS1M           (1<<20)
#define MFS2M           (2<<20)
#define MFS16M          (16<<20)//16777216
#define MFS32M          (32<<20)//33554432
#define MFS64M          (64<<20)//33554432
#define MFS128M         (128<<20)//134217728#define FILESIZE_HEADINFO (4<<10)//4096
#define FILESIZE_HEAD     (1<<20)
#define FILESIZE_RESERVE  (1<<20)#define DEFAULT_DATA_CACHE   MFS2M               //默认数据缓存大小
#define DEFAULT_FILE_SIZE    MFS32M              //默认文件大小#define MFS_HEAD_VERSION "MFS VERSION=1.0"   //文件头固定格式
#define MFS_START_CODE   "MFS"               //I帧索引,数据索引固定头//编码格式
typedef enum
{ENCODER_TYPE_NONE = 0,ENCODER_TYPE_MPEG2 = 1,ENCODER_TYPE_MPEG4 = 2,ENCODER_TYPE_H264 = 3,ENCODER_TYPE_H265 = 4
}ENCODER_TYPE_E;//数据类型
typedef enum
{DATA_TYPE_NONE = 0,DATA_TYPE_I = 1,DATA_TYPE_P = 2,DATA_TYPE_B = 3,DATA_TYPE_A = 4,DATA_TYPE_EVENT = 5,DATA_TYPE_SUNTILE = 6
}DATA_TYPE_E;//文件头结构体
struct MFS_FILE_HEAD{char version[24]; 			     //用于文件合法性检测 版本号, "MFS VERSION=1.0"unsigned int flag;			     //文件的标示符  0:空闲; 1:使用中; 3:不可用unsigned int time_start;	     //文件的开始时间unsigned int time_end;		     //文件的结束时间unsigned int index_size; 	     //文件头长度,从4k头之后,开始算长度unsigned int idx_amount; 	     //包含的I帧索引项总数unsigned int data_size; 	     //数据区总厂unsigned int framerate;		     //帧率unsigned char sps_pps[256];	     //文件sps_pps的内容unsigned int sps_pps_len;	     //文件sps_pps的长度unsigned int manuf;		         //厂家类型,用于私有码流
} __attribute__((packed, aligned(1)));//I帧索引  //固定大小 数组, 20字节
struct MFS_I_FRAME_INDEX{unsigned char segment_normal[3];  //固定标志 "MFS"unsigned char encoder_type;	      //I帧的编码格式 1:MEPG-2; 2:MEPG-4; 3:H264 ;4:H265unsigned int idx_offset;	      //I帧在文件中的偏移量, 从数据区开始算unsigned int i_data_size;	      //I帧长度,不包含数据头long long time_stamp;	          //I帧的时间戳 毫秒
} __attribute__((packed, aligned(1)));//数据索引,数据类型包括:I帧、P帧、B帧、事件信息,字符等, 16字节
struct MFS_DATA_INDEX{unsigned char segment_normal[3];   //固定标志 "MFS"unsigned char data_type;	       //数据类型  1:I帧 ;2:P帧; 3:B帧; 4:音频; 5:事件帧; 6:字幕帧unsigned int data_size;	           //数据长度,从MFS_DATA_INDEX 头之后开始算long long time_stamp;	           //数据的时间戳 毫秒
} __attribute__((packed, aligned(1)));
//-----------------------------------------------------------------------------------------------------------------#endif

应用实例demo:

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <sys/time.h>
#include <time.h>
#include <unistd.h>#include "mfs_write.h"
#include "mfs_read.h"unsigned char dig[16] = {'0', '1', '2', '3', '4', '5', '6', '7', '8', '9','a', 'b', 'c', 'd', 'e', 'f'};//dd if=/dev/zero of=testfile1.mfs bs=32M count=1unsigned char testbuffer_I[32] = {"123456789012345678901234567890\0"};
unsigned char testbuffer_D[16] = {"ABCDEFGHIJKLMN\0"};
unsigned char testbuffer_P[8] = {"!@#$%^\0"};int main(int argc, char *argv[])
{char filename[128] = {"testfile1.mfs"};if (argc >= 2){sprintf(filename, "%s", argv[1]);}printf("filename is %s\n\n", filename);memset(testbuffer_I, 'I', sizeof(testbuffer_I));memset(testbuffer_D, 'D', sizeof(testbuffer_D));memset(testbuffer_P, 'P', sizeof(testbuffer_P));#if 0CMfsWrite mfs_write;mfs_write.mfs_init();mfs_write.mfs_open(filename);int times = 0;while(times++ < 10){printf("\nwritefile times:%d\n", times);testbuffer_I[0] = (unsigned char)dig[times];testbuffer_D[0] = (unsigned char)dig[times];testbuffer_P[0] = (unsigned char)dig[times];mfs_write.mfs_put(testbuffer_P, sizeof(testbuffer_P), DATA_TYPE_P);mfs_write.mfs_put(testbuffer_P, sizeof(testbuffer_P), DATA_TYPE_P);mfs_write.mfs_put(testbuffer_I, sizeof(testbuffer_I), DATA_TYPE_I);usleep(100*1000);mfs_write.mfs_put(testbuffer_D, sizeof(testbuffer_D), DATA_TYPE_EVENT);usleep(100*1000);for (int i = 0; i<3; i++){mfs_write.mfs_put(testbuffer_P, sizeof(testbuffer_P), DATA_TYPE_P);usleep(100*1000);}if (times%3==0)mfs_write.mfs_write(true);//usleep(10*1000);}mfs_write.mfs_write(true);mfs_write.mfs_close();printf("\n\n-----------------------------------------------------------------------------------------------------\n\n");
#endif//CMfsRead mfs_read;mfs_read.mfs_init();mfs_read.mfs_open(filename);struct MFS_READ readdata;int nRet = 0;mfs_read.head_print_test(true);//mfs_read.mfs_location(2);MFS_READ_TYPE_E readtype = MFS_READ_TYPE_GOP;bool bBack = false;FILE *fp = NULL;if (argv[2] != NULL){char writefilename[64] = {0};sprintf(writefilename, "./%s", argv[2]);fp = fopen(writefilename, "w+");printf("open write filename :%s result:%s!\n\n", writefilename, (fp == NULL)?"fail":"sucess");}
#if 1while(1){nRet = mfs_read.mfs_read(readtype, readdata, bBack);if (nRet < 0){break;}int plen = 0;printf("\nmfs_read_frame eDecoderType:%d, vmfsbuf.size:%d\n", (int)readdata.eDecoderType, (int)readdata.vmfsbuf.size());if (readdata.vmfsbuf.size() > 0){printf("Data eDataType(%d) bKeyFrame(%d) nPts(%lld) len:%d\n", (int)readdata.vmfsbuf[0].eDataType, readdata.vmfsbuf[0].bKeyFrame, readdata.vmfsbuf[0].nPts, readdata.vmfsbuf[0].nLen);plen = readdata.vmfsbuf[0].nLen > 10 ? 10 : readdata.vmfsbuf[0].nLen;for (int i = 0; i< plen; ++i ){printf("0x%c ", readdata.vmfsbuf[0].pData[i]);}printf("\n\n");	if (fp != NULL){for (unsigned int j=0; j<readdata.vmfsbuf.size(); j++){fwrite(readdata.vmfsbuf[j].pData, sizeof(char), readdata.vmfsbuf[j].nLen, fp);}}}		readdata.vmfsbuf.clear();usleep(10*1000);}if (fp != NULL){fclose(fp);fp = NULL;}
#elsenRet = mfs_read.mfs_read_time(1, readdata);printf("mfs_read_time Data Sn(%d) PayLoadType(%d) Manuf(%d) eDecoderType:%d\n", readdata.Sn, readdata.PayLoadType, readdata.Manuf, (int)readdata.eDecoderType);int plen = 0;for (unsigned int k = 0; k < readdata.vmfsbuf.size(); ++k){printf("Data eDataType(%d) bKeyFrame(%d) nPts(%lld) len:%d\n", (int)readdata.vmfsbuf[k].eDataType, readdata.vmfsbuf[k].bKeyFrame, readdata.vmfsbuf[k].nPts, readdata.vmfsbuf[k].nLen);plen = readdata.vmfsbuf[k].nLen > 10 ? 10 : readdata.vmfsbuf[k].nLen;for (int i = 0; i< plen; ++i )printf("0x%02x ", readdata.vmfsbuf[k].pData[i]);printf("\n");}#endifmfs_read.mfs_close();return 0;
}
目前项目上在大量使用这样的存储格式文件,还比较稳定。





这篇关于视频监控安防平台-自定义文件格式MFS存储的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/631602

相关文章

深入理解Apache Kafka(分布式流处理平台)

《深入理解ApacheKafka(分布式流处理平台)》ApacheKafka作为现代分布式系统中的核心中间件,为构建高吞吐量、低延迟的数据管道提供了强大支持,本文将深入探讨Kafka的核心概念、架构... 目录引言一、Apache Kafka概述1.1 什么是Kafka?1.2 Kafka的核心概念二、Ka

在Android平台上实现消息推送功能

《在Android平台上实现消息推送功能》随着移动互联网应用的飞速发展,消息推送已成为移动应用中不可或缺的功能,在Android平台上,实现消息推送涉及到服务端的消息发送、客户端的消息接收、通知渠道(... 目录一、项目概述二、相关知识介绍2.1 消息推送的基本原理2.2 Firebase Cloud Me

基于Python和MoviePy实现照片管理和视频合成工具

《基于Python和MoviePy实现照片管理和视频合成工具》在这篇博客中,我们将详细剖析一个基于Python的图形界面应用程序,该程序使用wxPython构建用户界面,并结合MoviePy、Pill... 目录引言项目概述代码结构分析1. 导入和依赖2. 主类:PhotoManager初始化方法:__in

AJAX请求上传下载进度监控实现方式

《AJAX请求上传下载进度监控实现方式》在日常Web开发中,AJAX(AsynchronousJavaScriptandXML)被广泛用于异步请求数据,而无需刷新整个页面,:本文主要介绍AJAX请... 目录1. 前言2. 基于XMLHttpRequest的进度监控2.1 基础版文件上传监控2.2 增强版多

用js控制视频播放进度基本示例代码

《用js控制视频播放进度基本示例代码》写前端的时候,很多的时候是需要支持要网页视频播放的功能,下面这篇文章主要给大家介绍了关于用js控制视频播放进度的相关资料,文中通过代码介绍的非常详细,需要的朋友可... 目录前言html部分:JavaScript部分:注意:总结前言在javascript中控制视频播放

Python基于wxPython和FFmpeg开发一个视频标签工具

《Python基于wxPython和FFmpeg开发一个视频标签工具》在当今数字媒体时代,视频内容的管理和标记变得越来越重要,无论是研究人员需要对实验视频进行时间点标记,还是个人用户希望对家庭视频进行... 目录引言1. 应用概述2. 技术栈分析2.1 核心库和模块2.2 wxpython作为GUI选择的优

使用Sentinel自定义返回和实现区分来源方式

《使用Sentinel自定义返回和实现区分来源方式》:本文主要介绍使用Sentinel自定义返回和实现区分来源方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录Sentinel自定义返回和实现区分来源1. 自定义错误返回2. 实现区分来源总结Sentinel自定

C# WinForms存储过程操作数据库的实例讲解

《C#WinForms存储过程操作数据库的实例讲解》:本文主要介绍C#WinForms存储过程操作数据库的实例,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、存储过程基础二、C# 调用流程1. 数据库连接配置2. 执行存储过程(增删改)3. 查询数据三、事务处

Java进行文件格式校验的方案详解

《Java进行文件格式校验的方案详解》这篇文章主要为大家详细介绍了Java中进行文件格式校验的相关方案,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、背景异常现象原因排查用户的无心之过二、解决方案Magandroidic Number判断主流检测库对比Tika的使用区分zip

如何自定义Nginx JSON日志格式配置

《如何自定义NginxJSON日志格式配置》Nginx作为最流行的Web服务器之一,其灵活的日志配置能力允许我们根据需求定制日志格式,本文将详细介绍如何配置Nginx以JSON格式记录访问日志,这种... 目录前言为什么选择jsON格式日志?配置步骤详解1. 安装Nginx服务2. 自定义JSON日志格式各