ProtoBuf简要介绍与快速上手使用(C++版)

2024-08-25 01:36

本文主要是介绍ProtoBuf简要介绍与快速上手使用(C++版),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 一、 初识ProtoBuf
    • 1. 序列化和反序列化概念
    • 2. ProtoBuf是什么
    • 3. ProtoBuf的使用特点
  • 二、 讲解说明
  • 三、 快速上手
    • 1. 创建 .proto 文件
    • 2. 编译 contacts.proto 文件,生成C++文件
    • 3. 序列化与反序列化的使用
    • 4. 小结 ProtoBuf 使用流程


一、 初识ProtoBuf

1. 序列化和反序列化概念

序列化和反序列化

  • 序列化:把对象转换为字节序列的过程 称为对象的序列化。
  • 反序列化:把字节序列恢复为对象的过程 称为对象的反序列化。

什么情况下需要序列化

  • 存储数据:当你想把的内存中的对象状态保存到一个文件中或者存到数据库中时。
  • 网络传输:网络直接传输数据,但是无法直接传输对象,所以要在传输前序列化,传输完成后反序列化成对象。例如我们之前学习过 socket 编程中发送与接收数据。

如何实现序列化

  • xml、json、 protobu

2. ProtoBuf是什么

我们先来看看官方给出的描述:

Protocol buffers are Google’s language-neutral, platform-neutral, extensible mechanism for serializing structured data ‒ think XML, but smaller, faster, and simpler. You define how you want your data to be structured once, then you can use special generated source code to easily write and read your structured data to and from a variety of data streams and using a variety of languages.

翻译过来的意思就是说

  • Protocol Buffers 是 Google 的一种语言无关、平台无关、可扩展的序列化结构数据的方法,它可用于(数据)通信协议、数据存储等。
  • Protocol Buffers 类比于XML,是一种灵活,高效,自动化机制的结构数据序列化方法,但是比XML 更小、更快、更为简单。
  • 你可以定义数据的结构,然后使用特殊生成的源代码轻松的在各种数据流中使用各种语言进行编写和读取结构数据。你甚至可以更新数据结构,而不破坏由旧数据结构编译的已部署程序。

简单来讲,ProtoBuf(全称为 ProtocolBuffer)是让结构数据序列化的方法,其具有以下特点

  • 语言无关、平台无关:即 ProtoBuf支持 Java、C++、Python 等多种语言,支持多个平台。
  • 高效:即比 XML 更小、更快、更为简单。
  • 扩展性、兼容性好:你可以更新数据结构,而不影响和破坏原有的旧程序。

3. ProtoBuf的使用特点

在这里插入图片描述

  1. 编写 .proto 文件,目的是为了定义结构对象(message)及属性内容。
  2. 使用 protoc 编译器编译.proto 文件,生成一系列接口代码,存放在新生成头文件和源文件中。
  3. 依赖生成的接口,将编译生成的头文件包含进我们的代码中,实现对.proto 文件中定义的字段进行设置和获取,和对 message 对象进行序列化和反序列化。

总的来说:ProtoBuf是需要依赖通过编译生成的头文件和源文件来使用的。有了这种代码生成机制,开发人员再也不用吭哧吭哧地编写那些协议解析的代码了(干这种活是典型的吃力不讨好)。

二、 讲解说明

对 ProtoBuf的完整学习,将使用项目推进 的方式完成教学:即对于ProtoBuf知识内容的展开,会对一个项目进行一个版本一个版本的升级去讲解 ProtoBuf 对应的知识点。
在后续的内容中,将会实现一个通讯录项目。对通讯录大家应该都不陌生,一般,通讯录中包含了一批的联系人,每个联系人又会有很多的属性,例如姓名、电话等等。随着对通讯录项目的升级,我们对 ProtoBuf的学习与使用就越深入。

三、 快速上手

在快速上手中,会编写第一版本的通讯录 1.0。在通讯录 1.0 版本中,将实现:

  • 对一个联系人的信息使用 PB 进行序列化,并将结果打印出来。
  • 对序列化后的内容使用 PB 进行反序列,解析出联系人信息并打印出来。
  • 联系人包含以下信息:姓名、年龄。

通过通讯录 1.0,我们便能了解使用 ProtoBuf初步要掌握的内容,以及体验到 ProtoBuf的完整使用流程。

1. 创建 .proto 文件

文件规范

  • 创建.proto 文件时,文件命名应该使用全小写字母命名,多个字母之间用_ 连接,后缀以.proto结尾。例如:lower_snake_case.proto 。
  • 书写 .proto 文件代码时,应使用2个空格的缩进。

我们为通讯录 1.0 新建文件:contacts.proto

添加注释

向文件添加注释,可使用 // 或者 /* … */

指定proto3语法

Protocol Buffers 语言版本3,简称 proto3,是.proto 文件最新的语法版本。proto3 简化了 Protoco Buffers 语言,既易于使用,又可以在更广泛的编程语言中使用。它允许你使用 Java,C++,Python等多种语言生成 protocol buffer 代码。
在 .proto 文件中,要使用 syntax=“proto3”;来指定文件语法为 proto3,并且必须写在除去注释内容的第一行。如果没有指定,编译器会使用proto2语法。
在通讯录 1.0 的 contacts.proto 文件中,可以为文件指定 proto3 语法,内容如下:

syntax "proto3";

package声明符

package 是一个可选的声明符,能表示.proto 文件的命名空间,在项目中要有唯一性。它的作用是为了避免我们定义的消息出现冲突。
在通讯录 1.0 的 contacts.proto 文件中,可以声明其命名空间,内容如下:

package contacts;

在这里插入图片描述

定义消息message

消息(message):要定义的结构化对象,我们可以给这个结构化对象中定义其对应的属性内容。
这里再提一下为什么要定义消息?

  • 在网络传输中,我们需要为传输双方定制协议。定制协议说白了就是定义结构体或者结构化数据比如,tcp,udp报文就是结构化的。
  • 再比如将数据持久化存储到数据库时,会将一系列元数据统一用对象组织起来,再进行存储。

所以 ProtoBuf 就是以 message 的方式来支持我们定制协议字段,后期帮助我们形成类和方法来使用。
在通讯录 1.0 中我们就需要为 联系人 定义一个 message。

.proto 文件中定义一个消息类型的格式为:

message 消息类型名{}消息类型命名规范:使⽤驼峰命名法,⾸字⺟⼤写。

为 contacts.proto(通讯录 1.0)新增联系⼈message,内容如下:

syntax = "proto3";
package contacts;//定义联系人消息
message PeopleInfo
{}

定义消息字段

在 message 中我们可以定义其属性字段,字段定义格式为:字段类型 字段名=字段唯一编号;

  • 字段名称命名规范:全小写字母,多个字母之间用_连接。
  • 字段类型分为:标量数据类型 和 特殊类型(包括枚举、其他消息类型等)。
  • 字段唯一编号:用来标识字段,一旦开始使用就不能够再改变。

该表格展示了定义于消息体中的标量数据类型,以及编译 .proto 文件之后自动生成的类中与之对应的
字段类型。在这里展示了与 C++ 语言对应的类型。

.proto TypeNotesC++ Type
doubledouble
floatfloat
int32使用变长编码[1]。负数的编码效率较低——若字段可能为负值,应使用sint32代替。int32
int64使用变长编码[1]。负数的编码效率较低——若字段可能为负值,应使用sint64代替。int64
uint32使用变长编码[1]。uint32
uint64使用变长编码[1]。uint64
sint32使用变长编码[1]。符号整型。负值的编码效率高于常规的int32类型。int32
sint64使用变长编码[1]。符号整型。负值的编码效率高于常规的int64类型。int64
fixed32定长4字节。若值常大于2^28则会比uint32更高效。uint32
fixed64定长8字节。若值常大于2^56则会比uint64更高效。uint64
sfixed32定长4字节。int32
sfixed64定长8字节。int64
boolbool
string包含UTF-8和ASCII编码的字符串,长度不能超过2^32。string
bytes可包含任意的字节序列但长度不能超过2^32。string

[1] 变长编码是指:经过protobuf 编码后,原本4字节或8字节的数可能会被变为其他字节数

更新 contacts.proto (通讯录 1.0),新增姓名、年龄字段:

syntax = "proto3";
package contacts;//定义联系人消息
message PeopleInfo
{string name = 1;int32 age = 2;
}

在这里插入图片描述

在这里还要特别说明一下字段唯一编号的范围:
1 - 536,870,911(2^29-1),其中19000~19999不可⽤。
19000 - 19999 不可用是因为:在 Protobuf 协议的实现中,对这些数进行了预留。如果非要在.proto文件中使用这些预留标识号,例如将 name 字段的编号设置为19000,编译时就会报警:

// 消息中定义了如下编号,代码会告警: // Field numbers 19,000 through 19,999 are reserved for the protobuf implementation
string name = 19000;

值得一提的是,范围为1 - 15 的字段编号需要一个字节进行编码, 16~2047 内的数字需要两个字节进行编码。
编码后的字节不仅只包含了编号,还包含了字段类型。所以1~15 要用来标记出现非常频繁的字段,要为将来有可能添加的、频繁出现的字段预留一些出来。

2. 编译 contacts.proto 文件,生成C++文件

编译命令

编译命令行格式为:

protoc [–proto_path=IMPORT_PATH] --cpp_out=DST_DIR path/to/file.proto
protoc 是 Protocol Buffer 提供的命令行编译⼯具。
–proto_path 指定 被编译的.proto⽂件所在目录,可多次指定。可简写成 -I
IMPORT_PATH 。如不指定该参数,则在当前目录进行搜索。当某个.proto 文件 import 其他
.proto 文件时,或需要编译的 .proto 文件不在当前目录下,这时就要用-I来指定搜索目录。
–cpp_out= 指编译后的⽂件为 C++ ⽂件。
OUT_DIR 编译后生成文件的目标路径。
path/to/file.proto 要编译的.proto文件。

编译 contacts.proto 文件命令如下:

protoc --cpp_out=. contacts.proto

编译contacts.proto文件后会生成什么
编译 contacts.proto 文件后,会生成所选择语言的代码,我们选择的是C++,所以编译后生成了两个文件:
contacts.pb.h
contacts.pb.cc

对于编译生成的 C++代码,包含了以下内容

  • 对于每个 message,都会生成一个对应的消息类。
  • 在消息类中,编译器为每个字段提供了获取和设置方法,以及一下其他能够操作字段的方法。
  • 编辑器会针对于每个.proto文件生成.h和.cc 文件,分别用来存放类的声明与类的实现。

contacts.pb.h 部分代码展示

class PeopleInfo final : public ::PROTOBUF_NAMESPACE_ID::Message {public:using ::PROTOBUF_NAMESPACE_ID::Message::CopyFrom;void CopyFrom(const PeopleInfo& from);using ::PROTOBUF_NAMESPACE_ID::Message::MergeFrom;void MergeFrom( const PeopleInfo& from) {PeopleInfo::MergeImpl(*this, from);}static ::PROTOBUF_NAMESPACE_ID::StringPiece FullMessageName() {return "PeopleInfo";}// string name = 1;void clear_name();const std::string& name() const;template <typename ArgT0 = const std::string&, typename... ArgT>void set_name(ArgT0&& arg0, ArgT... args);std::string* mutable_name();PROTOBUF_NODISCARD std::string* release_name();void set_allocated_name(std::string* name);// int32 age = 2;void clear_age();int32_t age() const;void set_age(int32_t value);
};

在这里插入图片描述

上述的例子中:

  • 每个字段都有设置和获取的方法,getter的名称与小写字段完全相同,setter 方法以set_开头。
  • 每个字段都有一个 clear_方法,可以将字段重新设置回 empty 状态。

contacts.pb.cc中的代码就是对类声明方法的一些实现,在这里就不展开了。

到这里有同学可能就有疑惑了,那之前提到的序列化和反序列化方法在哪里呢?在消息类的父类MessageLite 中,提供了读写消息实例的方法,包括序列化方法和反序列化方法。

class MessageLite {
public://序列化: bool SerializeToOstream(ostream* output) const; // 将序列化后数据写⼊⽂件流 bool SerializeToArray(void *data, int size) const;bool SerializeToString(string* output) const;//反序列化: bool ParseFromIstream(istream* input); // 从流中读取数据,再进⾏反序列化动作 bool ParseFromArray(const void* data, int size);bool ParseFromString(const string& data);
};

注意:
序列化的结果为二进制字节序列,而非文本格式。

  • 以上三种序列化的方法没有本质上的区别,只是序列化后输出的格式不同,可以供不同的应用场景使用。
  • 序列化的 API函数均为const成员函数,因为序列化不会改变类对象的内容,而是将序列化的结果保存到函数入参指定的地址中。
  • 详细 message API 可以参见 完整列表。

3. 序列化与反序列化的使用

创建⼀个测试文件 main.cc,方法中我们实现:
• 对一个联系⼈的信息使用 PB 进行序列化,并将结果打印出来。
• 对序列化后的内容使用 PB 进行反序列,解析出联系⼈信息并打印出来。

main.cc

#include<iostream>
#include "contacts.pb.h" // 引⼊编译⽣成的头⽂件
using namespace std;int main()
{// .proto⽂件声明的package,通过protoc编译后,会为编译⽣成的C++代码声明同名的命名空间 // 其范围是在.proto ⽂件中定义的内容 string people_str;{contacts::PeopleInfo people;people.set_age(20);people.set_name("张三");// 调⽤序列化⽅法,将序列化后的⼆进制序列存⼊string中if(!people.SerializeToString(&people_str)){cerr<<"序列化联系人失败"<<endl;}// 打印序列化后的结果cout<<"序列化成功,序列化后的people_str:"<<people_str<<endl;}{// 调⽤反序列化⽅法,读取string中存放的⼆进制序列,并反序列化出对象contacts::PeopleInfo people;if(!people.ParseFromString(people_str)){cerr<<"反序列化联系人失败"<<endl;}// 打印结果cout<<"姓名:"<<people.name()<<endl;cout<<"年龄:"<<people.age()<<endl;}return 0;
}

代码书写完成后,编译 main.cc,生成可执行程序 TestProtoBuf :

g++ main.cc contacts.pb.cc -o TestProtoBuf -std=c++11 -lprotobuf

• -lprotobuf:必加,不然会有链接错误。
• -std=c++11:必加,使用C++11语法。

执行 TestProtoBuf ,可以看见people 经过序列化和反序列化后的结果:

在这里插入图片描述
由于 ProtoBuf 是把联系人对象序列化成了二进制序列,这里用 string 来作为接收二进制序列的容器。
所以在终端打印的时候会有换行等一些乱码显示。
所以相对于 xml 和 JSON 来说,因为被编码成二进制,破解成本增大,ProtoBuf 编码是相对安全的。

4. 小结 ProtoBuf 使用流程

在这里插入图片描述

  1. 编写 .proto 文件,目的是为了定义结构对象(message)及属性内容。
  2. 使用 protoc编译器编译 .proto 文件,生成一系列接口代码,存放在新生成头文件和源文件中。
  3. 依赖生成的接口,将编译生成的头文件包含进我们的代码中,实现对.proto 文件中定义的字段进行设置和获取,和对 message 对象进行序列化和反序列化。

总的来说:ProtoBuf是需要依赖通过编译生成的头文件和源文件来使用的。有了这种代码生成机制,开发人员再也不用吭哧吭哧地编写那些协议解析的代码了(干这种活是典型的吃力不讨好)。

这篇关于ProtoBuf简要介绍与快速上手使用(C++版)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1104180

相关文章

性能测试介绍

性能测试是一种测试方法,旨在评估系统、应用程序或组件在现实场景中的性能表现和可靠性。它通常用于衡量系统在不同负载条件下的响应时间、吞吐量、资源利用率、稳定性和可扩展性等关键指标。 为什么要进行性能测试 通过性能测试,可以确定系统是否能够满足预期的性能要求,找出性能瓶颈和潜在的问题,并进行优化和调整。 发现性能瓶颈:性能测试可以帮助发现系统的性能瓶颈,即系统在高负载或高并发情况下可能出现的问题

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

水位雨量在线监测系统概述及应用介绍

在当今社会,随着科技的飞速发展,各种智能监测系统已成为保障公共安全、促进资源管理和环境保护的重要工具。其中,水位雨量在线监测系统作为自然灾害预警、水资源管理及水利工程运行的关键技术,其重要性不言而喻。 一、水位雨量在线监测系统的基本原理 水位雨量在线监测系统主要由数据采集单元、数据传输网络、数据处理中心及用户终端四大部分构成,形成了一个完整的闭环系统。 数据采集单元:这是系统的“眼睛”,

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

【C++ Primer Plus习题】13.4

大家好,这里是国中之林! ❥前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。有兴趣的可以点点进去看看← 问题: 解答: main.cpp #include <iostream>#include "port.h"int main() {Port p1;Port p2("Abc", "Bcc", 30);std::cout <<

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

C++包装器

包装器 在 C++ 中,“包装器”通常指的是一种设计模式或编程技巧,用于封装其他代码或对象,使其更易于使用、管理或扩展。包装器的概念在编程中非常普遍,可以用于函数、类、库等多个方面。下面是几个常见的 “包装器” 类型: 1. 函数包装器 函数包装器用于封装一个或多个函数,使其接口更统一或更便于调用。例如,std::function 是一个通用的函数包装器,它可以存储任意可调用对象(函数、函数

电脑桌面文件删除了怎么找回来?别急,快速恢复攻略在此

在日常使用电脑的过程中,我们经常会遇到这样的情况:一不小心,桌面上的某个重要文件被删除了。这时,大多数人可能会感到惊慌失措,不知所措。 其实,不必过于担心,因为有很多方法可以帮助我们找回被删除的桌面文件。下面,就让我们一起来了解一下这些恢复桌面文件的方法吧。 一、使用撤销操作 如果我们刚刚删除了桌面上的文件,并且还没有进行其他操作,那么可以尝试使用撤销操作来恢复文件。在键盘上同时按下“C