在golang语言中简单使用protobuf时遭遇go_package困难重重

2024-02-19 19:52

本文主要是介绍在golang语言中简单使用protobuf时遭遇go_package困难重重,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

  • 前言
  • 编写示例
    • 示例初始化
    • 编写协议文件内容
    • 导出协议文件
      • protoc 和 protoc-gen-go
      • 执行导出命令
    • 编写协议使用文件
  • 体会
  • 总结

前言

Protobuf,全称Protocol Buffers,是一种由Google开发的用于序列化结构化数据的开源数据交换格式,Golang作为一种后端语言,免不了使用protobuf这种数据交换格式,本来打算写个小例子展示一下怎样在go语言中使用protobuf,结果遇到的问题到不少,特别是这个go_package的要求,也是之前在项目开发过程中遇到的,这次就查找一下具体原因以及怎么使用吧。

编写示例

为了能对这个示例有一个整体的轮廓,我先把编写好的目录结构展示一下,后面再逐步实现

$ tree lib_protobuf 
lib_protobuf
├── go.mod
├── go.sum
├── lib_protobuf.go
├── msgproto
│   └── examplemsg.pb.go
└── srcproto└── examplemsg.proto

简单解释下,examplemsg.proto proto源文件,examplemsg.pb.go 是proto导出文件,lib_protobuf.go 是proto协议使用和测试文件

示例初始化

执行下面的命令,创建示例基础目录文件结构

$ mkdir lib_protobuf
$ cd lib_protobuf
$ mkdir srcproto
$ touch srcproto/examplremsg.proto
$ touch lib_protobuf.go
$ go mod init lib_protobuf
go: creating new go.mod: module lib_protobuf
go: to add module requirements and sums:go mod tidy$ go mod tidy
$ ls
go.mod  lib_protobuf.go  srcproto

编写协议文件内容

先编写proto文件,文件内容如下:

syntax = "proto3";message Person {string name = 1;int32 age = 2;repeated string hobbies = 3;
}

这个协议文件只定义了一个名为 Person 的结构,其中包括 nameagehobbies 三个字段

导出协议文件

这是本文的重点,至于怎么用proto文件定义结构,各个语言都是相通的,但是在导出时遇到 go_package 文件却是 golang 语言特有的,所以本文重点在这部分多花些篇幅,解释一下遇到的各种问题

protoc 和 protoc-gen-go

导出时需要是使用工具 protoc,而平时你可能听说过或者在.pb.go文件中看到过 protoc-gen-go 这个工具的名字,其实 protoc-gen-go 是一个用于生成 Go 代码的插件,它是 Protocol Buffers 编译器 protoc 的一部分。当您使用 protoc 编译 .proto 文件时,可以通过指定 --go_out 标志来指定要使用的 protoc-gen-go 插件,从而生成对应的 Go 代码文件。这个插件会根据 .proto 文件中定义的消息和服务等内容,生成与之对应的 Go 结构体、接口和方法等代码。因此,protoc-gen-goprotoc 是紧密相关的,它们共同用于将 Protocol Buffers 文件编译为 Go 语言中的数据结构和服务定义。

执行导出命令

使用protoc将proto文件导出golang可用的文件最重要的两个参数如下:

–proto_path= P R O T O F O L D E R − − g o o u t = {PROTO_FOLDER} --go_out= PROTOFOLDERgoout={DEST_FOLDER}

--proto_path:proto源文件所在文件夹
--go_out:proto文件导出的目标文件夹

执行命令如下:

$ cd lib_protobuf
$ protoc --proto_path=srcproto --go_out=. examplemsg.proto
protoc-gen-go: unable to determine Go import path for "examplemsg.proto"Please specify either:• a "go_package" option in the .proto source file, or• a "M" argument on the command line.See https://developers.google.com/protocol-buffers/docs/reference/go-generated#package for more information.--go_out: protoc-gen-go: Plugin failed with status code 1.

不出意外的果然出意外了,告诉我不能确定 examplemsg.proto 文件的导入路径,换句话说就是现在这样不能导出一个可以被正常导入的包,有两种解决办法,第一种就是在.proto文件中添加 go_package 选项,第二种是在执行导出的命令行中添加M参数,详细的解释参考链接 https://developers.google.com/protocol-buffers/docs/reference/go-generated#package

官方推荐是用第一种方式,也就是直接在.proto文件中添加 go_package 选项,假如我们这样写:

option go_package = "msgproto";

然后直接导出会遇到新的错误,提示"msgproto"并不是文件"examplemsg.proto"的一个有效的导入路径

$ protoc --proto_path=srcproto --go_out=. examplemsg.proto
protoc-gen-go: invalid Go import path "msgproto" for "examplemsg.proto"The import path must contain at least one period ('.') or forward slash ('/') character.See https://developers.google.com/protocol-buffers/docs/reference/go-generated#package for more information.--go_out: protoc-gen-go: Plugin failed with status code 1.

要求必须至少包含一个 . 或者 /,那么把选项改成下面这样就可以了

option go_package = "./msgproto";

有时为了在当前目录下生成,又要指定包名,可以写成这样:

option go_package = "./;msgproto";

使用分号将包路径和包名分开,但这种方法官方并不推荐,因为按照golang的包管理习惯,文件夹下的所有文件包名应该与文件名相同,通过包的路径能够推测是包名才对,否则写成 option go_package = "./msgprotoA;msgprotoB"; 就很奇怪了

关于go_package至少包含一个 . 或者 /的要求,据说v1.4.0以上的版本就要求必须加/了,最近查了一些资料,解释如下:

在 Protocol Buffers(Protobuf)中,go_package 选项用于指定生成的 Go 代码的包名和导入路径。要求导入路径(import path)必须包含至少一个点(.)或正斜杠(/)的原因与 Go 语言的模块系统和包导入机制有关

这个要求是因为在导出时,protoc 需要能够将生成的代码文件放置在文件系统的适当位置,并且需要能够以合适的包路径来导入这些生成的代码。在大多数情况下,包路径应该具有与文件系统路径相对应的结构,因此至少需要包含一个句点(.)或正斜杠(/)字符来指示层次结构。

如果导入路径不包含这些字符,那么生成的代码文件将无法以合适的方式组织和导入,可能会导致编译器无法正确识别代码的位置和包结构。因此,为了确保生成的代码能够被正确导入和使用,protoc 对导入路径设置了这个最低要求。

但是我觉得这个解释不能让人信服,我把go_package的值写成 .msgprotomsgproto. 或者 ..msgproto 都是能正常导出的,并没有看到这种限制的好处,其中深层次的原因还得在今后的使用过程中慢慢体会了

编写协议使用文件

在文件 lib_protobuf.go 中编写如下内容,执行 go mod tidygo run . 查看输出结果

package mainimport ("fmt""log"msg "lib_protobuf/msgproto""google.golang.org/protobuf/proto"
)func main() {p := &msg.Person{Name:    "Alice",Age:     30,Hobbies: []string{"reading", "running"},}// 序列化data, err := proto.Marshal(p)if err != nil {log.Fatalf("Failed to encode person: %v", err)}// 反序列化newP := &msg.Person{}err = proto.Unmarshal(data, newP)if err != nil {log.Fatalf("Failed to decode person: %v", err)}fmt.Println("Original Person:", p)fmt.Println("Decoded Person:", newP)
}
$ go run .
Original Person: name:"Alice"  age:30  hobbies:"reading"  hobbies:"running"
Decoded Person: name:"Alice"  age:30  hobbies:"reading"  hobbies:"running"

体会

有关 go_package 值官方给出的示例是这种 example.com/project/protos/fizz,这就跟go.mod文件中的module定义一样,比如 module github.com/tealeg/xlsxmodule github.com/peterbourgon/diskv/v3,提供的是一种导出之后的引用写法

但是 go_packagemodule 还确实有一些不同,因为它在导出时真的会根据 go_package 生成相应的路径,所以针对这些去情况我觉得一种比较好的写法是从项目根目录开始写,导出的目录也是根目录,这样在引用时直接写 go_package 就可以了,但是具体情况还需灵活应对

option go_package = "lib_protobuf/msgproto";
$ lib_protobuf
$ protoc --proto_path=srcproto --go_out=.. examplemsg.proto
import ("fmt""log"msg "lib_protobuf/msgproto""google.golang.org/protobuf/proto"
)

总结

  • Protobuf是一种由Google开发的用于序列化结构化数据的开源数据交换格式
  • 使用protoc 工具可以将 .proto 文件导出成golang可用的数据交换文件
  • protoc-gen-go 是一个用于生成 Go 代码的插件,它是 Protocol Buffers 编译器 protoc 的一部分
  • .proto文件中的go_package选项的值至少需要包含一个 . 或者 /
  • go_package 的值官方给出的示例是这种类似module名的写法 example.com/project/protos/fizz

==>> 反爬链接,请勿点击,原地爆炸,概不负责!<<==

仰天大笑出门去,我辈岂是蓬蒿人。不好意思,我们绝大多数都是蓬蒿人,都是陪跑的NPC,只是在穷尽一生的努力想做一颗稍微不那么矮的蓬蒿而已~

这篇关于在golang语言中简单使用protobuf时遭遇go_package困难重重的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/725781

相关文章

中文分词jieba库的使用与实景应用(一)

知识星球:https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义: 精确模式(默认模式): 全模式: 搜索引擎模式: paddle 模式(基于深度学习的分词模式): 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

Hadoop数据压缩使用介绍

一、压缩原则 (1)运算密集型的Job,少用压缩 (2)IO密集型的Job,多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1)为了支持多种压缩/解压缩算法,Hadoop引入了编码/解码器 2)要在Hadoop中启用压缩,可以配置如下参数

Makefile简明使用教程

文章目录 规则makefile文件的基本语法:加在命令前的特殊符号:.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具,常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件

使用opencv优化图片(画面变清晰)

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化,使其看起来更清晰,同时保持尺寸不变,通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多,主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器:相机传

csu 1446 Problem J Modified LCS (扩展欧几里得算法的简单应用)

这是一道扩展欧几里得算法的简单应用题,这题是在湖南多校训练赛中队友ac的一道题,在比赛之后请教了队友,然后自己把它a掉 这也是自己独自做扩展欧几里得算法的题目 题意:把题意转变下就变成了:求d1*x - d2*y = f2 - f1的解,很明显用exgcd来解 下面介绍一下exgcd的一些知识点:求ax + by = c的解 一、首先求ax + by = gcd(a,b)的解 这个

hdu2289(简单二分)

虽说是简单二分,但是我还是wa死了  题意:已知圆台的体积,求高度 首先要知道圆台体积怎么求:设上下底的半径分别为r1,r2,高为h,V = PI*(r1*r1+r1*r2+r2*r2)*h/3 然后以h进行二分 代码如下: #include<iostream>#include<algorithm>#include<cstring>#include<stack>#includ

usaco 1.3 Prime Cryptarithm(简单哈希表暴搜剪枝)

思路: 1. 用一个 hash[ ] 数组存放输入的数字,令 hash[ tmp ]=1 。 2. 一个自定义函数 check( ) ,检查各位是否为输入的数字。 3. 暴搜。第一行数从 100到999,第二行数从 10到99。 4. 剪枝。 代码: /*ID: who jayLANG: C++TASK: crypt1*/#include<stdio.h>bool h

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据,将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合,内部除了存储元素外,还会存储一个score,存储在zset中的元素会按照score的大小升序排列,不同元素的score可以重复,score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]