复现百度云智实验出的bug：使用paddle的fluid出现please use fluid.metrics.EditDistance instead.报错问题

2024-06-21 00:38
文章标签 use 问题 使用 百度 实验 报错 bug 复现 paddle please instead metrics 云智 fluid editdistance

本文主要是介绍复现百度云智实验出的bug：使用paddle的fluid出现please use fluid.metrics.EditDistance instead.报错问题，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

最近看了百度云智学院的OCR的实验，简直不能更坑，以后还是好好在github上或者CSDN上搜搜案例来实践，商业公司的即使是BAT的也糟糕透了，英文不好不然就去微软的学学。

百度的车牌识别：
http://abcxueyuan.cloud.baidu.com/newlab/#/lab_detail/lab_exp_book?id=121
学习流程：在这里插入图片描述

实验目录：
用paddlepaddle框架搭建CRNN-CTC算法
用CRNN-CTC算法来实现文字识别，并进行训练和预测

1、OCR介绍
OCR （Optical Character Recognition，光学字符识别），将图像中的文字进行识别，并以文本的形式返回。
OCR一般分为两个大步骤：图像预处理+文字识别。
OCR的文字识别流程：
在这里插入图片描述
OCR运用的深度学习算法：
（1）CNN卷积神经网络：
在这里插入图片描述
（2）RNN循环神经网络
在这里插入图片描述
本次实验的目的
1、使用paddle框架搭建CRNN-CTC算法
2、使用CRNN-CTC算法来实现文字识别，并进行训练和预测

2、OCR算法介绍
OCR技术路线
a.用CNN对固定长度的文字进行识别效果较好，比如验证码，CNN适用于单字符识别，不适合全文识别
b.对于序列问题RNN是强项，场景文字，手写字符和乐谱

对于序列问题的处理，出现了两类算法
第一类：CNN+RNN+CTC
在这里插入图片描述
第二类：CNN+RNN+Attention
在这里插入图片描述
区别：
输出层，方法一在对其的时候采用CTC算法，方法二采用attention机制

3.CRNN-CTC算法介绍
第一类算法：CRNN-CTC 原理介绍
在这里插入图片描述

从下到上：
卷积层，使用CNN，作用是从输入图像中提取特征序列
循环层，使用RNN或lstm，作用是预测从卷积层获取的特征序列的标签（真实值）分布
转录层，使用CTC，作用是从循环层获取的标签分布通过去重整合等操场转换成最终的识别结果
在这里插入图片描述
假设输入图像大小为 (32, 100,3)，注意：提及图像都是 H,W,C 形式。
这里的卷积层就是一个普通的CNN网络，用于提取输入图像的Convolutional feature maps，即将大小为 (32, 100,3) 的图像转换为 (1,25,512) 大小的卷积特征矩阵。
为了将特征输入到LSTM层，整体网络结构上做了做如下处理：
1、首先会将图像缩放到 32× W×3 大小
2、然后经过CNN后变为 1× (W/4)×512
3、接着针对LSTM，设置 T=(W/4) ， D=512 ，即可将特征输入LSTM。
注意：在处理输入图像的时候，尽量保证长宽比，将高缩放为32，相对保证不破坏文本细节，否则性能下降。
整体网络配置表如下：
在这里插入图片描述
k：核大小
s：步长
p：填充大小
第1行input顶层，k，s，p分别表示核大小，步长和填充大小。
卷积层的架构是基于VGG-VeryDeep的架构。为了使其适用于识别英文文本，对其进行了调整。
在第3和第4个最大池化层中，我们采用1×2大小的矩形池化窗口而不是传统的平方形。
这种调整产生宽度较大的特征图，因此具有更长的特征序列。
例如，包含10个字符的图像通常为大小为100×32，可以从其生成25帧的特征序列。这个长度超过了大多数英文单词的长度。最重要的是，矩形池窗口产生矩形感受野，这有助于识别一些具有窄形状的字符，例如i和l。
CRNN-CTC网络不仅有深度卷积层，而且还有循环层。我们知道这两者都是难以训练的。但是，我们发现“批归一化技术”对于训练这种深度网络非常有用。
于是作者分别在第5和第6卷积层之后插入两个批归一化层。使用批归一化层可以使训练过程大大加快。

【卷积层】CNN部分
在CRNN模型中，采用标准CNN模型（去除了全连接层），来从输入图像中提取序列特征。在进入网络之前，所有的图像需要缩放到相同的高度。然后从卷积后产生的特征图中提取特征向量序列，这些特征向量序列作为循环层的输入。具体来说，特征序列的每一个特征向量在特征图上按列从左到右生成。这意味着第i个特征向量是所有特征图第i列的连接。在我们的设置中每列的宽度固定为单个像素。
在这里插入图片描述
由于卷积层，最大池化层和激活函数是在局部区域上执行的，因此它们是平移不变的。因此，特征图的每列对应于原始图像的一个矩形区域（称为感受野），并且这些矩形区域与特征图上从左到右的相应列具有相同的顺序。如上图所示，特征序列中的每个向量关联一个感受野，并且可以被认为是该区域的图像描述符。

【循环层】RNN部分
在这里插入图片描述
卷积层的顶部是一个深度双向循环神经网络，作为循环层。
循环层的优点有三个：
1、RNN具有很强的捕获序列内上下文信息的能力。对于基于图像的序列识别使用上下文提示比独立处理每个符号更稳定且更有帮助。以场景文本识别为例，宽字符可能需要一些连续的帧来完全描述。此外，一些模糊的字符在观察其上下文时更容易区分，例如，通过对比字符高度更容易识别“il”而不是分别识别它们中的每一个。
2、RNN可以将误差值反向传播到其输入，即上一步的卷积层，从而允许我们在统一的网络中共同训练循环层和卷积层。
3、RNN能够从头到尾对任意长度的序列进行操作。

【转录层】
转录层是将RNN所做的每帧预测转换成标签序列的过程。从数学上分析，转录是根据每帧预测找到具有最高概率的标签序列。在实践中，存在两种转录模式，即无词典转录和基于词典的转录。词典是一组标签序列，预测受拼写检查字典约束。在无词典模式中，预测时没有任何词典。在基于词典的模式中，通过选择具有最高概率的标签序列进行预测。
CTC-loss
在这里插入图片描述
CTC的工作原理
CTC是一种Loss计算方法，用CTC代替Softmax Loss，训练样本无需对齐。他通过引入blank字符，解决了有些位置没有字符的问题；同时，CTC通过递推，可以快速计算梯度。 用ctc loss时会出现这种情况，如果input的长度远远大于label的长度，那么训练的时候，一开始的收敛会比较慢。在其中有一段时间cost几乎不变。此刻一定要有耐心，最终一定会收敛的。在ocr识别的这个例子上最终可以收敛到95%的精度。
3.CRNN-CTC算法实现
训练过程：
3.1、 导入库
首先，载入几个需要用到的python库,以及paddlepaddle深度学习框架。此外，因为本次项目比较大，代码比较多，为了便于学习，我们定义了几个py文件，这些py文件主要用来读取数据，或者参数设定等：

#导入我们需要的库，以及编写好的py文件
#coding:utf-8
#加上这一句coding:utf-8，解码汉字
#导入我们需要的库，以及编写好的py文件
from __future__ import absolute_import
from __future__ import division
from __future__ import print_function
import numpy as np #一个python的基本库，用于科学计算
import time #python的time模块，time.time()返回当前时间的时间戳
import os #Python 的 os 模块封装了常见的文件和目录操作
from paddle.fluid.layers.learning_rate_scheduler import _decay_step_counter #引入可变学习率
from paddle.fluid.initializer import * #paddle中用于初始化的库
from easydict import EasyDict #我们后面传入参数时会用到这个库
from utility import * #utility文件里面定义了一些添加参数、打印参数的函数
import functools #functools模块用于高阶函数
import argparse #argparse是python用于解析命令行参数和选项的标准模块
import sys #sys模块包含了与Python解释器和它的环境有关的函数
import data_reader
import math
import six

CRNN-CTC网络的搭建：
下面就进入到了本次实验的核心部分了：CRNN-CTC网络的搭建。
3.2、第一部分：定义函数
首先定义几个调用的函数：
conv_bn_pool()卷积、池化操作
ocr_convs()设定的权重值和偏置项,并进行了初始化
encoder_net()函数主要作用是把conv层提取到的特征，转换成序列，再传入到双向RNN模块
ctc_train_net()ctc的训练网络，里面含有CTC-loss，还有优化器的配置。

conv_bn_pool()函数：
这个函数含有卷积核池化操作。
在这里插入图片描述
ocr_convs()函数：
这个函数有conv_bn_pool()函数构成，里面含有我们设定的权重值和偏置项。并进行了初始化
在这里插入图片描述
在这里插入图片描述
ctc_train_net()函数：
这个函数就是ctc的训练网络，里面含有CTC-loss，还有优化器的配置。
在这里插入图片描述

实现优化器的配置：
参数创建完成后，我们需要定义一个优化器optimizer，为了改善模型的训练速度以及效果，学术界先后提出了很多优化算法，包括： Momentum、RMSProp、Adam 等，已经被封装在fluid内部，读者可直接调用。本次我们使用含有速度状态的Simple Momentum 优化器。 API介绍如下：
在这里插入图片描述

optimizer = fluid.optimizer.Momentum(learning_rate=0.2,momentum=0.1)
optimizer = minimize(cost)

3.3、第二部分定义train函数
可以定义一个 train() 函数，把以上内容放在里面，等将来可以直接调用这个函数进行训练

3.4、第三部分设置参数
在jupyter上操作，所以对于参数的传递，就不能像在命令行里面执行：python --xxx --xxx 那样了。
可以直接以下图所示的形式，利用EasyDict的字典功能，把需要设定的参数在这
在这里插入图片描述
参数的含义解释：
在这里插入图片描述

args = EasyDict({
'batch_size'        : 32,        
'total_step'        : 2,    
'log_period'        : 1000,      
'save_model_period' : 1000,      
'eval_period'       : 1000,      
'save_model_dir'    : "./models",
'model'             : "crnn_ctc",
#'init_model'        : "./init_models/model_144000", 
'init_model'        : None,
'use_gpu'           : True,      
'skip_test'         : False,                 
})

把设置的参数再打印出来，检查一下是否真的把参数传入了我们的网络中：

print_arguments(args)
-----------  Configuration Arguments -----------
batch_size: 32
eval_period: 1000
init_model: None
log_period: 1000
model: crnn_ctc
save_model_dir: ./models
save_model_period: 1000
skip_test: False
total_step: 2
use_gpu: True
------------------------------------------------

3.5、启动训练
可以执行train(args)方法，来启动训练了，训练时的输出应该是这样：
在这里插入图片描述
最后bug出现了
坑开始了
在这里插入图片描述
问题：
Warning: The EditDistance is deprecated, because maintain a modified program inside evaluator cause bug easily, please use fluid.metrics.EditDistance instead.
于是我就按它说的换成了

#计算一下输出值和label值的距离，得到error_evaluator
error_evaluator = fluid.evaluator.EditDistance(
input=decoded_out, label=casted_label)

中的fluid.evaluator.EditDistance
fluid.metrics.EditDistance
于是去paddle官网研究了一下paddle的EditDistance
https://www.paddlepaddle.org.cn/documentation/docs/zh/api_cn/metrics_cn/EditDistance_cn.html

import paddle.fluid as fluid
import numpy as np# 假设batch_size为128
batch_size = 128# 初始化编辑距离管理器
distance_evaluator = fluid.metrics.EditDistance("EditDistance")
# 生成128个序列对间的编辑距离，此处的最大距离是10
edit_distances_batch0 = np.random.randint(low = 0, high = 10, size = (batch_size, 1))
seq_num_batch0 = batch_sizedistance_evaluator.update(edit_distances_batch0, seq_num_batch0)
avg_distance, wrong_instance_ratio = distance_evaluator.eval()
print("the average edit distance for batch0 is %.2f and the wrong instance ratio is %.2f " % (avg_distance, wrong_instance_ratio))edit_distances_batch1 = np.random.randint(low = 0, high = 10, size = (batch_size, 1))
seq_num_batch1 = batch_sizedistance_evaluator.update(edit_distances_batch1, seq_num_batch1)
avg_distance, wrong_instance_ratio = distance_evaluator.eval()
print("the average edit distance for batch0 and batch1 is %.2f and the wrong instance ratio is %.2f " % (avg_distance, wrong_instance_ratio))

EditDistance 用于管理字符串的编辑距离。
编辑距离是通过计算将一个字符串转换为另一个字符串所需的最小编辑操作数（添加、删除或替换）来量化两个字符串（例如单词）彼此不相似的程度一种方法。
参数：
distances – 一个形状为(batch_size, 1)的numpy.array，每个元素代表两个序列间的距离。
seq_num – 一个整型/浮点型值，代表序列对的数量。
返回两个浮点数：
avg_distance：使用更新函数更新的所有序列对的平均距离。
avg_instance_error：编辑距离不为零的序列对的比例。
实操三个步骤
第1步：清空存储结果 reset()
第2步：跟新存储结果 update(distances, seq_num)
第3步：返回 eval()
原代码中的输入是两个距离，输出错误估计
error_evaluator = fluid.evaluator.EditDistance(input=decoded_out, label=casted_label)
需要研究一下fluid中的evaluator和metrics的差异

https://www.bookstack.cn/read/PaddlePaddle-1.3-fluid/103.md

太晚了，暂时暂停debug。百度太坑
下回继续补充

这篇关于复现百度云智实验出的bug：使用paddle的fluid出现please use fluid.metrics.EditDistance instead.报错问题的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1079716。

相关文章

百度/小米/滴滴/京东，中台架构比较

百度/小米/滴滴/京东，中台架构比较

小米中台建设实践 01 小米的三大中台建设：业务+数据+技术 业务中台--从业务说起 在中台建设中，需要规范化的服务接口、一致整合化的数据、容器化的技术组件以及弹性的基础设施。并结合业务情况，判定是否真的需要中台。 小米参考了业界优秀的案例包括移动中台、数据中台、业务中台、技术中台等，再结合其业务发展历程及业务现状，整理了中台架构的核心方法论，一是企业如何共享服务，二是如何为业务提供便利。
阅读更多...
中文分词jieba库的使用与实景应用（一）

中文分词jieba库的使用与实景应用（一）

知识星球：https://articles.zsxq.com/id_fxvgc803qmr2.html 目录 一.定义： 精确模式（默认模式）： 全模式： 搜索引擎模式： paddle 模式（基于深度学习的分词模式）： 二 自定义词典 三.文本解析   调整词出现的频率 四. 关键词提取 A. 基于TF-IDF算法的关键词提取 B. 基于TextRank算法的关键词提取
阅读更多...
使用SecondaryNameNode恢复NameNode的数据

使用SecondaryNameNode恢复NameNode的数据

1）需求： NameNode进程挂了并且存储的数据也丢失了，如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2）故障模拟 （1）kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 （2）删除NameNode存储的数据（/opt/module/hadoop-3.1.4/data/tmp/dfs/na
阅读更多...
Hadoop数据压缩使用介绍

Hadoop数据压缩使用介绍

一、压缩原则 （1）运算密集型的Job，少用压缩 （2）IO密集型的Job，多用压缩 二、压缩算法比较 三、压缩位置选择 四、压缩参数配置 1）为了支持多种压缩/解压缩算法，Hadoop引入了编码/解码器 2）要在Hadoop中启用压缩，可以配置如下参数
阅读更多...
Makefile简明使用教程

Makefile简明使用教程

文章目录 规则makefile文件的基本语法：加在命令前的特殊符号：.PHONY伪目标: Makefilev1 直观写法v2 加上中间过程v3 伪目标v4 变量 make 选项-f-n-C Make 是一种流行的构建工具，常用于将源代码转换成可执行文件或者其他形式的输出文件(如库文件、文档等)。Make 可以自动化地执行编译、链接等一系列操作。 规则 makefile文件
阅读更多...
好题——hdu2522（小数问题：求1/n的第一个循环节）

好题——hdu2522（小数问题：求1/n的第一个循环节）

好喜欢这题，第一次做小数问题，一开始真心没思路，然后参考了网上的一些资料。 知识点***********************************无限不循环小数即无理数，不能写作两整数之比*****************************（一开始没想到，小学没学好） 此题1/n肯定是一个有限循环小数，了解这些后就能做此题了。 按照除法的机制，用一个函数表示出来就可以了，代码如下
阅读更多...
hdu1043（八数码问题，广搜 + hash（实现状态压缩） ）

hdu1043（八数码问题，广搜 + hash（实现状态压缩） ）

利用康拓展开将一个排列映射成一个自然数，然后就变成了普通的广搜题。 #include<iostream>#include<algorithm>#include<string>#include<stack>#include<queue>#include<map>#include<stdio.h>#include<stdlib.h>#include<ctype.h>#inclu
阅读更多...
使用opencv优化图片（画面变清晰）

使用opencv优化图片（画面变清晰）

文章目录 需求影响照片清晰度的因素 实现降噪测试代码 锐化空间锐化Unsharp Masking频率域锐化对比测试 对比度增强常用算法对比测试 需求 对图像进行优化，使其看起来更清晰，同时保持尺寸不变，通常涉及到图像处理技术如锐化、降噪、对比度增强等 影响照片清晰度的因素 影响照片清晰度的因素有很多，主要可以从以下几个方面来分析 1. 拍摄设备 相机传感器：相机传
阅读更多...
pdfmake生成pdf的使用

pdfmake生成pdf的使用

实际项目中有时会有根据填写的表单数据或者其他格式的数据，将数据自动填充到pdf文件中根据固定模板生成pdf文件的需求 文章目录 利用pdfmake生成pdf文件1.下载安装pdfmake第三方包2.封装生成pdf文件的共用配置3.生成pdf文件的文件模板内容4.调用方法生成pdf 利用pdfmake生成pdf文件 1.下载安装pdfmake第三方包 npm i pdfma
阅读更多...
零基础学习Redis(10) -- zset类型命令使用

零基础学习Redis(10) -- zset类型命令使用

zset是有序集合，内部除了存储元素外，还会存储一个score，存储在zset中的元素会按照score的大小升序排列，不同元素的score可以重复，score相同的元素会按照元素的字典序排列。 1. zset常用命令 1.1 zadd  zadd key [NX | XX] [GT | LT]   [CH] [INCR] score member [score member ...]
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2