②本地图片转TFRecord及opencv安装

2024-08-30 14:18

本文主要是介绍②本地图片转TFRecord及opencv安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

之前我们对图片数据的读取是通过tensorflow的mnist类直接下载和加载mnist数据集。但是更多的时候,我们想通过本地的图片进行训练。

import input_data
mnist = input_data.read_data_sets('MNIST_data', one_hot=True)

但是如果每次对图片的读取都从磁盘上进行的话,将严重影响程序的效率。
因此想先将本地图片转化成通用、高效的数据读取方法,也就是tensorflow官方推荐的标准格式:tfrecord。
tfrecord数据文件是一种将图像数据和标签统一存储的二进制文件,能更好的利用内存,在tensorflow中快速的复制,移动,读取,存储等。
def _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dirPath = "F:/byxStudy/img/mnist0-9/"
sess = tf.InteractiveSession()
init = tf.global_variables_initializer()
sess.run(init)
#保存tfrecords
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
fileSubDirList = os.listdir(dirPath)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for fileSubDir in fileSubDirList:fileSubDirSubDir = os.listdir(dirPath + fileSubDir + "/")for filePath in fileSubDirSubDir:image_value = tf.read_file(dirPath + fileSubDir + "/" + filePath)img = tf.image.decode_jpeg(image_value, 1)img = tf.image.resize_images(img, (28, 28), method=0)pic2 = img.eval(session=sess)image_raw = pic2.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(pic2.shape[0]),'width': _int64_feature(pic2.shape[1]),'depth': _int64_feature(pic2.shape[2]),'label': _int64_feature(int(fileSubDir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

但是实际跑起来后发现程序运行的很慢。
通过调查得知,tensorflow运行的时候不要创建任何新的计算节点。
这样每一次迭代都会在graph里增加新的节点,导致memory leak,程序越来越慢,最后强行退出。

因此我想通过opencv对图像进行简单的预处理。opencv的安装过程很艰辛,我尝试了各种网上的办法,最终才得以实现,以下是我的尝试:
①通过pycharm直接安装cv2及opencv-python
②通过opencv官网 https://www.opencv.org/releases.html 下载安装opencv
并将..\opencv\build\python\2.7\x64\cv2.pyd文件复制粘贴到python安装目录..Lib\site-packages下
③pip install opencv_python-3.4.0.12-cp36-none-win_amd64.whl
④安装VC++运行时环境,Visual C++ 2015 redistribution
⑤下载python-3.6.3-embed-amd64,并将python3.dll拷贝到python.exe目录下
⑥配置python环境变量
安装 opencv-contrib-python。
通过pip完成了安装!pip install opencv-contrib-python
import cv2
import os
import tensorflow as tfdef _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dir_path = "F:/byxStudy/img/mnist0-9/"
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
dir_list = os.listdir(dir_path)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for sub_dir in dir_list:sub_dir_list = os.listdir(dir_path + sub_dir + "/")for filePath in sub_dir_list:# 单通道的方式读取图片# 中文目录无法加载图片img = cv2.imread(dir_path + sub_dir + '/' + filePath, 0)img = cv2.resize(img, (28, 28), interpolation=cv2.INTER_CUBIC)image_raw = img.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(img.shape[0]),'width': _int64_feature(img.shape[1]),'depth': _int64_feature(1),'label': _int64_feature(int(sub_dir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

这篇关于②本地图片转TFRecord及opencv安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121061

相关文章

Python使用国内镜像加速pip安装的方法讲解

《Python使用国内镜像加速pip安装的方法讲解》在Python开发中,pip是一个非常重要的工具,用于安装和管理Python的第三方库,然而,在国内使用pip安装依赖时,往往会因为网络问题而导致速... 目录一、pip 工具简介1. 什么是 pip?2. 什么是 -i 参数?二、国内镜像源的选择三、如何

0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型的操作流程

《0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeekR1模型的操作流程》DeepSeekR1模型凭借其强大的自然语言处理能力,在未来具有广阔的应用前景,有望在多个领域发... 目录0基础租个硬件玩deepseek,蓝耘元生代智算云|本地部署DeepSeek R1模型,3步搞定一个应

Python安装时常见报错以及解决方案

《Python安装时常见报错以及解决方案》:本文主要介绍在安装Python、配置环境变量、使用pip以及运行Python脚本时常见的错误及其解决方案,文中介绍的非常详细,需要的朋友可以参考下... 目录一、安装 python 时常见报错及解决方案(一)安装包下载失败(二)权限不足二、配置环境变量时常见报错及

Python利用PIL进行图片压缩

《Python利用PIL进行图片压缩》有时在发送一些文件如PPT、Word时,由于文件中的图片太大,导致文件也太大,无法发送,所以本文为大家介绍了Python中图片压缩的方法,需要的可以参考下... 有时在发送一些文件如PPT、Word时,由于文件中的图片太大,导致文件也太大,无法发送,所有可以对文件中的图

MySQL8.2.0安装教程分享

《MySQL8.2.0安装教程分享》这篇文章详细介绍了如何在Windows系统上安装MySQL数据库软件,包括下载、安装、配置和设置环境变量的步骤... 目录mysql的安装图文1.python访问网址2javascript.点击3.进入Downloads向下滑动4.选择Community Server5.

java获取图片的大小、宽度、高度方式

《java获取图片的大小、宽度、高度方式》文章介绍了如何将File对象转换为MultipartFile对象的过程,并分享了个人经验,希望能为读者提供参考... 目China编程录Java获取图片的大小、宽度、高度File对象(该对象里面是图片)MultipartFile对象(该对象里面是图片)总结java获取图片

一文教你使用Python实现本地分页

《一文教你使用Python实现本地分页》这篇文章主要为大家详细介绍了Python如何实现本地分页的算法,主要针对二级数据结构,文中的示例代码简洁易懂,有需要的小伙伴可以了解下... 在项目开发的过程中,遇到分页的第一页就展示大量的数据,导致前端列表加载展示的速度慢,所以需要在本地加入分页处理,把所有数据先放

CentOS系统Maven安装教程分享

《CentOS系统Maven安装教程分享》本文介绍了如何在CentOS系统中安装Maven,并提供了一个简单的实际应用案例,安装Maven需要先安装Java和设置环境变量,Maven可以自动管理项目的... 目录准备工作下载并安装Maven常见问题及解决方法实际应用案例总结Maven是一个流行的项目管理工具

Java实战之自助进行多张图片合成拼接

《Java实战之自助进行多张图片合成拼接》在当今数字化时代,图像处理技术在各个领域都发挥着至关重要的作用,本文为大家详细介绍了如何使用Java实现多张图片合成拼接,需要的可以了解下... 目录前言一、图片合成需求描述二、图片合成设计与实现1、编程语言2、基础数据准备3、图片合成流程4、图片合成实现三、总结前

本地搭建DeepSeek-R1、WebUI的完整过程及访问

《本地搭建DeepSeek-R1、WebUI的完整过程及访问》:本文主要介绍本地搭建DeepSeek-R1、WebUI的完整过程及访问的相关资料,DeepSeek-R1是一个开源的人工智能平台,主... 目录背景       搭建准备基础概念搭建过程访问对话测试总结背景       最近几年,人工智能技术