TensorFlow decode_csv TextLineDataset 读取数据

2024-06-23 04:58

本文主要是介绍TensorFlow decode_csv TextLineDataset 读取数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

1  decode_csv读取数据

import tensorflow as tf
#创建文件队列
filenames ['./s0000025_1.csv','./s0000025_2.csv']
filename_queue = tf.train.string_input_producer(filenames,shuffle=True)
#shuffle=True 文件队列随机读取,默认TFReader = tf.TextLineReader(skip_header_lines=1) # 跳过首行
key,value = TFReader.read(filename_queue)  #读取内容record_default = [0.0, 0.0,0.0,0.0]
col1,col2,col3,col4= tf.decode_csv(value, record_defaults=record_default,field_delim=",")  #field_delim 分隔符默认是","features = tf.concat([[col1], [col2], [col3]], 0)with tf.Session() as sess:coord = tf.train.Coordinator()threads = tf.train.start_queue_runners(sess=sess,coord=coord)for i in range(10):example, lable = sess.run([features,col4])print(example, lable)coord.request_stop()coord.join(threads)

2 TextLineDataset 读取数据

def decode_line(line):# Decode the line to tensorrecord_defaults = [[0.0] for col in range(4)]items = tf.decode_csv(line, record_defaults)features = items[0:3]label = items[3]# features = tf.cast(features, tf.float32)# features = tf.reshape(features,[28,28,1])# label = tf.cast(label, tf.int64)return features,labeldef create_dataset(filename, batch_size=32, is_shuffle=False, n_repeats=0):dataset = tf.data.TextLineDataset(filename).skip(1)if n_repeats > 0:dataset = dataset.repeat(n_repeats)         # for traindataset = dataset.map(decode_line)if is_shuffle:dataset = dataset.shuffle(10000)            # shuffledataset = dataset.batch(batch_size)return datasetfilename = './s0000025_2.csv'training_dataset = create_dataset(filename, batch_size=5, is_shuffle=True)
iterator = tf.data.Iterator.from_structure(training_dataset.output_types,training_dataset.output_shapes)
features, labels = iterator.get_next()
training_init_op = iterator.make_initializer(training_dataset)
sess = tf.Session()
sess.run(training_init_op)
print("TRAIN\n",sess.run([features,labels]))

 

这篇关于TensorFlow decode_csv TextLineDataset 读取数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1086243

相关文章

php中json_decode()和json_encode()

1.json_decode() json_decode (PHP 5 >= 5.2.0, PECL json >= 1.2.0) json_decode — 对 JSON 格式的字符串进行编码 说明 mixed json_decode ( string $json [, bool $assoc ] ) 接受一个 JSON 格式的字符串并且把它转换为 PHP 变量 参数 json

anaconda3下的python编程练习-csv翻译器

相关理解和命令 一、环境配置1、conda命令2、pip命令3、python命令 二、开发思路三、开发步骤 一、环境配置 1、conda命令 镜像源配置 conda config --show channels //查看镜像源conda config --remove-key channels //删除添加源,恢复默认源#添加镜像源conda config --ad

一种快速生成CSV的方法

事情是这个样子的 在QQ群在聊把如何100万数据导出成CSV文件?会不会很慢? 俺回了一句“现在的机器性能好,没啥问题”。 然后大家开始谈论机器的配置了。哎,俺的机器配置有点差。 然后俺就进行了一个测试。 测试数据 数据定义         public struct Rec         {             public int v1;             publi

win10不用anaconda安装tensorflow-cpu并导入pycharm

记录一下防止忘了 一、前提:已经安装了python3.6.4,想用tensorflow的包 二、在pycharm中File-Settings-Project Interpreter点“+”号导入很慢,所以直接在cmd中使用 pip install -i https://mirrors.aliyun.com/pypi/simple tensorflow-cpu下载好,默认下载的tensorflow

稀疏自编码器tensorflow

自编码器是一种无监督机器学习算法,通过计算自编码的输出与原输入的误差,不断调节自编码器的参数,最终训练出模型。自编码器可以用于压缩输入信息,提取有用的输入特征。如,[1,0,0,0],[0,1,0,0],[0,0,1,0],[0,0,0,1]四比特信息可以压缩成两位,[0,0],[1,0],[1,1],[0,1]。此时,自编码器的中间层的神经元个数为2。但是,有时中间隐藏层的神经元

Tensorflow实现与门感知机

感知机是最简单的神经网络,通过输入,进行加权处理,经过刺激函数,得到输出。通过输出计算误差,调整权重,最终,得到合适的加权函数。 今天,我通过tensorflow实现简单的感知机。 首先,初始化变量:     num_nodes = 2     output_units = 1     w = tf.Variable(tf.truncated_normal([num_nodes,output

Tensorflow lstm实现的小说撰写预测

最近,在研究深度学习方面的知识,结合Tensorflow,完成了基于lstm的小说预测程序demo。 lstm是改进的RNN,具有长期记忆功能,相对于RNN,增加了多个门来控制输入与输出。原理方面的知识网上很多,在此,我只是将我短暂学习的tensorflow写一个预测小说的demo,如果有错误,还望大家指出。 1、将小说进行分词,去除空格,建立词汇表与id的字典,生成初始输入模型的x与y d

Deepin Linux安装TensorFlow

Deepin Linux安装TensorFlow 1.首先检查是否有Python,一般deepin系统都自带python的。   2.安装pip Sudo appt-get install pip来安装pip,如果失败就先更新一下sudo apt-get updata,然后再sudo apt-get install pip,如果定位失败,就sudo apt-get install pyth

终止distributed tensorflow的ps进程

1.直接终止: $ ps -ef | grep python | grep 文件名 | awk {'print $2'} | xargs kill文件名为当前运行的程序,名称如:distribute.py 2.查找pid,后kill: $ ps -ef | grep python | grep 文件名 | awk {'print $2'}$ kill -9 <pid>

python xlsx 转csv

# coding = utf-8import osimport pandas as pdimport csvfrom openpyxl import load_workbookdef get_filename(path_filename):"""获取文件所在文件夹路径、带拓展文件名、文件名、拓展名:param path_filename: 带拓展完整路径:return: 文件所在文件夹路径