python深度学习---路透社多分类

2024-02-15 11:08

本文主要是介绍python深度学习---路透社多分类,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import pylab
from pandas import DataFrame, Series#路透社数据集
#多分类问题
from keras.datasets import reuters(train_data, train_labels), (test_data, test_labels) = reuters.load_data( num_words=10000)#参数 num_words=10000 将数据限定为前 10 000 个最常出现的单词print(train_data.shape,test_data.shape)
#与 IMDB 评论一样,每个样本都是一个整数列表(表示单词索引)print(train_labels[10])#样本对应的标签是一个 0~45 范围内的整数,即话题索引编号# #准备数据,与之前imdb数据集一样采用one-hot编码
# #将标签向量化有两种方法:你可以将标签列表转换为整数张量,或者使用 one-hot 编码。one-hot 编码是分类数据广泛使用的一种格式,也叫分类编码(categorical encoding)
#样本序列向量化
def one_hot(sequeces,demension):results=np.zeros((len(sequeces),demension))for i,sequece in enumerate(sequeces):results[i,sequece]=1return resultsx_train=one_hot(train_data,10000)
x_test=one_hot(test_data,10000)# x_train_label=one_hot(train_labels,46)
# x_test_label=one_hot(test_labels,46)
#,Keras 内置方法可以实现这个操作
from keras.utils.np_utils import to_categoricalx_train_labels=to_categorical(train_labels)
x_test_labels=to_categorical(test_labels)#构建网络
#与二分类的约束条件的不同之处是:输出类别的数量从 2 个变为 46 个。输出空间的维度要大得多。#对于前面用过的 Dense 层的堆叠,每层只能访问上一层输出的信息。如果某一层丢失了与 分类问题相关的一些信息,那么这些信息无法被后面的层找回,也就是说,每一层都可能成为信息瓶颈。出于这个原因,下面将使用维度更大的层,包含 64 个单元#模型定义
from keras import models,layers
# model = models.Sequential()
# model.add(layers.Dense(64, activation='relu',
#                        input_shape=(10000,)))
# model.add(layers.Dense(64, activation='relu'))
# model.add(layers.Dense(46, activation='softmax'))
#
# '''
# 关于这个架构还应该注意另外两点。
# ? 网络的最后一层是大小为 46 的 Dense 层。这意味着,对于每个输入样本,网络都会输出一个 46 维向量。这个向量的每个元素(即每个维度)代表不同的输出类别。
# ? 最后一层使用了 softmax 激活。你在 MNIST 例子中见过这种用法。网络将输出在 46 个不同输出类别上的概率分布——对于每一个输入样本,网络都会输出一个 46 维向量, 其中 output[i] 是样本属于第 i 个类别的概率。46 个概率的总和为 1。
# 对于这个例子,最好的损失函数是 categorical_crossentropy(分类交叉熵)。它用于衡量两个概率分布之间的距离,这里两个概率分布分别是网络输出的概率分布和标签的真实分布。通过将这两个分布的距离最小化,训练网络可使输出结果尽可能接近真实标签  #,最大似然法求logistic回归模型的参数,取似然函数的负对数得到最小化错误分类率,该形式即为二分类交叉熵误差函数,使用softmax同理可得多分类交叉熵误差函数
# '''
#
# #编译模型
# model.compile(optimizer='rmsprop',
#                 loss='categorical_crossentropy',
#                 metrics=['accuracy'])
#
# #验证方法
# #这里在训练数据中留出1000个样本作为验证集
x_val = x_train[:1000]
partial_x_train = x_train[1000:]
y_val = x_train_labels[:1000]
partial_y_train = x_train_labels[1000:]# #训练模型,20轮次
# history = model.fit(partial_x_train,
#                     partial_y_train,
#                     epochs=20,
#                     batch_size=512,
#                     validation_data=(x_val, y_val))
#
# history_dict=history.history
# #绘制损失曲线和精度曲线
# fig=plt.figure()
# ax1=fig.add_subplot(2,1,1)
# x=[i for i in range(1,21)]
# loss=history_dict['loss']
# val_loss=history_dict['val_loss']
#
# ax1.plot(x,loss,'bo',label='Training loss')
# ax1.plot(x,val_loss,'b',label='validation loss')
# ax1.set_title('Training and validation loss')
# ax1.set_xlabel('Epochs')
# ax1.set_ylabel('Loss')
# ax1.legend()
#
# ax2=fig.add_subplot(2,1,2)
# acc=history_dict['acc']
# val_acc = history_dict['val_acc']
# ax2.plot(x, acc, 'bo', label='Training acc')
# ax2.plot(x, val_acc, 'b', label='Validation acc')
# ax2.set_title('Training and validation accuracy')
# ax2.set_xlabel('Epochs')
# ax2.set_ylabel('Accuracy')
# ax2.legend()
# plt.tight_layout()
# plt.show()#发现大约第7-9轮开始出现过拟合,因此将轮次调为9,重新训练模型#代码清单 3-21 从头开始重新训练一个模型
model = models.Sequential()
model.add(layers.Dense(64, activation='relu', input_shape=(10000,)))
model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(46, activation='softmax'))
model.compile(optimizer='rmsprop',loss='categorical_crossentropy',metrics=['accuracy'])
model.fit(partial_x_train,partial_y_train,epochs=9,batch_size=512,validation_data=(x_val, y_val))
results = model.evaluate(x_test, x_test_labels)
print(results)#返回一个loss值和metric值,【loss值会大于1?】import copy
test_labels_copy=copy.copy(test_labels)
np.random.shuffle(test_labels_copy)#置乱
hits_array=np.array(test_labels)==np.array(test_labels_copy)
r=np.sum(hits_array)/len(test_labels)#完全随机分类率
print(r)#模型预测(在新数据集上生成预测结果)
predictions=model.predict(x_test)#返回每条数据对应的46个分类概率
print(predictions[0].shape)
print(np.sum(predictions[0]))
class_belong=np.argmax(predictions[0])#返回最大元素,即概率最大的类别#处理标签和损失的另一种方法#将其转换为整数张量
y_train=np.array(train_labels)
y_test=np.array(test_labels)
#对于这种编码方法,唯一需要改变的是损失函数的选择
#对于整数标签,应当使用 sparse_categorical_crossentropy
#它与前面的多分类交叉熵损失函数在数学上完全相同,只是接口不同
model.compile(optimizer='rmsprop',loss='sparse_categorical_crossentropy',metrics=['acc'])
#中间层维度足够大的重要性
#,如果中间层的维度远远小于 46(比如 4 维),造成了信息瓶颈,那么会发生什么?
model = models.Sequential()
model.add(layers.Dense(64, activation='relu', input_shape=(10000,)))
model.add(layers.Dense(4, activation='relu'))
model.add(layers.Dense(46, activation='softmax'))model.compile(optimizer='rmsprop',
loss='categorical_crossentropy', metrics=['accuracy'])model.fit(partial_x_train, partial_y_train, epochs=20,
batch_size=128, validation_data=(x_val, y_val))
#导致这一下降的主要原因在于,你试图将大量信息(这些信息足够恢复46个类别的分割超平面)压缩到维度很小的中间空间。网络能够将大部分必要信息塞入这个四维表示中,但并不是全部信息'''
? 如果要对N个类别的数据点进行分类,网络的最后一层应该是大小为N的 Dense 层。 
? 对于单标签、多分类问题,网络的最后一层应该使用 softmax 激活,这样可以输出在N 个输出类别上的概率分布。
? 这种问题的损失函数几乎总是应该使用分类交叉熵。它将网络输出的概率分布与目标的 真实分布之间的距离最小化。
? 处理多分类问题的标签有两种方法。 
? 通过分类编码(也叫 one-hot 编码)对标签进行编码,然后使用 categorical_ crossentropy 作为损失函数。
? 将标签编码为整数,然后使用 sparse_categorical_crossentropy 损失函数。
? 如果你需要将数据划分到许多类别中,应该避免使用太小的中间层,以免在网络中造成信息瓶颈
'''

 

这篇关于python深度学习---路透社多分类的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/711218

相关文章

Python Transformers库(NLP处理库)案例代码讲解

《PythonTransformers库(NLP处理库)案例代码讲解》本文介绍transformers库的全面讲解,包含基础知识、高级用法、案例代码及学习路径,内容经过组织,适合不同阶段的学习者,对... 目录一、基础知识1. Transformers 库简介2. 安装与环境配置3. 快速上手示例二、核心模

Python正则表达式语法及re模块中的常用函数详解

《Python正则表达式语法及re模块中的常用函数详解》这篇文章主要给大家介绍了关于Python正则表达式语法及re模块中常用函数的相关资料,正则表达式是一种强大的字符串处理工具,可以用于匹配、切分、... 目录概念、作用和步骤语法re模块中的常用函数总结 概念、作用和步骤概念: 本身也是一个字符串,其中

Python使用getopt处理命令行参数示例解析(最佳实践)

《Python使用getopt处理命令行参数示例解析(最佳实践)》getopt模块是Python标准库中一个简单但强大的命令行参数处理工具,它特别适合那些需要快速实现基本命令行参数解析的场景,或者需要... 目录为什么需要处理命令行参数?getopt模块基础实际应用示例与其他参数处理方式的比较常见问http

python实现svg图片转换为png和gif

《python实现svg图片转换为png和gif》这篇文章主要为大家详细介绍了python如何实现将svg图片格式转换为png和gif,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录python实现svg图片转换为png和gifpython实现图片格式之间的相互转换延展:基于Py

Python中的getopt模块用法小结

《Python中的getopt模块用法小结》getopt.getopt()函数是Python中用于解析命令行参数的标准库函数,该函数可以从命令行中提取选项和参数,并对它们进行处理,本文详细介绍了Pyt... 目录getopt模块介绍getopt.getopt函数的介绍getopt模块的常用用法getopt模

Python利用ElementTree实现快速解析XML文件

《Python利用ElementTree实现快速解析XML文件》ElementTree是Python标准库的一部分,而且是Python标准库中用于解析和操作XML数据的模块,下面小编就来和大家详细讲讲... 目录一、XML文件解析到底有多重要二、ElementTree快速入门1. 加载XML的两种方式2.

Python如何精准判断某个进程是否在运行

《Python如何精准判断某个进程是否在运行》这篇文章主要为大家详细介绍了Python如何精准判断某个进程是否在运行,本文为大家整理了3种方法并进行了对比,有需要的小伙伴可以跟随小编一起学习一下... 目录一、为什么需要判断进程是否存在二、方法1:用psutil库(推荐)三、方法2:用os.system调用

使用Python从PPT文档中提取图片和图片信息(如坐标、宽度和高度等)

《使用Python从PPT文档中提取图片和图片信息(如坐标、宽度和高度等)》PPT是一种高效的信息展示工具,广泛应用于教育、商务和设计等多个领域,PPT文档中常常包含丰富的图片内容,这些图片不仅提升了... 目录一、引言二、环境与工具三、python 提取PPT背景图片3.1 提取幻灯片背景图片3.2 提取

Python实现图片分割的多种方法总结

《Python实现图片分割的多种方法总结》图片分割是图像处理中的一个重要任务,它的目标是将图像划分为多个区域或者对象,本文为大家整理了一些常用的分割方法,大家可以根据需求自行选择... 目录1. 基于传统图像处理的分割方法(1) 使用固定阈值分割图片(2) 自适应阈值分割(3) 使用图像边缘检测分割(4)

一文带你搞懂Python中__init__.py到底是什么

《一文带你搞懂Python中__init__.py到底是什么》朋友们,今天我们来聊聊Python里一个低调却至关重要的文件——__init__.py,有些人可能听说过它是“包的标志”,也有人觉得它“没... 目录先搞懂 python 模块(module)Python 包(package)是啥?那么 __in