深度学习多分类问题--路透社数据集

2023-12-19 09:10

本文主要是介绍深度学习多分类问题--路透社数据集,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

环境使用keras为前端,TensorFlow为后端

本次构建一个网络,将路透社新闻划分为46个类别。因为有多个类别,所以这是多分类问题。每个数据点只能划分到一个类别,所以,这是一个单标签,多分类问题。如果每个数据点可以划分到多个类别,那么就是多标签,多分类问题。

首先加载数据集

from keras.datasets import reuters
#限定为前10000个最常出现的单词
(train_data,train_labels),(test_data,test_labels) = reuters.load_data(num_words=10000)

准备数据,将数据向量化

import numpy as npdef vectorize_sequences(sequences,dimension=10000):results = np.zeros((len(sequences),dimension))for i,sequence in enumerate(sequences):results[i,sequence] = 1return results
#训练数据向量化
x_train = vectorize_sequences(train_data)
#测试数据向量化
x_test = vectorize_sequences(test_data)
def to_one_hot(labels,dimension=46):results = np.zeros((len(labels),dimension))for i,label in enumerate(labels):results[i,label] = 1return results
#训练标签向量化
one_hot_train_labels = to_one_hot(train_labels)
#测试标签向量化
one_hot_test_labels = to_one_hot(test_labels)

构建网络

由于输出类别的数量为46个,所以如果中间层的维度太低,就有可能丢失相关信息。所以这里使用64个单元的中间层

from keras import models
from keras import layersmodel = models.Sequential()
model.add(layers.Dense(64,activation = 'relu',input_shape=(10000,)))
model.add(layers.Dense(64,activation='relu'))
model.add(layers.Dense(46,activation='softmax'))

网络的最后一层是大小为46的Dense层,所以对于每一个输入的样本,都会输出一个46维的向量

最后一层使用了softmax激活。网络将输出在46个不同输出类别上的概率分布,46维向量的总和为1

对于此例,最好的损失函数是分类交叉熵。它用于衡量两个概率分布之间的距离,这里两个概率分布分别是网络输出的概率分布和标签的真实分布距离的最小化,训练网络可使输出结果尽可能接近真实标签。

编译模型:

model.compile(optimizer ='rmsprop',loss='categorical_crossentropy',metrics=['accuracy'])

留出验证集

x_val = x_train[0:1000]
partial_x_train = x_train[1000:]y_val = one_hot_train_labels[0:1000]
partial_y_train = one_hot_train_labels[1000:]

训练模型

#fit函数用于训练模型,partial_x_train是输入数据,partial_y_train是标签,x_val是验证集的数据,y_val是验证集的标签
history = model.fit(partial_x_train,partial_y_train,epochs=20,batch_size=512,validation_data=(x_val, y_val))

绘制训练损失和验证损失

import matplotlib.pyplot as pltloss = history.history['loss']
val_loss = history.history['val_loss']epochs = range(1,len(loss) + 1)plt.plot(epochs,loss,'bo',label='Training loss')
plt.plot(epochs,val_loss,'b',label = 'Validation loss')
plt.title('Training and validation loss')
plt.xlabel('Epochs')
plt.ylabel('Loss')
plt.legend()plt.show()

plt.clf()acc = history.history['acc']
val_acc = history.history['val_acc']plt.plot(epochs,acc,'bo',label='training acc')
plt.plot(epochs,val_acc,'b',label='Valdation acc')
plt.title('training and validation accuracy')
plt.xlabel('Epochs')
plt.ylabel('Accuracy')
plt.legend()plt.show()

从图中可看出,网络在第九轮后开始过拟合,所以从新训练一个网络,9个轮次

model = models.Sequential()
model.add(layers.Dense(64, activation='relu', input_shape=(10000,)))
model.add(layers.Dense(64, activation='relu'))
model.add(layers.Dense(46, activation='softmax'))model.compile(optimizer='rmsprop',loss='categorical_crossentropy',metrics=['accuracy'])
model.fit(partial_x_train,partial_y_train,epochs=9,batch_size=512,validation_data=(x_val, y_val))
#model.evaluate函数计算在某些输入数据上模型的误差,x_test为输入数据,one_hot_test_labels为标签
results = model.evaluate(x_test, one_hot_test_labels)
results

 结果:精度约为78%

[0.984747028096064, 0.7845057880676759]

在测试数据上生成预测

predictions = model.predict(x_test)
predictions[0]
array([2.6853504e-05, 6.3310239e-05, 6.6731780e-05, 6.8838394e-01,2.9023853e-01, 2.4886356e-07, 1.4353501e-04, 6.5791741e-05,8.7031247e-03, 1.0868406e-05, 4.8362726e-05, 3.0135105e-03,3.6972619e-05, 1.9051113e-04, 6.1894898e-06, 2.5392617e-05,9.5336814e-04, 5.4524787e-04, 4.7846398e-04, 1.1405107e-03,1.7468960e-03, 5.3577451e-04, 7.9001420e-06, 3.4499905e-04,1.4113671e-05, 2.3861769e-04, 9.4969837e-06, 3.9085553e-05,1.6669346e-05, 1.6799838e-04, 7.7905535e-04, 5.3265714e-04,2.0784488e-05, 3.2127515e-05, 8.2047052e-05, 3.2226784e-05,7.1236005e-05, 5.9507878e-05, 9.2954113e-05, 3.8922983e-04,7.3304640e-05, 4.6987369e-04, 2.6572573e-06, 7.9232501e-05,8.1832422e-06, 1.2112055e-05], dtype=float32)
predictions[0].shape
#输出为(46,0),即每个元素都是长度为46的向量
np.argmax(predictions[0])
#输出为3,对应的概率约为68.8%

总结:

1.如果要对n个类别的数据点进行分类,网络的最后一层应该是大小为n的Dense层

2.对于单标签,多分类问题,网络的最后一层应该使用softmax激活,这样可以输出在n个输出类别上的概率分布

3.这种问题的损失函数几乎总是应该使用分类交叉熵,它将网络输出的概率分布与目标的真实分布之间的距离最小化

4.处理多分类问题的标签有两种方法

   ①通过分类编码对标签进行编码,然后使用分类交叉熵作为损失函数

   ②将标签编码为整数,使用sparse_categorical_crossentropy损失函数

5.如果需要将数据划分到许多类别中,避免使用太小的中间层,以免在网络中造成信息瓶颈

 

 

 

这篇关于深度学习多分类问题--路透社数据集的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/511635

相关文章

springboot循环依赖问题案例代码及解决办法

《springboot循环依赖问题案例代码及解决办法》在SpringBoot中,如果两个或多个Bean之间存在循环依赖(即BeanA依赖BeanB,而BeanB又依赖BeanA),会导致Spring的... 目录1. 什么是循环依赖?2. 循环依赖的场景案例3. 解决循环依赖的常见方法方法 1:使用 @La

SpringCloud动态配置注解@RefreshScope与@Component的深度解析

《SpringCloud动态配置注解@RefreshScope与@Component的深度解析》在现代微服务架构中,动态配置管理是一个关键需求,本文将为大家介绍SpringCloud中相关的注解@Re... 目录引言1. @RefreshScope 的作用与原理1.1 什么是 @RefreshScope1.

Java利用JSONPath操作JSON数据的技术指南

《Java利用JSONPath操作JSON数据的技术指南》JSONPath是一种强大的工具,用于查询和操作JSON数据,类似于SQL的语法,它为处理复杂的JSON数据结构提供了简单且高效... 目录1、简述2、什么是 jsONPath?3、Java 示例3.1 基本查询3.2 过滤查询3.3 递归搜索3.4

MySQL大表数据的分区与分库分表的实现

《MySQL大表数据的分区与分库分表的实现》数据库的分区和分库分表是两种常用的技术方案,本文主要介绍了MySQL大表数据的分区与分库分表的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有... 目录1. mysql大表数据的分区1.1 什么是分区?1.2 分区的类型1.3 分区的优点1.4 分

Mysql删除几亿条数据表中的部分数据的方法实现

《Mysql删除几亿条数据表中的部分数据的方法实现》在MySQL中删除一个大表中的数据时,需要特别注意操作的性能和对系统的影响,本文主要介绍了Mysql删除几亿条数据表中的部分数据的方法实现,具有一定... 目录1、需求2、方案1. 使用 DELETE 语句分批删除2. 使用 INPLACE ALTER T

SpringBoot启动报错的11个高频问题排查与解决终极指南

《SpringBoot启动报错的11个高频问题排查与解决终极指南》这篇文章主要为大家详细介绍了SpringBoot启动报错的11个高频问题的排查与解决,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一... 目录1. 依赖冲突:NoSuchMethodError 的终极解法2. Bean注入失败:No qu

Python 中的异步与同步深度解析(实践记录)

《Python中的异步与同步深度解析(实践记录)》在Python编程世界里,异步和同步的概念是理解程序执行流程和性能优化的关键,这篇文章将带你深入了解它们的差异,以及阻塞和非阻塞的特性,同时通过实际... 目录python中的异步与同步:深度解析与实践异步与同步的定义异步同步阻塞与非阻塞的概念阻塞非阻塞同步

Python Dash框架在数据可视化仪表板中的应用与实践记录

《PythonDash框架在数据可视化仪表板中的应用与实践记录》Python的PlotlyDash库提供了一种简便且强大的方式来构建和展示互动式数据仪表板,本篇文章将深入探讨如何使用Dash设计一... 目录python Dash框架在数据可视化仪表板中的应用与实践1. 什么是Plotly Dash?1.1

MySQL新增字段后Java实体未更新的潜在问题与解决方案

《MySQL新增字段后Java实体未更新的潜在问题与解决方案》在Java+MySQL的开发中,我们通常使用ORM框架来映射数据库表与Java对象,但有时候,数据库表结构变更(如新增字段)后,开发人员可... 目录引言1. 问题背景:数据库与 Java 实体不同步1.1 常见场景1.2 示例代码2. 不同操作

Redis 中的热点键和数据倾斜示例详解

《Redis中的热点键和数据倾斜示例详解》热点键是指在Redis中被频繁访问的特定键,这些键由于其高访问频率,可能导致Redis服务器的性能问题,尤其是在高并发场景下,本文给大家介绍Redis中的热... 目录Redis 中的热点键和数据倾斜热点键(Hot Key)定义特点应对策略示例数据倾斜(Data S