本文主要是介绍搭建解决三好学生成绩问题的神经网络02---训练神经网络,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
前言:
我们在https://blog.csdn.net/qq_39432161/article/details/100858574中介绍了三好学生成绩问题,搭建了初步的神经网络模型。但是没有进行循环训练神经网络模型,现在我们要对上一节中的神经网络模型进行训练。
训练神经网络模型步骤:
- 输入数据:x1,x2,x3即两个学生的德育、智育、体育各项的成绩
- 计算结果:神经网络根据输入的数据和当前的可变参数值计算出结果(y)
- 计算误差:将计算出来的结果y与我期待的结果(或者说标准答案(yTrain))进行比对,看看误差(loss)是多少。yTrain在三好学生问题中表示两个学生的各自总分。
- 调整神经网络的可变参数:根据误差的大小,使用反向传播算法,对神经网络中的可变参数进行调节(本问题中的w1,w2,w3)
- 再次训练:在调节可变参数后,重复上述步骤,直到误差低于我们理想水平。
神经网络训练流程图
代码实现:
- 在上一个模型的基础上,我们添加了目标值yTrain = tf.placeholder(dtype=tf.float32)和训练误差loss = abs(y - yTrain)。
- 定义一个优化器变量optimizer。优化器:用来调整神经网络可变参数的对象,TensorFlow中有许多优化器,我们选用的是AlphaGo使用的优化器RMSPropOptimize。这个优化器是通过调用tf.train.RMSPropOptimizer()函数来实现,其中参数0.001是这个优化器的学习率(learn rate),学习率决定优化器每次调整参数的幅度大小。
- 定义完优化器,我们定义一个训练对象train(代表我们准备如何训练这个神经网络),我们把train对象定义为optimzer.minimize(loss),也就是说要求优化器按照把loss最小化(minimize)的原则来调整可变参数。
# Author:北京
# QQ:838262020
# time:2019/9/13
import tensorflow as tfx1 = tf.placeholder(dtype=tf.float32)
x2 = tf.placeholder(dtype=tf.float32)
x3 = tf.placeholder(dtype=tf.float32)# 添加一个目标值
yTrain = tf.placeholder(dtype=tf.float32)w1 = tf.Variable(0.1, dtype=tf.float32)
w2 = tf.Variable(0.1, dtype=tf.float32)
w3 = tf.Variable(0.1, dtype=tf.float32)n1 = x1 * w1
n2 = x2 * w2
n3 = x3 * w3y = n1 + n2 + n3# 训练值和目标值的绝对值差
loss = abs(y - yTrain)# 使用RMSPropOptimzer优化器
optimzer = tf.train.RMSPropOptimizer(0.001)# 按照最小化的原则处理loss
train = optimzer.minimize(loss)sess = tf.Session()
init = tf.global_variables_initializer()
sess.run(init)result1 = sess.run([train, x1, x2, x3, w1, w2, w3, y, yTrain, loss], feed_dict={x1: 90, x2: 80, x3: 85, yTrain: 85})
print(result1)
result2 = sess.run([train, x1, x2, x3, w1, w2, w3, y, yTrain, loss], feed_dict={x1: 98, x2: 95, x3: 87, yTrain: 96})
print(result2)
运行结果:
[None, array(90.0, dtype=float32), array(80.0, dtype=float32), array(70.0, dtype=float32), 0.10316052, 0.10316006, 0.10315938, 24.0, array(85.0, dtype=float32), 61.0]
[None, array(98.0, dtype=float32), array(95.0, dtype=float32), array(87.0, dtype=float32), 0.10554425, 0.10563005, 0.1056722, 28.884804, array(96.0, dtype=float32), 67.115196]
这篇关于搭建解决三好学生成绩问题的神经网络02---训练神经网络的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!