本文主要是介绍每天五分钟深度学习:逻辑回归算法的单样本的梯度下降计算,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
本文重点
上节课我们已经知道了如何利用计算图通过链式法则来求解输出J对变量的梯度或者导数。本节课程我们将通过逻辑回归这一个具体的例子,来演示如何使用计算图完成逻辑回归的梯度下降算法。
逻辑回归
逻辑回归算法的目标函数,损失函数,代价函数,以及参数更新的方式如图所示。
具体实例
假设样本只有两个特征x1和x2,为了计算,我们需要输入参数w1、w2 和b,因此的计算公式为:
计算图如下所示:
我们用da表示dL/da,它的值为
我们用dz表示dL/dz=(dL/da)*(da/dz),它的值为
这篇关于每天五分钟深度学习:逻辑回归算法的单样本的梯度下降计算的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!