本文主要是介绍自动求导的原理(Autograd, Auto Differentiation),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
知乎话题
TensorFlow的求导,实际上是先提供每一个op求导的数学实现(人手工写的函数代码),然后使用链式法则自动求出整个表达式的导数。
op的forward和backward,都是用矩阵做输入和输出的,便于GPU调库加速。
很好的示例代码:
miniflow;
开源计算图示例(1);开源计算图示例(2);开源计算图示例(3)
四种求导方式的介绍;论文:Automatic Differentiation in Machine Learning: a Survey
这篇关于自动求导的原理(Autograd, Auto Differentiation)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!