深度学习中的自动求导机制

deep-learning

http://txshi-mt.com/2018/10/04/NMT-Tutorial-3b-Autodiff/

https://www.zhihu.com/question/56443480

简介

编程计算导数的方法有以下几种：

1. 手动微分
2. 数值微分
3. 符号微分
4. 自动微分： 一般深度学习框架所采用的方式