Tensorflow 学习笔记 -----gradient

2024年1月28日 113次阅读 来源: tensorflow

Tensorflow 的求梯度函数：

[db, dW, dx] = tf.gradient(C, [b, w, x])

在调试时用处较大。

实例：

import tensorflow as tf
import numpy as np
w1 = tf.Variable(2.0)
w2 = tf.Variable(3.0)
a = tf.multiply(w1,w2)
g = tf.get_default_graph()
with g.gradient_override_map({"Sign":"Identity"}):
    clip = tf.sign(a)
gradients = tf.gradients(clip, xs=[w1, w2])
with tf.Session() as sess:
    tf.global_variables_initializer().run()
    print(sess.run(gradients))

>>[3.0,2.0]

此外，更加深度的应用见：

https://zhuanlan.zhihu.com/p/23060519 

详细的解释了tensorflow中梯度的累计以及异步实现

    原文作者：tensorflow
    原文地址: https://www.cnblogs.com/lyc-seu/p/8566538.html
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。
点赞