TensorFlow 训练模型

2019年5月7日 151次阅读来源: 夜空一起砍猩猩

TensorFlow支持同步训练和异步训练两种模型训练方式。

异步训练

异步训练即TensorFlow上每个节点上的任务为独立训练方式，不需要执行协调操作，如下图所示：

《TensorFlow 训练模型》图片发自简书App

同步训练

同步训练为TensorFlow上每个节点上的任务需要读入共享参数，执行并行化的梯度计算，然后将所有共享参数进行合并，如下图所示：

《TensorFlow 训练模型》图片发自简书App

    原文作者：夜空一起砍猩猩
    原文地址: https://www.jianshu.com/p/da28bd6555cf
    本文转自网络文章，转载此文章仅为分享知识，如有侵权，请联系博主进行删除。