本小节，我们会讲到里面的优化器。

Tensorflow 中的优化器会有很多不同的种类。最基本, 也是最常用的一种就是。

在 Tensofllow官网输入optimizer可以看到提供了多种优化器：

优化器

TensorFlow官网提供的教程：

TensorFlow Addons 优化器：LazyAdam

https://tensorflow.google.cn/addons/tutorials/optimizers_lazyadam?hl=zh-cn

TensorFlow Addons 优化器：ConditionalGradient

TensorFlow Addons 优化器：ConditionalGradient