在本章中，我们将了解可以使用TensorFlow框架实现的神经网络训练的各个方面。

以下是十项建议，可以对其进行评估-

反向传播

反向传播是一种计算偏导数的简单方法，其中包括最适合神经网络的基本组成形式。

随机梯度下降

在随机梯度下降中，批处理是示例总数，用户可使用该示例在一次迭代中计算梯度。到目前为止，假定批处理已成为整个数据集。最好的例证是在Google规模上工作。数据集通常包含数十亿甚至数千亿个示例。

学习率衰减

适应学习率是梯度下降优化的最重要特征之一。这对于TensorFlow实施至关重要。

退出

具有大量参数的深度神经网络形成了功能强大的机器学习系统。但是，在这种网络中，过度拟合是一个严重的问题。

最大池

最大池化是基于样本的离散化过程。目的是对输入表示进行下采样，以减少所需假设的维数。

长短期记忆(LSTM)

LSTM控制在指定神经元内应采取哪些输入的决策。它包括决定应该计算什么和应该产生什么输出的控制。