以关于梯度下降法叙述 正确的有（）。
已帮助 人
以关于梯度下降法叙述，正确的有（）。
A．梯度下降方法迭代时将沿着负梯度方向进行更新
B．梯度的负方向是使得函数值下降最快的方向
C．梯度方向是使得函数值上升降最快的方向
D．梯度下降方法迭代时将沿着梯度方向进行更新
回答
共1条回复-
梯度下降法作为机器学习中较常使用的优化算法，其有着三种不同的形式：批量梯度下降（ Batch Gradient Descent ）、随机梯度下降（ Stochastic Gradient Descent ）以及小批量梯度下降（ Mini-Batch Gradient Descent ）;批量梯度下降法是最原始的形式，它是指在每一次迭代时使用所有样本来进行梯度的更新;随机梯度下降法不同于批量梯度下降，是每次迭代使用一个样本来对参数进行更新;小批量梯度下降法是对批量梯度下降以及随机梯度下降的一个折中办法。更新参数时使用一部分训练样本。一般将训练样本集分成若干个 batch ，每个 batch 包含 m 个样本。每次更新都利用一个 batch 的数据，而非整个训练集