BP神经网络中采用的负梯度下降算法 当误差目标函数中存在多个极值点时 仍然能够寻找到全局最优解
已帮助 人
回答
共1条回复-
（1）可能存在陷入局部极小以及收敛速度慢等问题。（2）通常采用全局最优化算法与BP算法相结合的方法，例如，模拟退火算法、遗传算法等，同时还可以采取以下措施：a、选择合适的初始权值；b、给权值加以扰动；c、在网络的学习样本中适当加些噪声，避免网络依靠死记的办法来学习；d、网络的输出与样本之间的差小于给定的允许误差范围时，则对此样本神经网络不再修正其权值，以此来加快网络的学习速度；e、适当选择网络的大小，尽可能使用三层网络，这样可以避免因层数多、节点数多、计算复杂化而可能导致反向误差发散的情况。