神经网络计算标准四大标准步骤
神经网络计算标准四大标准步骤：
- 第一步，构建网络，设计网络拓扑结构，定义前向计算函数、损失函数，梯度计算函数和参数更新函数。
- 第二步，将训练数据集乱序，然后按mini_batch分成num_batches个样本小组
- 第三步，依次将mini_batch个样本送入神经网络计算预测值 > 损失值 > 梯度，并更新网络参数
- 第四步，重复epochs轮训练，直到损失值不再下降为止。
为减少损失值震荡，总样本数最好能整除mini_batch，避免最后一个min_batch的数量与之前相差很大
不能整除，震荡大
能整除，震荡小
作者:LabVIEW_Python
原文链接:https://www.jianshu.com/p/c771186a7350