我有一个关于神经网络批量学习的问题。
神经网络在每一次迭代中分批学习并修改权值。问:如果我在一批之后保存检查点,然后稍后装载重量,然后用新的一批进行训练,这与一次训练两批不同吗?
如果我的批次大小为100,训练数据为1000分。那么,在输出的检查点文件中,如果我一次训练9批(900个数据点) ->保存检查点->负载检查点第二天->与最后一批->保存检查点.Vs给所有1000个数据点(即10批) ->训练->保存检查点文件?
发布于 2019-04-26 06:36:10
在以下几个方面不会有任何区别:
保存检查点是一种很好的做法。由于环境问题(例如: AWS上的Spot实例被踢出,PC崩溃),培训失败的情况并不少见。
有了像Keras这样的库,它非常直接地进入检查点模型。
https://datascience.stackexchange.com/questions/50957
复制相似问题