首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >问答首页 >分批培训还是多次培训?

分批培训还是多次培训?
EN

Data Science用户
提问于 2019-04-26 06:04:58
回答 1查看 120关注 0票数 0

我有一个关于神经网络批量学习的问题。

神经网络在每一次迭代中分批学习并修改权值。问:如果我在一批之后保存检查点,然后稍后装载重量,然后用新的一批进行训练,这与一次训练两批不同吗?

如果我的批次大小为100,训练数据为1000分。那么,在输出的检查点文件中,如果我一次训练9批(900个数据点) ->保存检查点->负载检查点第二天->与最后一批->保存检查点.Vs给所有1000个数据点(即10批) ->训练->保存检查点文件?

EN

回答 1

Data Science用户

发布于 2019-04-26 06:36:10

在以下几个方面不会有任何区别:

  1. 一次训练所有批次+时代
  2. 保存检查点并在以后继续培训

保存检查点是一种很好的做法。由于环境问题(例如: AWS上的Spot实例被踢出,PC崩溃),培训失败的情况并不少见。

有了像Keras这样的库,它非常直接地进入检查点模型。

票数 1
EN
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://datascience.stackexchange.com/questions/50957

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档