问如何在matlab中对自定义优化函数使用并行计算？
EN

Stack Overflow用户

提问于 2016-06-10 14:56:38

回答 1查看 102关注 0票数 1

目前，我正在尝试训练如下配置的神经网络:输入层大小-> 307200隐藏层大小-> 50输出层大小-> 10

我使用coursera 'fmincg‘提供的优化函数来训练网络。由于网络规模很大，所以需要很长时间。因此，我尝试使用matlab中的并行计算工具箱来解决这个问题。matlab提供了一份文档，介绍如何使用并行计算实现Matlab提供的优化函数。

但我不知道如何将并行计算用于自定义优化函数的用户定义函数。

如果有人能对此有所了解，我将不胜感激。

发布于 2016-06-11 14:51:27

这是一项艰巨的任务。您必须重写优化求解器本身。在较粗的级别上进行并行化会容易得多。例如，您可能会反复训练网络以尝试不同的初始化条件、超参数值等。在这种情况下，通过同时训练具有不同值的多个网络将很容易实现并行化。还有许多其他的加速训练的方法值得研究，这些方法包括改变你初始化/优化/计算东西的方式。

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/37741798

复制

相似问题

问如何在matlab中对自定义优化函数使用并行计算？EN