在神经网络中,VC维数d_{VC}近似等于网络的参数数(权值)。为了获得较好的泛化效果,击打规则是N \geq 10 d_{VC} \approx 10 * (\text{number of weigts})。
高斯过程回归的VC维数是多少?
我的域是X = \mathbb{R}^{25},这意味着我有25个特性,我想确定N的样本数量,我必须要存档良好的泛化。
发布于 2021-04-15 13:32:29
高斯过程的表现力随着多个训练点的增加而增加。所以,事实上,蒸气-事实上,它的维数是无限的(就像它对k近邻来说是无限的),不幸的是,你的经验法则在这里不适用。
您可能应该依靠训练/验证分割来估计泛化。根据我的经验,GP比神经网络概括得要好得多,但是确切的所需的训练大小取决于数据分布的复杂性本身。
https://datascience.stackexchange.com/questions/93067
复制相似问题