交叉验证

版权声明:本文为博主-姜兴琪原创文章,未经博主允许不得转载。

训练集用来训练模型,验证集用于模型的选择,而测试集用于最终对学习方法的评估。

在学习到不同的复杂度的模型中,选择对验证集有最小预测误差的模型,由于验证集有足够多的数据,用它对模型进行选择也是有效的。

但是,在许多实际应用中数据是不充足的,为了选择好的模型,可以采用交叉验证方法,交叉验证的基本思想是重复地使用数据;把给定的数据进行切分,将切分的数据组合为训练集和测试集,在此基础上反复地进行训练、测试以及模型选择。

1、简单交叉验证

简单交叉验证是:首先随机地将已给数据分成两部分,一部分作为训练集,另一部分作为测试集(比如,70%的数据为训练集,30%的数据为测试集);然后用训练集在各种情况下(例如,不同的参数个数)训练模型,从而得到不同的模型;在测试集上评价各个模型的测试误差,选出测试误差最小的模型。

2、S折交叉验证

应用最多是S折交叉验证,方法如下:首先随机地将已给数据切分为S个互不相交的大小相同的子集;然后利用S-1个子集的数据训练模型,利用余下的子集测试模型;将这一过程对可能的S种选择重复进行;最后选出S次评测中平均测试误差最小的模型。

3、留一交叉验证

S折交叉验证的特殊情形是S==N,称为留一交叉验证,往往在数据缺乏的情况下使用,这里,N是给定数据集的容量。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • android Service

    效果:点击start 按钮,开始播放音乐,点击end 按钮,暂停音乐,手机按home键,音乐依旧进行。

    week
  • 数据科学

    版权声明:本文为博主-姜兴琪原创文章,未经博主允许不得转载。 https://blog.csdn.net/jxq0816/article/details...

    week
  • android broadcastReceiver组件

    week
  • KFold交叉验证

    from sklearn.model_selection import KFold

    润森
  • [机器学习必知必会]交叉验证

    当我们根据数据训练出一个机器学习模型时,我们希望它在新的数据上也保持较高的准备率,这就需要我们对学习到的不同模型有一个模型评估准则。

    TOMOCAT
  • 9,模型的评估

    在sklearn.metrics模块针对不同的问题类型提供了各种评估指标并且可以创建用户自定义的评估指标,

    lyhue1991
  • Machine Learning-模型评估与调参 ——嵌套交叉验证

    嵌套交叉验证(nested cross validation)选择算法(外循环通过k折等进行参数优化,内循环使用交叉验证),对特定数据集进行模型选择。Varma...

    Sam Gor
  • BERT模型详解

    用户1432189
  • 硬核灭蚊,全球首款AI蚊子定位装置问世

    Bzigo是一家位于以色列的人工智能公司,他们设计出了一种将AI、激光指示器和摄像头结合在一起的Bzigo激光定位系统,可以自动跟踪房屋内的任何蚊子。

    AiTechYun
  • Yii2 学习笔记资源引用

    琯琯

扫码关注云+社区

领取腾讯云代金券