首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

周志华《机器学习》第2章部分笔记

①误差(error):学习器的预测输出与样本的真实输出之间的差异 ②训练误差(training error)或经验误差(empirical error):在训练集上的误差 ③测试误差(test error):在测试集上的误差 ④泛化误差(generalization error):学习器在所有新样本上的误差 ⑤过拟合(overfitting):学习能力过于强大,把训练样本自身的一些特点当成所有潜在样本都会有的一般性质,导致泛化能力下降 ⑥欠拟合(underfitting):学习能力太差,对训练样本的一般性质尚未学好 在过拟合问题中,训练误差很小,但测试误差很大;在欠拟合问题中,训练误差和测试误差都比较大。目前,欠拟合问题容易克服,如在决策树中扩展分支,在神经网络中增加训练轮数;但过拟合问题是机器学习面临的关键障碍。 ⑦模型选择:在理想状态下,选择泛化误差最小的学习器。

03

Neuro-Oncology:对脑胶质瘤IDH突变状态进行分类的一种新型的基于MRI的全自动深度学习算法

异柠檬酸脱氢酶(Isocitrate dehydrogenase, IDH)突变状态已成为神经胶质瘤的重要预后标志。当前,可靠的IDH突变诊断需要侵入性外科手术。该研究的目的是使用T2加权(T2w)MR图像开发高度精确的、基于MRI的、基于体素的深度学习IDH分类网络,并将其性能与基于多模态数据的网络进行比较。研究人员从癌症影像档案馆(The Cancer Imaging Archive,TCIA)和癌症基因组图谱(The Cancer Genome Atlas,TCGA)中获得了214位受试者(94位IDH突变,120位IDH野生型)的多参数脑MRI数据和相应的基因组信息。他们开发了两个单独的网络,其中包括一个仅使用T2w图像的网络(T2-net)和一个使用多模态数据(T2w,磁共振成像液体衰减反转恢复序列(FLAIR)和T1 postcontrast)的网络(TS-net),以执行IDH分类任务和同时进行单标签肿瘤分割任务。本文使用3D的Dense-UNets的架构。使用三折交叉验证泛化网络的性能。同时使用Dice系数评估算法分割肿瘤的精度。T2-net在预测IDH突变状态任务上表现出97.14%±0.04的平均交叉验证准确率,灵敏度为0.97±0.03,特异性为0.98±0.01,曲线下面积(AUC)为0.98±0.01。TS-net的平均交叉验证准确性为97.12%±0.09,灵敏度为0.98±0.02,特异性为0.97±0.001,AUC为0.99±0.01。T2-net的肿瘤分割Dice系数的平均得分为0.85±0.009,TS-net的肿瘤分割Dice系数的平均得分为0.89±0.006。

05

如何写一篇不水的机器学习论文?这17页指南从建模、评估到写报告,手把手教你

丰色 发自 凹非寺 量子位 报道 | 公众号 QbitAI 还在学师阶段的研究生以及从业新手们,想在机器学习研究中少走弯路吗? 或许下面这篇论文可以帮到你: 《如何避免机器学习研究中的陷阱?一本给学术研究人员的指南》 作者是英国赫瑞-瓦特大学数学与计算机科学学院的副教授,同时也是爱丁堡机器人中心的成员,博士毕业已经十多年,这篇17页的论文主要介绍了机器学习学术研究中的一些常犯错误,以及如何避免。 指南共涵盖了机器学习过程的五大方面:建模前如何准备,如何建出可靠的模型,如何稳健地评估模型,如何公平地比较模

02

机器学习的跨学科应用——模型篇

数据集的大小基本上可以确定您选择的机器学习模型。对于较小的数据集,经典的统计机器学习模型(例如回归,支持向量机,K近邻和决策树)更加合适。相比之下,神经网络需要大量数据,并且只有当您拥有成千上万个或者更多的训练数据条目时,神经网络才开始变得可行。通过 bagging , boosting 以及 stacking 等方法,经典统计模型可以进一步改进其性能。现有许多封装好的 Python 库可以调用实现以上模型功能,其中最著名的可能是 scikit-learn 。对于较大的数据集,神经网络和深度学习方法更为常用。在学术界中, PyTorch 以及 TensorFlow 通常用于实现这些架构。 特征工程对于较小的数据集非常重要。如果通过精心设计其特征,则可以大大提高模型的性能 。将化学成分转换成可用于机器学习研究的可用输入特征的常用方法是基于成分的特征向量(Composition-based Feature Vectors, CBFVs),例如 Jarvis , Mapie , Mat2Vec , Oliynyk 。这一系列的CBFVs包含了通过实验得出的值,通过高通量计算来得到的值,或者使用机器学习技术从材料科学文献中提取的值。除了使用CBFVs来进行特征化数据,您还可以尝试对元素进行简单的 one-hot 编码。这些CBFV特征化方案以及特征化化学成分都包含在GitHub项目中。 对于足够大的数据集和更有学习能力的架构,例如深度全连接网络 或者新兴的注意力机制架构(比如CrabNet),与简单的 one-hot 编码相比,特征工程和输入数据中领域知识的集成(例如CBFVs的使用)可能会变得无关紧要,并且不会为更好的模型性能做出贡献 。因此,由于需要整理和评估针对您的研究的领域知识功能,您可能会发现寻找其他的数据源,采用已经建立好的特征模式,或者使用不需要领域知识的学习方法会更有益。

02
领券