机器学习读书笔记一


概述

最近在看周教授的《机器学习》,书中很多理论知识非常适合入门和学习。故把每一章的自己读书笔记和记录给写下来。

基本术语

机器学习:机器学习致力于研究如何利用经验来改善系统自身的性能。机器学习所研究的内容是关于在计算上从数据中产生模型的算法。 书中通过西瓜的例子生动的阐述了很多内容,比如收集了一些西瓜数据:(色泽=青绿;根蒂=蜷缩;敲声=浊响),(色泽=乌黑;根蒂=硬挺;敲声=沉闷),…… Data Set:记录的集合,比如这些西瓜数据。 Instance:每条记录是关于一个事件或者对象。 Attribute or Feature:事件或者对象某些方面表象的性质。 Attribute Space:属性张成的空间。 Feature Vector:属性空间中的一个示例。

D=\lbrace x_1,x_2......,x_m \rbrace,x_i= \lbrace x_{i1};x_{i2};x_{i3}......x_{id} \rbrace

D表示包含m个示例的数据集,每个示例x是d维样本空间X中的一个向量。 Hypothesis:学的模型的某种潜在规律。 根据训练数据是否拥有标记信息,学习任务分为supervised learning and unsupervised learning。分类和回归是supervised learning的代表,聚类是unsupervised learning的代表。 generalization 能力:学的模型适用于新样本或者未知数据集的能力。 Hypothesis Space:假设组成的所有空间,假设学习一个好瓜的模型,暂定好瓜由色泽、根底和敲声构成。好瓜<->(色泽=?) and (根蒂=?)and (敲声=?),我们的任务就是通过训练数据确定?的值。 学习过程就是一个在所有假设组成的空间中(假设空间)进行搜索,搜索的目标是找到与训练集fit的假设,即能将训练数据集中的样本判断正确的假设。假设的表示一旦确定,假设的空间和规模就确定了。 假设空间的确定:依据属性的取值范围来确定假设空间。 Version Space:存在着一个与训练集一致的假设集合, inductive bias:机器学习算法在学习过程中对某种类型假设的偏好。 奥卡姆剃刀:若多个假设与观察一致,则选择最简单的那一个。 没有免费午餐定理:学习算法的期望性能一样。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器学习算法工程师

深入浅出——基于密度的聚类方法

作者 祝烨 编辑 (没脸) “The observation of and the search forsimilarities an...

3618
来自专栏智能算法

Yoshua Bengio等大神传授:26条深度学习经验

原文地址:http://www.marekrei.com/blog/26-things-i-learned-in-the-deep-learning-summe...

3726
来自专栏MixLab科技+设计实验室

写给设计师的人工智能指南:JS框架Synaptic

上一篇写了tensorflow,发现tf对于设计师来说,其实门槛有点高.要折腾各种配置,还要gpu...其实是不利于快速入门的. Synaptic是一个用于no...

3315
来自专栏专知

NLPprogress.com-随时跟进自然语言处理研究最新进展,34个NLP任务的数据、模型、论文与代码

【导读】自然语言处理有众多的研究子领域,很多仍然未解决达到可实用的性能。为此,NLP领域的研究者正致力于解决这些问题。那如何最终这些NLP任务的研究最新进展?作...

5083
来自专栏PPV课数据科学社区

【源码】机器学习算法清单!附Python和R代码

本文约6000字,建议阅读8分钟。 通过本文为大家介绍了3种机器学习算法方式以及10种机器学习算法的清单,学起来吧~ 前言 谷歌董事长施密特曾说过:虽然谷歌的无...

3263
来自专栏小樱的经验随笔

机器理解大数据秘密:聚类算法深度剖析

在理解大数据方面,聚类是一种很常用的基本方法。近日,数据科学家兼程序员 Peter Gleeson 在 freeCodeCamp 发布了一篇深度讲解文章,对一...

4794
来自专栏数据派THU

机器学习算法清单!附Python和R代码

来源:数据与算法之美 通过本文为大家介绍了3种机器学习算法方式以及10种机器学习算法的清单,学起来吧~ 前言 谷歌董事长施密特曾说过:虽然谷歌的无人驾驶汽车和机...

4857
来自专栏有趣的Python

TensorFlow应用实战-10-GAN介绍

2434
来自专栏CSDN技术头条

Yoshua Bengio等大神传授:26条深度学习经验

【编者按】8月初的蒙特利尔深度学习暑期班,由Yoshua Bengio、 Leon Bottou等大神组成的讲师团奉献了10天精彩的讲座,剑桥大学自然语言处理与...

2086
来自专栏人工智能头条

Yoshua Bengio、 Leon Bottou等大神传授:深度学习的26条经验

2372

扫码关注云+社区

领取腾讯云代金券