由一只猫看深度学习面临哪些挑战?

首先就由一只小猫带咱们走进深度学习的世界吧!

对于一个输入样本来说,深度学习和机器学习有着相同的目的,就是要把这个样本进行最准确的分类。咱们从肉眼看很容易这是一只猫,因为我们有着这么多年的积累常识嘛!但是计算机可不这么聪明一眼就能看得出来,在计算机中,一个图像是由像素点所构成的。

这里可能有同学对于计算机视觉不是很了解,我简单的介绍下,像素点是一个从0到255范围内的一个正值,那么这个点的大小意味着这个点所对应区域的一个亮度。咱们也可以把一个图片当成一个三维数组比如[256,256,3]这里的256就分别代表了图片的长和宽的大小,最后的3就是图片的颜色通道,不知道通道是什么也不要紧,咱们暂且知道图片是矩阵组成的就好啦!

这个矩阵就是长的这个样子

那么我们所面临的挑战是什么呢?

我们要面对的可不仅仅是这样一只蹲在我们面前可爱的小猫,在实际中有着很多的可能性,比如光照强度,遮蔽程度,角度等等,这些就成为了我们深度学习任务的一个极大的挑战。

这些异形就是我们所面临的挑战

深度学习要解决的最核心也是最基本的问题就是分类任务了,它也是咱们理解深度学习一个最好的入手点。

分类问题的常规套路

一个分类任务的常规套路大致可以分为三点:

1、收集数据并给定标签:

就是我们要制作训练集了,包括data label这两部分,别小看收集数据了,这部其实很麻烦的,没有合适的数据很难训练出优秀的模型的,两个量都很重要,一个是质量一个是数量,对于我们深度学习来说,数量是很重要的,基本上都要以万为基本单位的。

2、训练一个分类器: 这步可以说是很核心的一步,分类器的效果好坏决定了我们最终应用的效果,深度学习之所以效果要超过传统的机器学习在部分领域上比如计算机视觉,主要在于深度学习所训练的分类器更强大,这节课咱们只简单的介绍,干货还是在后面的。

3、测试评估: 一个好的分类器,不是咱们通过大量的数据和一个强大的模型结构就可以的。在训练好分类器后,一个更重要的点就是我们要去测试和评估,比如准确率,召回率等衡量指标。我们要通过这些指标反复调节模型参数直到得到最好的模型无论是机器学习还是深度学习都离不开这三步,有了这样的一个流程下面我们就来看一看传统的机器学习算法是如何进行分类任务的。

这个就是数据库,简单说下这个数据库有10类标签,就是有10个类别,接下来要做的就是训练一个分类模型啦。

我的这个做法很多同学可能会说我很二,但是为了更好的给那些刚入门(坑)的同学更直观的表达,咱们简单的来乐呵下就好。

用每个图片的像素点所构成的矩阵去算和它像素点差异最小的那几个数据样本是哪几个。虽然做法很二,但这也是一个简单的K近邻问题,我们通过像素点的L1距离(这个看公式吧)去计算输入和所有训练集中的样本的距离然后找出最小的那K个,输入的样本的类别就是那K个里投票和。

这里我要强调的是,我不是用这种做法去说一个分类的流程,而是让大家看到咱们传统做法所需的一些东西。这里咱们在做分类的时候所需的参数有K近邻中的K的大小,还要选择距离公式也就是L的选择,这只是最少的参数选择,要是更复杂的模型我们所需选择的参数就更多了。不同的参数选择可以说对于最终的结果有着很大的影响,这也就是传统的机器学习算法很头疼的一个问题很多东西都需要咱们不断去尝试。那么深度学习一个很强大的地方就是我们并不需要设定很多这样的超参数。

接下来咱们再来强调下上面这张图,这个的目的就是很多同学并没有太多机器学习和实战的基础,需要给大家对数据集的划分有个大致的概念。

我们在训练模型之前的数据准备要把整个数据分成两个大部分,一个是训练数据,一个是测试数据。理论上来说测试数据是很宝贵的,我们只有在最后的时候才能使用测试数据去评估,在训练的过程中决不允许出现测试数据。

还有就是我们还要把训练数据这个大部分切分成几个小份,比如5个小份,这么做的目的是我们还需要验证集,验证集的意思就是我们在训练模型的时候要不断的做一个模型自测试效果的过程,比如用其中的4小份作为训练数据,用另一小份作为验证数据。还有一个知识点要给大家强调下,我们在实际训练模型的时候更多的是使用交差验证,什么是交差呢?就是我们这次取这4个作为训练下次我们再取另外4个作为训练,这样就可以保证咱们训练模型的可靠性更大!

来源:唐宇迪CSDN博客 地址: https://blog.csdn.net/tangyudi/article/details/80124649

原文发布于微信公众号 - 人工智能头条(AI_Thinker)

原文发表时间:2018-07-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏数值分析与有限元编程

逆迭代法求矩阵特征值

前面提到,幂迭代法用于求矩阵的主特征值以及对应的特征向量。如果把幂迭代用于这个矩阵的逆矩阵,那么就能求得最小的特征值。来看下面的定理: 设n阶矩阵A的特征值用λ...

46560
来自专栏ACM算法日常

第六篇:《机器学习之神经网络(一)》

上回我们带大家使用Python实现逻辑回归来辨别一只猫的图片,大家应该隐约感觉到逻辑回归的神奇了,不免好奇为什么它可以做识别呢?这就是回归的强大能力——分类!回...

10340
来自专栏数据科学与人工智能

【陆勤阅读】机器学习和统计模型的差异

在各种各样的数据科学论坛上这样一个问题经常被问到——机器学习和统计模型的差别是什么? 这确实是一个难以回答的问题。考虑到机器学习和统计模型解决问题的相似性,两者...

25280
来自专栏应兆康的专栏

27. 减少方差的技术

• 添加更多的训练数据:这是最简单也是最可靠的一种方式来处理方差,只要你能访问大量的数据并有足够的计算能力来处理它们。

19540
来自专栏腾讯大数据可视化设计团队的专栏

遇见大数据可视化 :图表设计 ( 一 )

在大数据迅速发展的时代,研究数据可视化的价值显而易见。本篇文章主要对数据可视化中的基本元素:基础图表进行相关探索。

3.3K50
来自专栏AlgorithmDog的专栏

XGBoost + LR 就是加特征而已

XGBoost + LR 在工业和竞赛实践中,都取得了不错的效果。但 XGBoost 的叶子节点不能完全替代人工特征, XGBoost + LR 并没有...

40180
来自专栏机器之心

AAAI 2018 | 如何高效进行大规模分类?港中文联合商汤提出新方法

44080
来自专栏机器之心

学界 | 超越ImageNet:谷歌内建300M图像数据集揭露精度与数据的线性增长关系

F选自Google Research 机器之心编译 参与:蒋思源、路雪 自残差网络以来,深度模型拥有了极大的容量,同时 GPU、TPU 等硬件为深度学习提供了巨...

32690
来自专栏人工智能头条

为什么深度学习不能取代传统的计算机视觉技术?

19330
来自专栏Petrichor的专栏

思考: 现有 不平衡样本处理方法 的 缺陷

现实中采集到的训练样本往往分布不均。如果不加处理而直接训练,往往会使得模型更侧重训练到样本数目较多的类别,而轻视了样本数目较少类别,最终影响到模型的泛化能力。

17040

扫码关注云+社区

领取腾讯云代金券