深度学习: Nonlinear (非线性)

定义:

对“乘”、“加”运算 闭合。

作用:

  • 非线性很难形式化,但却是深度学习的 核心竞争力
  • 正是由于网络中强大的非线性因素,我们得以 深度地抽象出 特征。
  • 非线性函数主要存在于 激活函数bnpooling层 ,用来 增加模型容错能力(即 防止过拟合)。

Note:

  • 假若网络中全部是线性部件,那么线性的组合 其实还是线性,与单独一个线性分类器无异。这样就根本做不到用非线性来逼近任意函数。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

入门 | 深度学习模型的简单优化技巧

以下是我与同事和学生就如何优化深度模型进行的对话、消息和辩论的摘要。如果你发现了有影响力的技巧,请分享。

1350
来自专栏叶茂的专栏

机器学习调优实战

最近我在学习吴恩达的 Machine Learning 课程中看到他讲的关于如何高效对机器学习效果进行调优的内容,感觉非常有用,想给大家分享下。

4.4K1
来自专栏进击的程序猿

卷积神经网络基础知识

传统的机器学习大多数都需要我们手工去建立feature,这种方法建立出来的feature,大多都是有物理意义的,所以算法最终好不好,就看你特征工程做的怎么样!

1474
来自专栏小小挖掘机

模型调优没效果? 不妨试试Batch Normalization!

今儿调模型大佬又给支了一招,叫Batch Normalization(下面简称BN),虽然还没有深刻理解这玩意是什么,但是是真的挺有效的,哈哈。因此本文只是总结...

4226
来自专栏数据科学与人工智能

机器学习调优实战

导语 机器学习算法性能很差怎么办?过拟合和欠拟合是什么?调优方法有哪些?如何高效运用trick? 大家知道最近 A.I 非常火,经常看到各种相关技术介绍,像什么...

2875
来自专栏机器之心

资源 | 神经网络目标计数概述:通过Faster R-CNN实现当前最佳的目标计数

选自SoftwareMill 机器之心编译 作者:Krzysztof Grajek 参与:黄小天 在机器学习中,精确地计数给定图像或视频帧中的目标实例是很困难...

42213
来自专栏量子位

一文解读聚类中的两种流行算法

原作:Anuja Nagpal 谢阳 编译自 Medium 量子位 出品 | 公众号 QbitAI 在这篇文章中,Nagpal以简明易懂的语言解释了无监督学习中...

4006
来自专栏数据派THU

独家 | 一文读懂人工神经网络学习原理

原文标题: How do Artificial Neural Networks learn? 作者:rubikscode 翻译:和中华 校对:李海明 本文对人...

4024
来自专栏智能算法

分类算法之朴素贝叶斯分类(Naive Bayesian classification)

如果用一句话来概括贝叶斯分类器,那就是:根据样本集中的先验信息,来推算出某一个样本属于某一类的概率,然后根据推算出来的结果将该样本分为某类 。贝叶斯分类是一类分...

3167
来自专栏瓜大三哥

图像识别(自己训练模型)

1.数据集:从VGG网下载,这是一些各种猫和狗的图片(每个文件夹下面大约200张图片,有点少,所以训练的结果并不是很好,最好是上万的数据) ? 2.做得图像识...

6137

扫码关注云+社区

领取腾讯云代金券