专栏首页机器学习与统计学用手机玩转BP神经网络

用手机玩转BP神经网络

早前Google Tensorflow开源了一个在线实验的神经网络平台PlayGround,它是一个入门神经网络非常直观的网站,可以将神经网络的训练过程直接可视化。

http://playground.tensorflow.org/

网页版玩法大家可以去项目网址体验,今天重点给大家介绍一款APP,名字就叫神经网络,下载安装就可以在iPhone和iPad上感受神经网络的魅力了。

这款app灵感来源便是Google Tensorflow 的 Deep playground,程序大量代码都借鉴了这个开源项目。这款程序使用的神经网络是简单的反向传导神经网络(Backpropagation Neural Networks),可以直观地感受到神经网络训练过程中的变化,包括连接的强弱、每个结点负责识别的特征和最终输出等图像等。

与网页版一样提供了4种不同形态的数据,分别是圆形、异或、高斯和螺旋。平面内的数据分为蓝色和黄色两类。

首先选择数据,然后整学习速率、激活函数、正则化、正则化率等参数,也可以调节噪声、训练数据和测试数据的比例和Batch size的大小,就可以开始训练神经网络啦!

其中:

学习率

其中α就是学习速率,提高学习率,可以显著增加学习速度,但太大又可能会跳过最低点,从而造成振荡。

激活函数

激活函数的作用是将神经网络的输出非线性化,使神经网络能够处理非线性数据。本程序有三个激活函数,分别是ReLU、Sigmoid和Tanh。还有一个Linear相当于没有激活函数。

  • 红色:ReLU
  • 蓝色:Tanh
  • 绿色:Sigmoid
  • 紫色:Linear

正则化函数

正则化也称权重衰减(Weight decay),目的是降低权值(Weight),防止过拟合。本程序有两个正则化函数,分别是L1和L2,以及一个None选项。L1可以将权值一直衰减到0,因此它能将权值矩阵变稀疏。

L2对大的数衰减大,对小的数衰减小,因此它不是那么容易将权重衰减到0,但是它可以获得一个比较均匀的权值矩阵。

四组数据里面难度最大的就是螺旋型,大家一起挑战一下吧1

本文分享自微信公众号 - 机器学习与统计学(tjxj666),作者:统计学家

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-07-26

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • [Python人工智能] 四.神经网络和深度学习入门知识

    首先第一部分也是莫烦老师的在线学习笔记,个人感觉挺好的基础知识,推荐给大家学习。对机器学习进行分类,包括: 1.监督学习:通过数据和标签进行学习,比如从...

    统计学家
  • 神经网络七十年:回顾与展望

    在七十年的发展历程中,神经网络曾历经质疑、批判与冷落,同时也几度繁荣并取得了许多瞩目的成就。本期分享一篇2016年发表在计算机学报的中文神经网络七十年综述供读者...

    统计学家
  • 机器学习算法优缺点对比及选择(汇总篇)

    本文的目的,是务实、简洁地盘点一番当前机器学习算法。文中内容结合了个人在查阅资料过程中收集到的前人总结,同时添加了部分自身总结,在这里,依据实际使用中的经验,将...

    统计学家
  • 吴恩达 —— 深度学习 Course 1 笔记

    Course1:神经网络和深度学习,包括: ---- [1] Week1:深度学习概述 [2] Week2:神经网络基础 [3] Week3:浅层神经网络 ...

    echobingo
  • 关于神经网络技术演化史

    神经网络和深度学习技术是当今大多数高级智能应用的基础。在本文中,来自阿里巴巴搜索部门的高级算法专家孙飞博士将简要介绍神经网络的发展,并讨论该领域的最新方法。

    程序你好
  • 神经网络和深度学习(一)——深度学习概述

    神经网络和深度学习(一) ——深度学习概述 (原创内容,转载请注明来源,谢谢) 一、监督学习与神经网络 监督学习可以在一些地方应用,包括房价预测、广告精准定位、...

    企鹅号小编
  • 【干货长文】神经网络浅讲:从神经元到深度学习

      神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向–深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法,同时也可以更好地帮助你理解...

    小莹莹
  • 零基础入门神经网络:从原理、主要类型到行业应用

    原作 Jay Shah Root 编译自 Jay Shah寄几的博客 量子位 出品 | 公众号 QbitAI 最近,神经网络这个词特别火,吸引不少眼球。但是神经...

    量子位
  • 神经网络浅讲:从神经元到深度学习

    作者 | 计算机的潜意识 整理 | AI科技大本营(rgznai100) 神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向--深度学习的基础。学习神...

    AI科技大本营
  • 重磅!从单层感知器到深度学习以及深度学习必知的框架

    一 单层神经网络(感知器) 1.结构      下面来说明感知器模型。     在原来MP模型的“输入”位置添加神经元节点,标志其为“输入单元”。其余不变,...

    深度学习思考者

扫码关注云+社区

领取腾讯云代金券