基于tensorflow的一元二次方程回归预测

0.检测tensorflow环境

安装tensorflow命令:pip install tensorflow 下面一段代码能够成功运行,则说明安装tensorflow环境成功。

import tensorflow as tf
hello = tf.constant('hello world')
session = tf.Session()
session.run(hello)

上面一段代码成功运行的结果如下图所示:

image.png

1.数据准备

从下图可以看出,变量a为1维的ndarray对象时,a[:, np.newaxis]a.reshape(-1, 1)相同。

image.png

import numpy as np

X = np.linspace(-1, 1, 300)[:, np.newaxis].astype('float32')
noise = np.random.normal(0, 0.05, X.shape).astype('float32')
y = np.square(X) - 0.5 + noise

第1行代码导入numpy库,起别名np; 第3行代码调用np.linspace方法获得一个区间内的等间距点,例如np.linspace(0, 1, 11)是获取[0, 1]区间的11个等间距点。如下图所示:

image.png

第4行代码调用np.random.normal方法初始化符合正态分布的点,第1个参数是正态分布的均值,第2个参数是正态分布的方差,第3个参数是返回值的shape,返回值的数据类型为ndarray对象。 第5行代码调用np.square方法对X中的每一个值求平方,- 0.5使用了ndarray对象的广播特性,最后加上噪声noise,将计算结果赋值给变量y。

2.搭建神经网络

import tensorflow as tf 

Weights_1 = tf.Variable(tf.random_normal([1, 10]))
biases_1 = tf.Variable(tf.zeros([1, 10]) + 0.1)
Wx_plus_b_1 = tf.matmul(X, Weights_1) + biases_1
outputs_1 = tf.nn.relu(Wx_plus_b_1)
Weights_2 = tf.Variable(tf.random_normal([10, 1]))
biases_2 = tf.Variable(tf.zeros([1, 1]) + 0.1)
Wx_plus_b_2 = tf.matmul(outputs_1, Weights_2) + biases_2
outputs_2 = Wx_plus_b_2
loss = tf.reduce_mean(tf.square(y - outputs_2))
optimizer = tf.train.AdamOptimizer(0.1)
train = optimizer.minimize(loss)

第1行代码导入tensorflow库,起别名tf; 第3-6这4行代码定义神经网络中的输入层到第1隐层的连接; 第7-10这4行代码定义神经网络中的第1隐层到输出层的连接; 第3、7行代码定义Weights,它的形状是连接上一层神经元的个数*连接下一层神经元的个数; 第4、8行代码定义biases,它是二维矩阵,行数一直为1,列数为连接下一层神经元的个数,即它的形状为1*连接下一层神经元的个数; 第5、9行代码表示wx+b的计算结果; 第6行代码表示在第1个连接的输出结果,经过激活函数relu得出; 第10行代码表示在第2个连接的输出结果,因为此连接的下一层是输出层,所以不需要激活函数。 第11行代码定义损失函数,等同于回归预测中的MSE,中文叫做均方误差,数据类型如下图所示:

image.png

第12行代码调用tf.train库中的AdamOptimizer方法实例化优化器对象,数据类型如下图所示:

image.png

第13行代码调用优化器的minimize方法定义训练方式,参数为损失函数。方法的返回结果赋值给变量train,数据类型如下图所示:

image.png

3.变量初始化

init = tf.global_variables_initializer()
session = tf.Session()
session.run(init)

对于神经网络模型,重要是其中的W、b这两个参数。 开始神经网络模型训练之前,这两个变量需要初始化。 第1行代码调用tf.global_variables_initializer实例化tensorflow中的Operation对象。

image.png

第2行代码调用tf.Session方法实例化会话对象; 第3行代码调用tf.Session对象的run方法做变量初始化。

4.模型训练

模型训练200次,每运行1次代码session.run(train)则模型训练1次。 在训练次数为20的整数倍时,打印训练步数、loss值。

for step in range(201):
    session.run(train)
    if step % 20 == 0:
        print(step, 'loss:', session.run(loss))

上面一段代码的运行结果如下:

0 loss: 0.23739298 20 loss: 0.0074774586 40 loss: 0.0032493745 60 loss: 0.0026177235 80 loss: 0.0025075015 100 loss: 0.002472407 120 loss: 0.0024537172 140 loss: 0.002427246 160 loss: 0.002398049 180 loss: 0.002373801 200 loss: 0.002357695

5.完整代码

下面代码与前文相比,将搭建神经网络时重复定义Weights、biases的步骤封装成了函数。

import numpy as np
import tensorflow as tf 

X = np.linspace(-1, 1, 300)[:, np.newaxis].astype('float32')
noise = np.random.normal(0, 0.05, X.shape).astype('float32')
y = np.square(X) - 0.5 + noise

def addConnect(inputs, in_size, out_size, activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size, out_size]))
    biases = tf.Variable(tf.zeros([1, out_size]) + 0.1)
    Wx_plus_b = tf.matmul(inputs, Weights) + biases
    if not activation_function:
        return Wx_plus_b
    else:
        return activation_function(Wx_plus_b)

layer_1 = addConnect(X, 1, 10, tf.nn.relu)
predict_y = addConnect(layer_1, 10, 1)
loss = tf.reduce_mean(tf.square(y - predict_y))
optimizer = tf.train.AdamOptimizer(0.1)
train = optimizer.minimize(loss)

init = tf.global_variables_initializer()
session = tf.Session()
session.run(init)

for step in range(201):
    session.run(train)
    if step % 20 == 0:
        print(step, 'loss:', session.run(loss))

上面一段代码的运行结果如下:

0 loss: 0.28191957 20 loss: 0.011470509 40 loss: 0.0044303066 60 loss: 0.003392854 80 loss: 0.0031887146 100 loss: 0.0030761429 120 loss: 0.0029888747 140 loss: 0.0029117232 160 loss: 0.0028402375 180 loss: 0.0027794265 200 loss: 0.0027436544

6.可视化

前5节内容的可视化代码下载链接: https://pan.baidu.com/s/1AbkH8hFo7Pg1dbcNgdWhwg 密码: 99ku 在下载文件visualization.py的同级目录下打开cmd。 运行命令:python visualization.py 可视化部分截图:

image.png

7.结论

1.这是本文作者写的第2篇关于tensorflow的文章,加深了对tensorflow框架的理解; 2.本文是作者学习《周莫烦tensorflow视频教程》的成果,感激前辈; 视频链接:https://morvanzhou.github.io/tutorials/machine-learning/tensorflow/ 3.本文在周莫烦视频的基础上加入了自己的理解,add_layer函数修改为addConnect函数,本文作者认为更加贴切。

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏漫漫深度学习路

skimage与PIL与png

skimage 与 png png 图像 有 png-8,png-24, png-32 之分,后面的数字代表一个 颜色用几位来存储,png-24就是我们常见的 ...

28370
来自专栏desperate633

LintCode 最小路径和题目分析代码

给定一个只含非负整数的m*n网格,找到一条从左上角到右下角的可以使数字和最小的路径。

7320
来自专栏java初学

MD5算法

30360
来自专栏章鱼的慢慢技术路

Go指南练习_图像

还记得之前编写的图片生成器吗?我们再来编写另外一个,不过这次它将会返回一个 image.Image 的实现而非一个数据切片。

12820
来自专栏kalifaの日々

POJ3684(弹性碰撞)各种wrong answer踩坑

我踩过的坑全部都写在注释里面了,供大家参考。 #include <stdio.h> #include <algorithm> #include <math.h>...

30950
来自专栏技术沉淀

命令行工具:cut列操作

20370
来自专栏WindCoder

TensorFlow入门:一篇机器学习教程

TensorFlow是一个由Google创建的开源软件库,用于实现机器学习和深度学习系统。这两个名称包含一系列强大的算法,它们共享一个共同的挑战——让计算机学习...

40810
来自专栏深度学习之tensorflow实战篇

tensorflow之tf.placeholder 与 tf.Variable区别对比

二者的主要区别在于 Variable:主要是用于训练变量之类的。比如我们经常使用的网络权重,偏置。 值得注意的是Variable在声明是必须赋予初始值。在训...

34040
来自专栏简书专栏

基于tensorflow+RNN的新浪新闻文本分类

tensorflow是谷歌google的深度学习框架,tensor中文叫做张量,flow叫做流。 RNN是recurrent neural network的简...

38630
来自专栏人工智能LeadAI

Tensorflow动态seq2seq使用总结

tf-seq2seq是Tensorflow的通用编码器 - 解码器框架,可用于机器翻译,文本汇总,会话建模,图像字幕等。 动机 其实差不多半年之前就想吐槽Ten...

1K90

扫码关注云+社区

领取腾讯云代金券