【说站】python ReLU函数是什么

很酷的站长

发布于 2022-11-24 11:51:09

4310

发布于 2022-11-24 11:51:09

文章被收录于专栏：站长的编程笔记

python ReLU函数是什么

说明

1、线性整流函数，又称为修正性线性单元，ReLU是一个分段函数，其公式为:f(x)=max(0,x)。

2、比Sigmoid函数收敛速度更快。输出以0为中心。由于饱和性产生的梯度消失。

实例

import numpy as np
import matplotlib.pyplot as plot
 
 
def relu(x):
    return np.maximum(0, x)
 
 
if __name__ == "__main__":
    a = np.arange(-20, 20, 0.1)
    b = relu(a)
 
    plot.plot(a, b, label="ReLU", color="red")
    plot.legend()
    plot.grid()
    plot.show()

以上就是python ReLU函数的介绍，希望对大家有所帮助。

本文参与腾讯云自媒体同步曝光计划，分享自作者个人站点/博客。

如有侵权请联系 cloudcommunity@tencent.com 删除

神经网络