sigmoid是否促进了非线性决策边界的建模，还是来自高维数据？
sigmoid是否促进了非线性决策边界的建模，还是来自高维数据？
提问于 2021-02-16 00:02:24
我正在用乙状结肠作为激活函数来写一个神经网络。根据一次讲座，乙状结肠只是将数字压缩到(0,1)间隔上。要建立非线性决策边界模型，需要高维数据。另一堂关于神经网络中的乙状结肠的讲座(麻省理工学院S.191)指出，乙状结肠的非线性行为是神经网络能够建立非线性决策边界的原因。所以我有点困惑。sigmoid是否有助于建模非线性决策边界，还是来自高维数据，因为您可以使用sigmoid生成线性决策边界w/o事件？
回答 1
Data Science用户
回答已采纳
发布于 2021-02-16 07:51:15
非线性决策边界的建模能力直接来自于非线性激活函数.当您看到连接N个线性转换(即稠密层)等效于单个线性转换时，您可以理解这一点。这是两个线性层次的数学证明：
(其中W'= W_1 W_2和b'= b_1 W_2 + b_2)
页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://datascience.stackexchange.com/questions/89420
复制相关文章
相似问题
腾讯云开发者
