我正在学习神经网络,并用python实现它。我首先定义了一个softmax函数,我遵循这个问题Softmax function - python给出的解决方案。以下是我的代码: def softmax(A): Computes a softmax function.
Input: A (N, k) ndarray.test_array是测试数据,test
我正在构建一个深度神经网络,我发现当在完全连接层中没有激活函数(softmax)时,我的网络收敛得更快。但是当我添加这个softmax函数时,收敛性真的很差,甚至在很高的损失中停止。顺便说一句。我使用交叉熵损失作为损失函数,使用rmsprop作为优化器。Nerual network without last softmax activation