问尽管神经网络的总体误差较低，但C# Encog神经网络的期望输出仍与实际误差相差甚远。
EN

Stack Overflow用户

提问于 2014-04-09 07:33:32

回答 1查看 672关注 0票数 3

我已经试着让恩奥克走了几天了。

我的数据包括4个输入变量(1到1000之间)和1个输出变量(在-30到30之间)。我正在训练大约50,000行数据。

在将数据传递到具有以下结构和训练的神经网络之前，对数据进行规范化( tanh激活函数在-1到1之间)：

 Network.AddLayer(new BasicLayer(null, true, 4));
 Network.AddLayer(new BasicLayer(new ActivationTANH(), true, 8));
 Network.AddLayer(new BasicLayer(new ActivationTANH(), false, 1));
 Network.Structure.FinalizeStructure();
 Network.Reset();

 IMLDataSet trainingData = new BasicMLDataSet(Input.ToArray(), ExpectedOutput.ToArray());

 IMLTrain train = new ResilientPropagation(Network, trainingData);

 int epoch = 1;

 do
 {
     train.Iteration();
     Console.WriteLine(@"Epoch #" + epoch + @" Error:" + train.Error);
     epoch++;
 } while (train.Error > 0.024);

然后，程序输出每一行的预期输出以及来自神经网络的实际输出。下面是输出(几行)的屏幕截图：http://i.imgur.com/UVWCOis.png

如您所见，在输出输出之前，误差(即所有行的神经网络的平均误差)必须小于0.024。但是许多预期的和实际的输出都有很大的误差。

我认为神经网络对传播不够敏感。神经网络的实际输出似乎都是非常接近的，我相信是因为它们离初始的随机权值并没有太大的偏差。

有人能建议我怎么解决这个问题吗？

我试着缩小输入的大小(我用了50)，我也尝试消除偏见，这两者都导致了相似的结果。

neural-network

encog

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-04-11 12:54:17

如果没有看到你的数据，我就不能确切地说出这种差异是从哪里来的。我怀疑一些数据元素的错误比其他的要高得多。如果您使用这种方法，它将给您详细的错误如何计算，以及“当前的错误”在每个元素是什么，因为它通过您的数据。如果数据集很大，这将产生相当多的输出。

    public static void errorDiagnostic(BasicNetwork network, MLDataSet dataSet) {
    int count = 0;
    double totalError = 0;

    System.out.println("Network error: " + network.calculateError(dataSet));


    for(MLDataPair pair : dataSet) {
        MLData actual = network.compute(pair.getInput());
        System.out.println("Evaluating element " + count + " : " + pair.getInput().toString());

        for(int i=0;i<pair.getIdeal().size();i++) {
            double delta = Math.abs(actual.getData(i) - pair.getIdeal().getData(i));
            totalError += delta*delta;
            count++;
            double currentError = totalError/count;
            System.out.println("\tIdeal: " + pair.getIdeal().getData(i) + ", Actual: " + actual.getData(i) + ", Delta: " + delta + ", Current Error: " + currentError);

        }
    }
}

例如，经过训练的XOR (来自Encog hello world应用程序)的输出是：

    Network error: 0.009643582111728128
Evaluating element 0 : [BasicMLData:0.0,0.0]
    Ideal: 0.0, Actual: 0.10384251352940682, Delta: 0.10384251352940682, Current Error: 0.01078326761610504
Evaluating element 1 : [BasicMLData:1.0,0.0]
    Ideal: 1.0, Actual: 0.9109458503325736, Delta: 0.08905414966742642, Current Error: 0.009356954594546711
Evaluating element 2 : [BasicMLData:0.0,1.0]
    Ideal: 1.0, Actual: 0.8914073581830911, Delta: 0.10859264181690886, Current Error: 0.01016875701528963
Evaluating element 3 : [BasicMLData:1.0,1.0]
    Ideal: 0.0, Actual: 0.08982236581744897, Delta: 0.08982236581744897, Current Error: 0.009643582111728128