admin - 2008-6-24 14:24:00
1 介绍
求异或（XOR）操作是计算机中常用到的一种计算：
0 XOR 0 = 0
0 XOR 1 = 1
1 XOR 0 = 1
1 XOR 1 = 0
我们可以使用第一篇文章中的代码来计算这个结果（需要修改其中的训练集），可以发现学习后的结果不能让我们满意，原因是单层神经网络学习能力有限，需要使用更加复杂的网络来学习。
在这一篇文章中，我们将使用一个新的多层神经网络来学习。
2 范例程序的使用和说明
该程序的使用说明和C#单层人工神经网络类似，可以参考
但是多了一个计算操作（XOR），如图：
3 网络结构
该多层神经网络在单层神经网络的基础上增加了一层“隐藏层”（Hidden）
4 学习算法
基本的原理就是用实际网络计算出来的值和期望的值进行比较，然后来调整自己的权值。
/// <summary>
/// 根据期望的输出和实际的输出来调整权值
/// </summary>
/// <param name="targOut">期望的输出</param>
private void train_network(double[] outputs)
{
//get momentum values (delta values from last pass)
double[] delta_hidden = new double[_nn.NumberOfHidden + 1];
double[] delta_outputs = new double[_nn.NumberOfOutputs];
// Get the delta value for the output layer
for (int i = 0; i < _nn.NumberOfOutputs; i++)
{
delta_outputs=
_nn.Outputs * (1.0 - _nn.Outputs) * (outputs - _nn.Outputs);
}
// Get the delta value for the hidden layer
for (int i = 0; i < _nn.NumberOfHidden + 1; i++)
{
double error = 0.0;
for (int j = 0; j < _nn.NumberOfOutputs; j++)
{
error += _nn.HiddenToOutputWeights[i, j] * delta_outputs[j];
}
delta_hidden = _nn.Hidden * (1.0 - _nn.Hidden) * error;
}
// Now update the weights between hidden & output layer
for (int i = 0; i < _nn.NumberOfOutputs; i++)
{
for (int j = 0; j < _nn.NumberOfHidden + 1; j++)
{
//use momentum (delta values from last pass),
//to ensure moved in correct direction
_nn.HiddenToOutputWeights[j, i] += _nn.LearningRate * delta_outputs * _nn.Hidden[j];
}
}
// Now update the weights between input & hidden layer
for (int i = 0; i < _nn.NumberOfHidden; i++)
{
for (int j = 0; j < _nn.NumberOfInputs + 1; j++)
{
//use momentum (delta values from last pass),
//to ensure moved in correct direction
_nn.InputToHiddenWeights[j, i] += _nn.LearningRate * delta_hidden * _nn.Inputs[j];
}
}
}
附件: ann2.rar
求异或（XOR）操作是计算机中常用到的一种计算：
0 XOR 0 = 0
0 XOR 1 = 1
1 XOR 0 = 1
1 XOR 1 = 0
我们可以使用第一篇文章中的代码来计算这个结果（需要修改其中的训练集），可以发现学习后的结果不能让我们满意，原因是单层神经网络学习能力有限，需要使用更加复杂的网络来学习。
在这一篇文章中，我们将使用一个新的多层神经网络来学习。
2 范例程序的使用和说明
该程序的使用说明和C#单层人工神经网络类似，可以参考
但是多了一个计算操作（XOR），如图：
3 网络结构
该多层神经网络在单层神经网络的基础上增加了一层“隐藏层”（Hidden）
4 学习算法
基本的原理就是用实际网络计算出来的值和期望的值进行比较，然后来调整自己的权值。
/// <summary> /// 根据期望的输出和实际的输出来调整权值 /// </summary> /// <param name="targOut">期望的输出</param> private void train_network(double[] outputs) { //get momentum values (delta values from last pass) double[] delta_hidden = new double[_nn.NumberOfHidden + 1]; double[] delta_outputs = new double[_nn.NumberOfOutputs]; // Get the delta value for the output layer for (int i = 0; i < _nn.NumberOfOutputs; i++) { delta_outputs= _nn.Outputs * (1.0 - _nn.Outputs) * (outputs - _nn.Outputs); } // Get the delta value for the hidden layer for (int i = 0; i < _nn.NumberOfHidden + 1; i++) { double error = 0.0; for (int j = 0; j < _nn.NumberOfOutputs; j++) { error += _nn.HiddenToOutputWeights[i, j] * delta_outputs[j]; } delta_hidden = _nn.Hidden * (1.0 - _nn.Hidden) * error; } // Now update the weights between hidden & output layer for (int i = 0; i < _nn.NumberOfOutputs; i++) { for (int j = 0; j < _nn.NumberOfHidden + 1; j++) { //use momentum (delta values from last pass), //to ensure moved in correct direction _nn.HiddenToOutputWeights[j, i] += _nn.LearningRate * delta_outputs * _nn.Hidden[j]; } } // Now update the weights between input & hidden layer for (int i = 0; i < _nn.NumberOfHidden; i++) { for (int j = 0; j < _nn.NumberOfInputs + 1; j++) { //use momentum (delta values from last pass), //to ensure moved in correct direction _nn.InputToHiddenWeights[j, i] += _nn.LearningRate * delta_hidden * _nn.Inputs[j]; } } }附件: ann2.rar