Método de corrección de retroalimentación de error

El método de corrección de retroalimentación de errores es un método de entrenamiento de perceptrón estocástico necesario para asegurar la convergencia con conexiones variables de más de una capa. El método fue propuesto por Rosenblatt para perceptrones con conexiones SA variables y puede usarse para perceptrones multicapa binarios . Es una alternativa al método backpropagation , pero a diferencia de este, garantiza el proceso de convergencia (llegar a una solución).

Algoritmo

Para cada elemento R, se establece el error , donde es la respuesta requerida y es la respuesta lograda. $E_{r}=R^{*}-r^{*}$ $R^{*}$ $r^{*}$
Para cada elemento A , el error se calcula de la siguiente manera: $ai}$
- Al principio ; $E_{i}=0$
- Si el elemento está activo y el enlace ( o generalmente ) termina en el elemento R con un error distinto de cero , que difiere en signo del peso del enlace , entonces con probabilidad se debe agregar una corrección igual a -1; $ai}$ $c_{{ir}}$ ${\textstyle c_{{ir}}=a_{i}\cdot w_{{ir}}}$ ${\textstyle c_{{ir}}=f(w_{{ir}},a_{i})}$ $E_{r}$ $w_{{ir}}$ $p_{1}$ $E_{yo}$
- Si el elemento está inactivo y el enlace termina en el elemento R con un error distinto de cero , no difiere (coincide) en el signo del peso del enlace , entonces con probabilidad se debe agregar una corrección igual a +1; $ai}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $p_{2}$ $E_{yo}$
- Si el elemento está inactivo y el enlace termina en el elemento R con un error distinto de cero , que difiere en signo del peso del enlace (o ), entonces con probabilidad se debe agregar una corrección igual a +1; $ai}$ $c_{{ir}}$ $E_{r}$ $w_{{ir}}$ $w_{{ir}}=0$ $p_{3}$ $E_{yo}$
- En todas las demás condiciones, no cambia. $E_{yo}$
Si , entonces agregamos una corrección con un signo que coincide con el signo a todos los enlaces activos que terminan en el elemento A o R , es decir , donde es el valor absoluto (generalmente uno). $E_{i}\not=0$ $\eta$ $E_{yo}$ $\Delta w_{{ij}}=a_{i}^{*}signo(E_{i})\varepsilon$ $\varepsilon$ $\eta$

En la mayoría de los casos, se puede obtener el mejor rendimiento si las probabilidades se eligen de acuerdo con la siguiente condición . $p_{1}>p_{2}>p_{3}$

Literatura

Rosenblatt, F. Principios de neurodinámica: perceptrones y la teoría de los mecanismos cerebrales. - M. : Mir, 1965. - 480 p.

Lakhmi C. Jain; NM Martin Fusión de Redes Neuronales, Sistemas Fuzzy y Algoritmos Genéticos: Aplicaciones Industriales. - CRC Press, CRC Press LLC, 1998