Red neuronal Hamming

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 2 de agosto de 2019; la verificación requiere 1 edición .

Una red neuronal de Hamming es un tipo de red neuronal utilizada para clasificar vectores binarios, cuyo principal criterio es la distancia de Hamming . Es un desarrollo de la red neuronal de Hopfield .

La red se utiliza para correlacionar el vector binario , donde , con una de las imágenes de referencia (cada clase tiene su propia imagen), o para decidir que el vector no corresponde a ninguno de los estándares. A diferencia de la red Hopfield, no emite la muestra en sí, sino su número. ${\ estilo de visualización x = (x_{1},x_{2},x_{3},...,x_{m})}$ ${\displaystyle x_{i}=\{-1,1\))$

La red fue propuesta por Richard Lippmann en 1987. Se posicionó como un dispositivo de almacenamiento heteroasociativo especializado. [una]

Arquitectura

La red de Hamming es una red neuronal de tres capas con retroalimentación. El número de neuronas en la segunda y tercera capa es igual al número de clases de clasificación. Las sinapsis de las neuronas de la segunda capa están conectadas a cada entrada de la red, las neuronas de la tercera capa están interconectadas por conexiones negativas, excepto la sinapsis conectada al propio axón de cada neurona - tiene una retroalimentación positiva.

Capacitación en red

La matriz de coeficientes de peso de la primera capa se obtiene a partir de la matriz de imágenes de referencia como , donde la matriz de imágenes de referencia es una matriz , cada fila de la cual es el vector binario de referencia correspondiente. La función de activación se define como $X$ $w_{ij}={\dfrac{x_{ij}}{2}}$ $K\veces M$ $f(s)=\left\{{\begin{matriz}0,&s\leqslant 0,\\s,&0<s\leqslant T;\\T,&s>T\\\end{matriz} }\Correcto.$

dónde $T={\dfrac{M}{2))$

La matriz de peso de la segunda capa tiene el tamaño y se define como $K\veces K$

{\begin{bmatrix}1&-\epsilon &\cdots &-\epsilon \\-\epsilon &1&\cdots &-\epsilon \\\cdots &\cdots &\cdots &\cdots \\-\epsilon &-\epsilon &\cdots &1\end{bmatriz}},

dónde $\epsilon \in (0,{\dfrac {1}{K))]$

Por lo tanto, la formación se lleva a cabo en un ciclo.

Operación de red

El vector clasificado se da como entrada . El estado de las neuronas en la primera capa se calcula como . La salida de las neuronas en la primera capa se obtiene aplicando una función de activación al estado y se convierte en el valor inicial de las neuronas correspondientes en la segunda capa. Además, los estados de las neuronas de la segunda capa se obtienen a partir de su estado anterior, con base en la matriz de coeficientes de peso de la segunda capa, y el procedimiento se repite iterativamente hasta que el vector de estado de la segunda capa se estabiliza, hasta que la norma de la diferencia entre los vectores de dos iteraciones sucesivas se vuelve menor que cierto valor (en la práctica, valores del orden de 0, uno). ${\ estilo de visualización {\ vec {x ^ {*}}}}$ $s_{1j}=w_{ji}x_{i}^{*}$ $E_{{máx}}$

Si al final un vector es positivo y el resto son negativos, entonces apunta a una muestra adecuada. Si varios vectores son positivos y, al mismo tiempo, ninguno de ellos supera , esto significa que la red neuronal no puede atribuir el vector entrante a ninguna de las clases, sin embargo, las salidas positivas indican los estándares más similares. $E_{{máx}}$

Ejemplos

La red se puede utilizar para reconocer imágenes que consisten solo en píxeles en blanco y negro, como un índice escrito en un sello de código de sobre .

Notas

↑ Richard Lipman. 1987. Introducción a la informática con redes neuronales. Revista IEEE Assp

Literatura

Vladímir Golovko. Redes neuronales. Formación, organización y aplicación. Libro 4. - M. : IPRZhR, 2001. - 256 p.
Osovsky S. Redes neuronales para el procesamiento de información. - M. : Finanzas y estadísticas, 2002. - 344 p.

Tipos de redes neuronales artificiales

Red feed-forward ( Red de funciones de base radial )
Perceptrón de una sola capa
Perceptrón multicapa ( Rosenblatt • Rumelhart )
Red Hopfield
cadena de Markov
máquina de Boltzmann
Máquina Boltzmann limitada
Codificador automático ( Codificador automático de eliminación de ruido • Codificador automático disperso [en • Codificador automático variacional )
Red profunda de confianza
Red neuronal convolucional
Red neuronal convolucional profunda
Red neuronal de despliegue
Red gráfica inversa convolucional profunda
Red adversaria generativa
Red neuronal recurrente
Redes Neuronales Recursivas
memoria a corto plazo
Bloque recurrente controlado
Máquinas neurales de Turing
Red bidireccional (Red neuronal recurrente bidireccional • Red bidireccional con memoria a corto plazo larga • Neuronas recurrentes controladas bidireccionales )
Red residual profunda
Red de eco neuronal
Método de aprendizaje extremo
Método de estados inestables
Máquinas de vectores soporte
Red Kohonen
Mapa autoorganizado de Kohonen
Red neuronal de la cápsula
Memoria asociativa en redes neuronales

Aprendizaje automático y minería de datos
Tareas	Problema de clasificación Aprender sin un maestro Aprendizaje asistido por profesores Análisis de regresión AutoML reglas de asociación Extracción de características entrenamiento de rasgos Entrenamiento de clasificación Derivación gramatical Aprender en línea
Aprendiendo con un maestro	método del k-vecino más cercano Clasificador bayesiano ingenuo árbol de decisión Máquinas de vectores soporte Regresión lineal Regresión logística perceptrón conjuntos de modelos Harpillera impulsar bosque aleatorio Método de vector relevante
análisis de conglomerados	método k-medias método de agrupamiento difuso Agrupación jerárquica algoritmo EM ABEDUL CURAR DBSCAN ÓPTICA Desplazamiento medio
Reducción de dimensionalidad	Análisis factorial Método de componentes principales CCA ICA LDA Expansión de matriz no negativa t-SNE
Pronóstico estructural	Graficar modelo probabilístico red bayesiana Modelo oculto de Markov FRC
Detección de anomalías	método del k-vecino más cercano Nivel de emisión local
Graficar modelos probabilísticos	red bayesiana Red de Markov Modelo oculto de Markov
Redes neuronales	Máquina Boltzmann limitada mapa autoorganizado Función de activación Sigmoideo softmax Funcion de base radial Método de propagación hacia atrás Aprendizaje profundo perceptrón multicapa Red neuronal recurrente memoria a corto plazo Bloque recurrente controlado Red neuronal convolucional U-red Codificador automático
Aprendizaje reforzado	proceso de Markov Ecuación de Bellman Algoritmo codicioso Q-aprendizaje SARAS Diferencia temporal (DT)
Teoría	Teoría de Vapnik-Chervonenkis Dilema de dispersión de sesgo Teoría del aprendizaje computacional Minimización empírica del riesgo El aprendizaje de Occam aprendizaje PAC Teoría del aprendizaje estadístico
revistas y congresos	NeurIPS ICML ML JMLR ArXiv:cs.LG