Cadena de Markov

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 28 de diciembre de 2019; las comprobaciones requieren 9 ediciones .

Una cadena de Markov es una secuencia de eventos aleatorios con un número finito o contable de resultados , donde la probabilidad de que ocurra cada evento depende únicamente del estado alcanzado en el evento anterior [1] . Se caracteriza por la propiedad de que, en términos generales, con un presente fijo, el futuro es independiente del pasado. Nombrado en honor a A. A. Markov (senior) , quien introdujo por primera vez este concepto en el trabajo de 1906. [2]

Cadena de Markov en tiempo discreto

Definición

Una secuencia de variables aleatorias discretas se denomina cadena de Markov simple (con tiempo discreto) si $\{X_{n}\}_{{n\geqslant 0}}$

{\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n}=i_{n},X_{{n-1}}=i_{{n -1}},\ldots,X_{0}=i_{0})={\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n} =i_{n})

Por lo tanto, en el caso más simple, la distribución condicional del siguiente estado de la cadena de Markov depende solo del estado actual y no depende de todos los estados anteriores (a diferencia de las cadenas de Markov de orden superior).

El rango de variables aleatorias se denomina espacio de estado de la cadena y el número es el número de paso. $\{X_{n}\}$ $norte$

Matriz de transición y cadenas homogéneas

matriz , donde $P{(n)}$

P_{{ij}}{(n)}\equiv {\mathbb {P}}(X_{{n+1}}=j\mid X_{n}=i)

se llama la matriz de probabilidades de transición en el -ésimo paso, y el vector , donde $norte$ ${\mathbf {p}}=(p_{1},p_{2},\ldots)^{{\top }}$

p_{i}\equiv {\mathbb {P}}(X_{0}=i)

— la distribución inicial de la cadena de Markov.

Obviamente, la matriz de probabilidad de transición es estocástica derecha , es decir

\sum \limits _{{j}}P_{{ij}}(n)=1,\quad \forall n\in {\mathbb {N}}

Una cadena de Markov se llama homogénea si la matriz de probabilidad de transición no depende del número de paso, es decir

P_{{ij}}{(n)}=P_{{ij}},\quad \forall n\in {\mathbb {N}}

De lo contrario, la cadena de Markov se llama no homogénea. En lo que sigue, supondremos que estamos tratando con cadenas de Markov homogéneas.

Distribuciones de dimensión finita y la matriz de transición de n pasos

A partir de las propiedades de probabilidad condicional y la definición de cadena de Markov homogénea, se obtiene:

{\mathbb {P}}(X_{{n}}=i_{{n}},\ldots,X_{0}=i_{0})=P_{{i_{{n-1}},i_{ n}}}\cdots P_{{i_{0},i_{1}}}P_{{i_{0}}}

de donde se sigue el caso especial de la ecuación de Kolmogorov-Chapman :

{\mathbb {P}}(X_{n}=i_{n}\mid X_{0}=i_{0})=(P^{n})_{{i_{0},i_{n}} }

es decir, la matriz de probabilidades de transición por pasos de una cadena de Markov homogénea es el -ésimo grado de la matriz de probabilidades de transición por 1 paso. Finalmente, $norte$ $norte$

{\mathbb {P}}(X_{n}=i_{n})=\left((P^{T})^{n}{\mathbf {p}}\right)_{{i_{n} }}

Tipos de estado

estado de retorno .
Cadena de Markov recurrente .
Estado alcanzable .
Cadena de Markov irreducible .
Estado periódico .
Cadena periódica de Markov .
estado absorbente . El estado se llama absorbente si . $i$ $P_{i,i}=1$
Estado ergódico .

Ejemplos

Cadena de Markov con tiempo continuo

Definición

Una familia de variables aleatorias discretas se denomina cadena de Markov (con tiempo continuo) si $\{X_{t}\}_{{t\geqslant 0}}$

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{s}=x_{s},\;0<s\leqslant t)={\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})

Se dice que una cadena de Markov con tiempo continuo es homogénea si

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})={\mathbb {P}}(X_{{h }}=x_{{h}}\mid X_{0}=x_{0})

La matriz de funciones de transición y la ecuación de Kolmogorov-Chapman

Como en el caso del tiempo discreto, las distribuciones de dimensión finita de una cadena de Markov homogénea en tiempo continuo están completamente determinadas por la distribución inicial

{\mathbf {p}}=(p_{1},p_{2},\ldots )^{{\top }},\;p_{i}={\mathbb {P}}(X_{0}= i),\quad i=1,2,\ldots

y la matriz de funciones de transición ( probabilidades de transición )

{\mathbf {P}}(h)=(P_{{ij}}(h))={\mathbb {P}}(X_{h}=j\mid X_{0}=i)

La matriz de probabilidades de transición satisface la ecuación de Kolmogorov-Chapman : o ${\mathbf {P}}(t+s)={\mathbf {P}}(t){\mathbf {P}}(s)$

P_{{ij}}(t+s)=\sum_{k}P_{{ik}}(t)P_{{kj}}(s).

La matriz de intensidad y las ecuaciones diferenciales de Kolmogorov

Por definición, la matriz de intensidad es , o, de manera equivalente, ${\mathbf {Q}}=\lim_{{h\to 0}}{\frac {{\mathbf {P}}(h)-{\mathbf {I}}}{h}}$

{\mathbf {Q}}=(q_{{ij}})=\left({\frac {dP_{{ij}}(h)}{dh}}\right)_{{h=0}}

Dos ecuaciones se derivan de la ecuación de Kolmogorov-Chapman:

Ecuación directa de Kolmogorov ${\frac{d{\mathbf {P}}(t)}{dt}}={\mathbf {P}}(t){\mathbf {Q}},$
Ecuación inversa de Kolmogorov ${\frac {d{\mathbf {P}}(t)}{dt}}={\mathbf {Q}}{\mathbf {P}}(t).$

Para ambas ecuaciones, se elige la condición inicial . decisión apropiada ${\mathbf{P}}(0)={\mathbf{I}}$ ${\mathbf {P}}(t)=\exp({\mathbf {Q}}t).$

Propiedades de las matrices P y Q

Para cualquier matriz tiene las siguientes propiedades: $t>0$ ${\ matemáticas {P}} (t)$

Los elementos de la matriz son no negativos: (no negatividad de las probabilidades). ${\ matemáticas {P}} (t)$ $P_{{ij}}(t)\geqslant 0$
La suma de los elementos en cada fila es 1: (probabilidad completa), es decir, la matriz es estocástica por la derecha (o por filas). ${\ matemáticas {P}} (t)$ $\sum _{j}P_{{ij}}(t)=1$ ${\ matemáticas {P}} (t)$
Todos los valores propios de la matriz no exceden de 1 en valor absoluto: . Si , entonces . $\lambda$ ${\ matemáticas {P}} (t)$ $|\lambda |\leqslant 1$ $|\lambda |=1$ $\lambda=1$
El valor propio de la matriz corresponde a al menos un vector propio izquierdo no negativo - fila (equilibrio): . $\lambda=1$ ${\ matemáticas {P}} (t)$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}P_{{ij}}(t)=p_{j}^{*}$
Para un valor propio de una matriz , todos los vectores raíz son vectores propios, es decir, las celdas de Jordan correspondientes son triviales. $\lambda=1$ ${\ matemáticas {P}} (t)$

La matriz tiene las siguientes propiedades: ${\ matemáticas {Q}}$

Los elementos de la matriz fuera de la diagonal no son negativos: . ${\ matemáticas {Q}}$ $q_{{ij}}\geqslant 0\;i\neq j$
Los elementos de la matriz diagonal no son positivos: . ${\ matemáticas {Q}}$ $q_{{ii}}\leqslant 0$
La suma de los elementos de cada fila es 0: ${\ matemáticas {Q}}$ $\sum _{j}q_{{ij}}=0.$
La parte real de todos los valores propios de la matriz es no positiva: . si , entonces $\mu$ ${\ matemáticas {Q}}$ $Re(\mu)\leqslant 0$ $Re(\mu)=0$ $\mu=0.$
El valor propio de la matriz corresponde a al menos un vector propio de fila izquierda no negativo (equilibrio): $\mu=0$ ${\ matemáticas {Q}}$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}q_{{ij}}=0.$
Para un valor propio de una matriz , todos los vectores raíz son vectores propios, es decir, las celdas de Jordan correspondientes son triviales. $\mu=0$ ${\ matemáticas {Q}}$

Gráfico de transición, conectividad y cadenas de Markov ergódicas

Para una cadena de Markov con tiempo continuo, se construye un gráfico de transición dirigida (brevemente, un gráfico de transición) de acuerdo con las siguientes reglas:

El conjunto de vértices del gráfico coincide con el conjunto de estados de la cadena.
Los vértices están conectados por un borde orientado si (es decir, la intensidad del flujo desde el estado -ésimo al -ésimo es positivo). $i,j\,(i\neq j)$ $i a j$ $q_{{ij}}>0$ $i$ $j$

Las propiedades topológicas del gráfico de transición están relacionadas con las propiedades espectrales de la matriz . En particular, los siguientes teoremas son ciertos para cadenas de Markov finitas: ${\ matemáticas {Q}}$

Las siguientes tres propiedades A, B, C de una cadena de Markov finita son equivalentes (las cadenas que las poseen a veces se denominan débilmente ergódicas ):

A. Para dos vértices diferentes cualesquiera del gráfico de transición, existe tal vértice del gráfico ("drenaje común") que hay caminos orientados de vértice a vértice y de vértice a vértice . Nota : caso posible o ; en este caso, un camino trivial (vacío) de a o de a también se considera un camino dirigido.

i,j\,(i\neq j)

k

i

k

j

k

k = yo

k = j

i

i

j

j

B. Un valor propio cero de una matriz es no degenerado.

{\ matemáticas {Q}}

C. En , la matriz tiende a una matriz en la que todas las filas coinciden (y coinciden, obviamente, con la distribución de equilibrio).

t\to\infty

{\ matemáticas {P}} (t)

Las siguientes cinco propiedades A, B, C, D, D de una cadena de Markov finita son equivalentes (las cadenas que las poseen se denominan ergódicas ):

A. La gráfica de transición de una cadena está conectada direccionalmente. B. El valor propio cero de una matriz no es degenerado y corresponde a un vector propio izquierdo estrictamente positivo (distribución de equilibrio).

{\ matemáticas {Q}}

B. Para algunos, la matriz es estrictamente positiva (es decir, para todos ).

t>0

{\ matemáticas {P}} (t)

P_{{ij}}(t)>0

yo, j

D. Para todos, la matriz es estrictamente positiva.

t>0

{\ matemáticas {P}} (t)

E. Para , la matriz tiende a una matriz estrictamente positiva, en la que todas las filas coinciden (y, obviamente, coinciden con la distribución de equilibrio).

t\to\infty

{\ matemáticas {P}} (t)

Ejemplos

Considere cadenas de Markov de tres estados con tiempo continuo, correspondientes a los gráficos de transición que se muestran en la Fig. En el caso (a), solo los siguientes elementos fuera de la diagonal de la matriz de intensidad son distintos de cero , en el caso (b) solo son distintos de cero , y en el caso (c) son . Los elementos restantes están determinados por las propiedades de la matriz (la suma de los elementos en cada fila es 0). Como resultado, para los gráficos (a), (b), (c) las matrices de intensidad se ven como: $q_{{12}},\,q_{{13}}$ $q_{{12}},\,q_{{31}}\,q_{{32}}$ $q_{{12}},\,q_{{31}}\,q_{{23}}$ ${\ matemáticas {Q}}$ ${\mathbf {Q}}_{a}={\begin{pmatrix}-(q_{{12}}+q_{{13}})&q_{{12}}&q_{{13}}\\0&0&0\ \0&0&0\end{matrix}},$ ${\mathbf {Q}}_{b}={\begin{pmatrix}-q_{{12}}&q_{{12}}&0\\0&0&0\\q_{{31}}&q_{{32}}& -(q_{{31}}+q_{{32}})\end{matrix}},$ ${\mathbf {Q}}_{c}={\begin{pmatrix}-q_{{12}}&q_{{12}}&0\\0&-q_{{23}}&q_{{23}}\\ q_{{31}}&0&-q_{{31}}\end{matrix}},$

Ecuación cinética básica

La ecuación cinética básica describe la evolución de la distribución de probabilidad en una cadena de Markov con tiempo continuo. “Ecuación básica” aquí no es un epíteto, sino una traducción del término en inglés. ecuación maestra . Para el vector fila de la distribución de probabilidad, la ecuación cinética básica tiene la forma: $\Pi$

{\frac{d\pi }{dt}}=\pi {\mathbf {Q}}

y coincide, en esencia, con la ecuación directa de Kolmogorov . En la literatura física, los vectores de columna de probabilidades se usan con más frecuencia y la ecuación cinética básica se escribe en una forma que usa explícitamente la ley de conservación de la probabilidad total:

{\frac {dp_{i}}{dt}}=\sum_{{j,\,j\neq i}}(T_{{ij}}p_{j}-T_{{ji}}p_{i }),

dónde $T_{{ij}}=q_{{ji}}.$

Si existe un equilibrio positivo para la ecuación cinética básica , entonces se puede escribir en la forma $p_{i}^{*}>0$

{\frac {dp_{i}}{dt}}=\sum_{{j,\,j\neq i}}T_{{ij}}p_{j}^{*}\left({\frac { p_{j}}{p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}}\right).

Funciones de Lyapunov para la ecuación cinética básica

Para la ecuación cinética principal, existe una rica familia de funciones convexas de Lyapunov : funciones de distribución de probabilidad que cambian monótonamente con el tiempo. Sea una función convexa de una variable. Para cualquier distribución de probabilidad positiva ( ) definimos la función de Morimoto : $h(x)\,(x>0)$ $p_{i}>0$ $H_{h}(pag)$

H_{h}(p)=\sum_{i}p_{i}^{*}h\left({\frac {p_{i}}{p_{i}^{*}}}\right)

La derivada del tiempo, si satisface la ecuación cinética básica, es $H_{h}(pag)$ $pag(t)$

{\frac {dH_{h}(p(t))}{dt}}=\sum_{{i,j\,i\neq j}}T_{{ij}}p_{j}^{*} \left[h\left({\frac {p_{i}}{p_{i}^{*}}}\right)-h\left({\frac {p_{j}}{p_{j}^ {*}}}\derecha)+h'\izquierda({\frac {p_{i}}{p_{i}^{*}}}\derecha)\izquierda({\frac {p_{j}}{ p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}}\right)\right]\leqslant 0

La última desigualdad es válida debido a la convexidad . $h(x)$

Ejemplos de funciones de Morimoto

H_{h}(pag)

$h(x)=|x-1|$ , ; $H_{h}(p)=\sum_{i}|p_{i}-p_{i}^{*}|$

esta función es la distancia de la distribución de probabilidad actual a la de equilibrio en - norma . El cambio de tiempo es una contracción del espacio de distribuciones de probabilidad en esta norma. (Para conocer las propiedades de las contracciones, consulte el artículo Teorema del punto fijo de Banach ).

l_{1}

$h(x)=x\lnx$ , ; $H_{h}(p)=\sum_{i}p_{i}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right)$

esta función es la (menos) entropía de Kullback (ver distancia de Kullback-Leibler ). En física, corresponde a la energía libre dividida por (donde es la constante de Boltzmann , es la temperatura absoluta ):

kT

k

T

si ( distribución de Boltzmann ) entonces

p_{i}^{*}=\exp(\mu _{0}-U_{i}/kT)

H_{h}(p)=\sum_{i}p_{i}\ln p_{i}+\sum_{i}p_{i}U_{i}/kT-\mu_{0}=( \langle U\rangle -TS)/kT

$h(x)=-\ln x$ , ; $H_{h}(p)=-\sum_{i}p_{i}^{*}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right )$

esta función es el análogo de energía libre de la entropía de Burg, que se usa ampliamente en el procesamiento de señales:

S_{{{\rm {Burgo}}}}=\sum_{i}\ln p_{i}

$h(x)={\frac {(x-1)^{2}}{2}}$ , ; $H_{h}(p)=\sum_{i}{\frac {(p_{i}-p_{i}^{*})^{2}}{2p_{i}^{*}}}$

esta es una aproximación cuadrática para la entropía (menos) de Kullback cerca del punto de equilibrio. Hasta un término constante de tiempo, esta función es la misma que la entropía (menos) de Fisher dada por la siguiente opción,

$h(x)={\frac{x^{2}}{2}}$ , ; $H_{h}(p)=\sum_{i}{\frac {p_{i}^{2}}{2p_{i}^{*}}}$

esta es la entropía (menos) de Fisher .

$h(x)={\frac{x^{q}-1}{q-1)),\,q>0,\,q\neq 1$ , ; $H_{h}(p)={\frac {1}{q-1}}\left[\sum_{i}p_{i}^{*}\left({\frac {p_{i}}{ p_{i}^{*}}}\derecho)^{q}-1\derecho]$

este es uno de los análogos de la energía libre para la entropía de Tsallis .

S_{{q{{\rm {Tsallis}}}}}(p)={1 \over q-1}\left(1-\sum_{i}p_{i}^{q}\right).

sirve como base para la física estadística de cantidades no extensivas. En , tiende a la entropía clásica de Boltzmann-Gibbs-Shannon, y la función de Morimoto correspondiente tiende a la entropía (menos) de Kullback.

q \ a 1

Aplicación práctica

Una de las primeras disciplinas científicas en las que las cadenas de Markov encontraron aplicación práctica fue la lingüística (en particular, la crítica textual ). El mismo Markov, para ilustrar sus resultados, estudió la dependencia en la alternancia de vocales y consonantes en los primeros capítulos de " Eugene Onegin " y " Años de infancia de Bagrov-nieto " [3] .

Notas

^ "Cadena de Markov | Definición de cadena de Markov en inglés estadounidense por Oxford Dictionaries" . Diccionarios de Oxford | Inglés. . Diccionarios léxicos | Inglés (14 de diciembre de 2017). Recuperado: 1 de abril de 2020.
↑ Gagniuc, Paul A. Markov Cadenas: de la teoría a la implementación y la experimentación . - EE. UU., NJ: John Wiley & Sons , 2017. - P. 2-8. — ISBN 978-1-119-38755-8 .
↑ Maistrov, L.E. Desarrollo del concepto de probabilidad . - Nauka, 1980. - S. 188. - 269 p.

Literatura

Kelbert M. Ya., Sukhov Yu. M. Probabilidad y estadística en ejemplos y problemas. Vol. II: Las cadenas de Markov como punto de partida de la teoría de los procesos aleatorios y sus aplicaciones. - M. : MTSNMO, 2010. - 295 p. — ISBN 978-5-94057-252-7 .
Markov A. A. , Extensión de la ley de los grandes números a cantidades que dependen unas de otras. - Noticias de la Sociedad de Física y Matemáticas de la Universidad de Kazan. - 2ª serie. - Tomo 15. (1906) - S. 135-156.
Cadena de Markov / A. V. Prokhorov // Gran Enciclopedia Rusa : [en 35 volúmenes] / cap. edición Yu. S. Osipov . - M. : Gran Enciclopedia Rusa, 2004-2017.
Kemeny JG, Snell JL , Cadenas finitas de Markov. — La Serie Universitaria de Matemáticas de Pregrado. Princeton: Van Nostrand, 1960
- Traducción: Kemeny J.J. , Snell J.L. Cadenas finitas de Markov. — M.: Nauka. 1970. - 272 págs.
Zhong Kai-lai Cadenas de Markov homogéneas. Traducir De inglés. — M.: Mir, 1964. — 425 p.
E. Nummelin , Cadenas de Markov irreducibles generales y operadores no negativos. — M.: Mir, 1989. — 207 p.
Morimoto T. , Procesos de Markov y el teorema H. — J. Física. soc. jap. 12 (1963), 328-331.
Yaglom A.M. , Yaglom I.M. , Probabilidad e información . - M., Nauka, 1973. - 512 p.
Kullback S. , Teoría de la información y estadística. Wiley, Nueva York, 1959.
Burg JP , La Relación entre Espectros de Máxima Entropía y Espectros de Máxima Verosimilitud, Geofísica 37(2) (1972), 375-376.
Tsallis C. , Posible generalización de las estadísticas de Boltzmann-Gibbs. Estado J. física 52 (1988), 479-487.
Rudoy Yu. G. , Entropía de información generalizada y distribución no canónica en mecánica estadística de equilibrio , TMF, 135:1 (2003), 3-54.
Gorban, Alexander N.; Gorban, Pavel A.; Juez, Jorge. Entropía: el enfoque de ordenación de Markov . Entropía 12, núm. 5 (2010), 1145-1193.

Enlaces

sólido menos. Desarrollo de una clase para trabajar con cadenas de Markov . Habrahabr (1 de junio de 2016). Recuperado: 18 Agosto 2016. (Ruso)

diccionarios y enciclopedias	gran chino gran noruego gran ruso Britannica (en línea) Ucrania moderna Ucrania moderna
En catálogos bibliográficos	TIERRA : 4037612-6 J9U : 987007553386405171 LCCN : sh85081369

Clasificación de estados y cadenas de Markov
Estado	aperiódico retornable realizable irrevocable insignificante cero periódico positivo comunicado importante
Cadena	aperiódico retornable irrevocable indescomponible cero periódico positivo descomponible ergódico

Tipos de redes neuronales artificiales

Red feed-forward ( Red de funciones de base radial )
Perceptrón de una sola capa
Perceptrón multicapa ( Rosenblatt • Rumelhart )
Red Hopfield
cadena de Markov
máquina de Boltzmann
Máquina Boltzmann limitada
Codificador automático ( Codificador automático de eliminación de ruido • Codificador automático disperso [en • Codificador automático variacional )
Red profunda de confianza
Red neuronal convolucional
Red neuronal convolucional profunda
Red neuronal de despliegue
Red gráfica inversa convolucional profunda
Red adversaria generativa
Red neuronal recurrente
Redes Neuronales Recursivas
memoria a corto plazo
Bloque recurrente controlado
Máquinas neurales de Turing
Red bidireccional (Red neuronal recurrente bidireccional • Red bidireccional con memoria a corto plazo larga • Neuronas recurrentes controladas bidireccionales )
Red residual profunda
Red de eco neuronal
Método de aprendizaje extremo
Método de estados inestables
Máquinas de vectores soporte
Red Kohonen
Mapa autoorganizado de Kohonen
Red neuronal de la cápsula
Memoria asociativa en redes neuronales

Aprendizaje automático y minería de datos
Tareas	Problema de clasificación Aprender sin un maestro Aprendizaje asistido por profesores Análisis de regresión AutoML reglas de asociación Extracción de características entrenamiento de rasgos Entrenamiento de clasificación Derivación gramatical Aprender en línea
Aprendiendo con un maestro	método del k-vecino más cercano Clasificador bayesiano ingenuo árbol de decisión Máquinas de vectores soporte Regresión lineal Regresión logística perceptrón conjuntos de modelos Harpillera impulsar bosque aleatorio Método de vector relevante
análisis de conglomerados	método k-medias método de agrupamiento difuso Agrupación jerárquica algoritmo EM ABEDUL CURAR DBSCAN ÓPTICA Desplazamiento medio
Reducción de dimensionalidad	Análisis factorial Método de componentes principales CCA ACI LDA Expansión de matriz no negativa t-SNE
Pronóstico estructural	Graficar modelo probabilístico red bayesiana Modelo oculto de Markov FRC
Detección de anomalías	método del k-vecino más cercano Nivel de emisión local
Graficar modelos probabilísticos	red bayesiana Red de Markov Modelo oculto de Markov
Redes neuronales	Máquina Boltzmann limitada mapa autoorganizado Función de activación Sigmoideo softmax Funcion de base radial Método de propagación hacia atrás Aprendizaje profundo perceptrón multicapa Red neuronal recurrente memoria a corto plazo Bloque recurrente controlado Red neuronal convolucional Red en U Codificador automático
Aprendizaje reforzado	proceso de Markov Ecuación de Bellman Algoritmo codicioso Q-aprendizaje SARAS Diferencia temporal (DT)
Teoría	Teoría de Vapnik-Chervonenkis Dilema de dispersión de sesgo Teoría del aprendizaje computacional Minimización empírica del riesgo El aprendizaje de Occam aprendizaje PAC Teoría del aprendizaje estadístico
revistas y congresos	NeurIPS ICML ML JMLR ArXiv:cs.LG