Funcion de base radial

La versión actual de la página aún no ha sido revisada por colaboradores experimentados y puede diferir significativamente de la versión revisada el 2 de junio de 2021; la verificación requiere 1 edición .

La función de base radial ( RBF ) es una función de un conjunto de funciones radiales del mismo tipo que se utiliza como función de activación en una capa de una red neuronal artificial o de otra manera, según el contexto. Una función radial es cualquier función real cuyo valor depende únicamente de la distancia al origen o de la distancia entre algún otro punto llamado centro : . La norma suele ser la distancia euclidiana , aunque se pueden utilizar otras métricas . $\phi \left(\mathbf {x} \right)=\phi \left(\left\|\mathbf {x} \right\|\right)$ ${\ matemáticas {c}}$ $\phi \left(\mathbf {x} ,\mathbf {c} \right)=\phi \left(\left\|\mathbf {x} -\mathbf {c} \right\|\right)$

Las combinaciones lineales de funciones de base radial también se pueden utilizar para aproximar una función dada . La aproximación puede interpretarse como el tipo más simple de red neuronal ; es en este contexto que las funciones de base radial fueron definidas por primera vez por David Broomhead y David Lowe en 1988 [1] [2] , basándose en el trabajo seminal de Michael Powell de 1977 [3] [4] [5] .

Las funciones de base radial también se utilizan como kernel en las máquinas de vectores de soporte . [6]

Especies

Las funciones de base radial comúnmente utilizadas incluyen ( ): $r=\izquierda\|\mathbf {x} -\mathbf {x}_{i}\derecha\|$

función gaussiana : $\phi \left(r\right)=e^{-\left(\varepsilon r\right)^{2))$
multicuadrática: ${\displaystyle \phi \left(r\right)={\sqrt {1+\left(\varepsilon r\right)^{2))))$
cuadrática inversa: ${\displaystyle \phi \left(r\right)={\dfrac {1}{1+\left(\varepsilon r\right)^{2))))$
Multicuadrático inverso: $\phi \left(r\right)={\dfrac {1}{\sqrt {1+\left(\varepsilon r\right)^{2))))$
Spline poliarmónico : ${\begin{alineado}\phi \left(r\right)&=r^{k},&k&=1,3,5,\dotsc \\\phi \left(r\right)&=r ^{k}\ln \left(r\right),&k&=2,4,6,\dotsc \end{alineado}}$
Spline de placa delgada (spline poliarmónico especial): $\phi \left(r\right)=r^{2}\ln \left(r\right)$

Aproximación

Para aproximar funciones utilizando funciones de base radial, se suele tomar su combinación lineal de la forma:

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _ {i}\derecho\|\derecho)

donde se toma como función de aproximación la suma de las funciones de base radial con centros en los puntos y coeficientes . Los coeficientes se pueden calcular utilizando el método de mínimos cuadrados , ya que la función de ajuste es lineal con respecto a los coeficientes . $y\left(\mathbf {x} \right)$ $norte$ ${\ estilo de visualización \ mathbf {x} _ {i}}$ $Wisconsin}}$ $Wisconsin}}$

Los esquemas de aproximación de este tipo son especialmente útiles. en pronóstico de series de tiempo , control de sistemas no lineales que exhiben un comportamiento caótico bastante simple y modelado 3D en gráficos por computadora .

Redes neuronales basadas en RBF

Combinación lineal:

y\left(\mathbf {x} \right)=\sum _{i=1}^{N}w_{i}\,\phi \left(\left\|\mathbf {x} -\ mathbf {x} _ {i}\derecho\|\derecho)

también se puede interpretar como la red neuronal artificial más simple con una capa, llamada red de funciones de base radial , en la que la función de base radial desempeña el papel de una función de activación. Se puede demostrar que cualquier función continua en un intervalo compacto puede, en principio, interpolarse con precisión arbitraria para . $norte$

La aproximación es diferenciable con respecto a . Los coeficientes se pueden calcular utilizando cualquier método iterativo estándar para redes neuronales. $y\left(\mathbf {x} \right)$ $Wisconsin}}$

Por lo tanto, las funciones de base radial brindan una herramienta de interpolación flexible, siempre que el conjunto de centros cubra de manera más o menos uniforme el dominio de la función deseada (idealmente, los centros deberían estar equidistantes de sus vecinos más cercanos). Sin embargo, como regla, en los puntos intermedios, la aproximación logra una alta precisión solo si el conjunto de funciones de base radial se complementa con un polinomio ortogonal a cada uno de los RBF.

Notas

↑ Redes de función de base radial Archivado el 23 de abril de 2014.
↑ Broomhead, Lowe, 1988 , pág. 321–355
↑ Michael J. D. Powell; Michael JD Powell. Procedimientos de reinicio para el método del gradiente conjugado // Programación matemática : diario. - Springer, 1977. - vol. 12 _ - Pág. 241-254 . -doi : 10.1007/ bf01593790 .
↑ Sahin, Ferat (1997). Un enfoque de función de base radial para un problema de clasificación de imágenes en color en una aplicación industrial en tiempo real (PDF) (M.Sc.). Virginia Tech . pags. 26. Archivado desde el original (PDF) el 26 de octubre de 2015 . Consultado el 02-06-2018 . Las funciones de base radial fueron introducidas por primera vez por Powell para resolver el problema real de interpolación multivariada. Parámetro obsoleto utilizado |deadlink=( ayuda )
↑ Broomhead, Lowe, 1988 , pág. 347: "Nos gustaría agradecer al profesor MJD Powell del Departamento de Matemáticas Aplicadas y Física Teórica de la Universidad de Cambridge por proporcionar el estímulo inicial para este trabajo".
↑ VanderPlas, Jake Introducción a las máquinas de vectores de soporte (enlace no disponible) . [O'Reilly] (6 de mayo de 2015). Consultado el 14 de mayo de 2015. Archivado desde el original el 5 de septiembre de 2015. (indefinido)

Literatura

Broomhead, David H.; Lowe, David. Interpolación funcional multivariable y redes adaptativas (inglés) // Sistemas complejos: revista. - 1988. - vol. 2 . - Pág. 321-355 . Archivado desde el original el 14 de julio de 2014.
Buhmann, Martin D. (2003), Funciones de base radial: teoría e implementaciones , Cambridge University Press , ISBN 978-0-521-63338-3 .
Hardy, RL Ecuaciones multicuadráticas de topografía y otras superficies irregulares // Revista de investigación geofísica : diario. - 1971. - vol. 76 , núm. 8 _ - Pág. 1905-1915 . -doi : 10.1029/ jb076i008p01905 . — .
Hardy, RL Teoría y aplicaciones del método multicuadrático-biarmónico, 20 años de Discovery, 1968 1988 // Comp . Aplicación matemática: diario. - 1990. - vol. 19 , núm. 8/9 . - pág. 163-208 . - doi : 10.1016/0898-1221(90)90272-l .
Prensa, WH; Teukolsky, SA; Vetterling, WT & Flannery, BP (2007), Sección 3.7.1. Interpolación de función de base radial , Recetas numéricas: El arte de la informática científica (3.ª ed.), Nueva York: Cambridge University Press, ISBN 978-0-521-88068-8
Sirayanone, S., 1988, Estudios comparativos de kriging, biarmónico multicuadrático y otros métodos para resolver el problema de los recursos minerales, Ph.D. Disertación, MPEI. Geociencias, Universidad Estatal de Iowa, Ames, Iowa.
Sirayanone, S. El método multicuadrático-biarmónico utilizado para recursos minerales, meteorología y otras aplicaciones // Journal of Applied Sciences and Computations: journal. - 1995. - vol. 1 . - Pág. 437-475 .

Aprendizaje automático y minería de datos
Tareas	Problema de clasificación Aprender sin un maestro Aprendizaje asistido por profesores Análisis de regresión AutoML reglas de asociación Extracción de características entrenamiento de rasgos Entrenamiento de clasificación Derivación gramatical Aprender en línea
Aprendiendo con un maestro	método del k-vecino más cercano Clasificador bayesiano ingenuo árbol de decisión Máquinas de vectores soporte Regresión lineal Regresión logística perceptrón conjuntos de modelos Harpillera impulsar bosque aleatorio Método de vector relevante
análisis de conglomerados	método k-medias método de agrupamiento difuso Agrupación jerárquica algoritmo EM ABEDUL CURAR DBSCAN ÓPTICA Desplazamiento medio
Reducción de dimensionalidad	Análisis factorial Método de componentes principales CCA ICA LDA Expansión de matriz no negativa t-SNE
Pronóstico estructural	Graficar modelo probabilístico red bayesiana Modelo oculto de Markov FRC
Detección de anomalías	método del k-vecino más cercano Nivel de emisión local
Graficar modelos probabilísticos	red bayesiana Red de Markov Modelo oculto de Markov
Redes neuronales	Máquina Boltzmann limitada mapa autoorganizado Función de activación Sigmoideo softmax Funcion de base radial Método de propagación hacia atrás Aprendizaje profundo perceptrón multicapa Red neuronal recurrente memoria a corto plazo Bloque recurrente controlado Red neuronal convolucional U-red Codificador automático
Aprendizaje reforzado	proceso de Markov Ecuación de Bellman Algoritmo codicioso Q-aprendizaje SARAS Diferencia temporal (DT)
Teoría	Teoría de Vapnik-Chervonenkis Dilema de dispersión de sesgo Teoría del aprendizaje computacional Minimización empírica del riesgo El aprendizaje de Occam aprendizaje PAC Teoría del aprendizaje estadístico
revistas y congresos	NeurIPS ICML ML JMLR ArXiv:cs.LG