Máquina de Boltzmann

Una máquina de Boltzmann es un tipo de red neuronal recurrente estocástica. El nombre le fue dado por los investigadores Geoffrey Hinton y Terry Sejnowski. Las máquinas de Boltzmann pueden considerarse como la contrapartida estocástica y generativa de las redes de Hopfield. Fueron de los primeros tipos de redes neuronales capaces de aprender mediante representaciones internas, son capaces de representar y (con tiempo suficiente) resolver complicados problemas combinatorios. Sin embargo, debido a una serie de cuestiones que se abordan más adelante, las máquinas de Boltzmann sin restricciones de conectividad no han demostrado ser útiles para resolver los problemas que se dan en la práctica en el aprendizaje o inferencia de las máquinas. Aún así resultan interesantes en la teoría debido a la localización y a la naturaleza hebbiana de su algoritmo de entrenamiento, así como por su paralelismo y por la semejanza de su dinámica a fenómenos físicos sencillos. Si se limita la conectividad, el aprendizaje puede ser lo bastante eficaz como para ser útil en la resolución de problemas prácticos.

En mecánica estadística se denominan distribuciones de Boltzmann y son utilizadas en funciones de muestreo.

Estructura

Las máquinas de Boltzmann, al igual que las redes de Hopfield, Poseen unidades con una "energía" definida para la red. También dispone de unidades binarias, pero a diferencia de las redes de Hopfield, las unidades de una máquina de Boltzmann son estocásticas. La energía global, $E$ , en una máquina de Boltzmann es idéntica en forma a la de una red de Hopfield:

$E = -\sum_{i<j} w_{ij} \, s_i \, s_j + \sum_i \theta_i \, s_i$

Donde:

$w i j$ es la fuerza de conexión entre la unidad $j$ y la unidad $i$ .
$s i$ es el estado, $s_i \in \{0,1\}$ , de la unidad $i$ .
$θ i$ es el umbral de la unidad $i$ .

Las conexiones de una máquina de Boltzmann tienen dos limitaciones:

Ninguna unidad se conecta a sí misma.
$w_{ij}=w_{ji}\qquad \forall i,j$ . (Todas las conexiones son simétricas.)

Probabilidad de estado de una unidad

El incremento de energía global que resulta de una sola unidad $i$ siendo 0 (off) frente a 1 (on), expresada como $Δ E i$ , viene dada por la expresión:

$\Delta E_i = \sum_j w_{ij} \, s_j - \theta_i$

Esto se puede expresar como la diferencia de energía entre dos estados:

Δ E i = E i=off - E i=on

A continuación sustituimos la energía para cada Estado con su probabilidad relativa de acuerdo con el factor de Boltzmann (la propiedad de la distribución de Boltzmann en la cual la energía de un estado es proporcional al menos logaritmo de probabilidad de dicho estado):

$\Delta E_i = -k_B\,T\,ln(p_\text{i=off}) - -k_B\,T\,ln(p_\text{i=on})$

Donde $k B$ es la constante de Boltzmann y se engloba dentro de la noción artificial de temperatura $T$ . A continuación se reordenan los términos considerando que la probabilidad de que una unidad esté en on y en off es uno:

$\frac{\Delta E_i}{T} = ln(p_\text{i=on}) - ln(p_\text{i=off})$

$\frac{\Delta E_i}{T} = ln(p_\text{i=on}) - ln(1 - p_\text{i=on})$

$\frac{\Delta E_i}{T} = ln(\frac{p_\text{i=on}}{1 - p_\text{i=on}})$

$-\frac{\Delta E_i}{T} = ln(\frac{1 - p_\text{i=on}}{p_\text{i=on}})$

$-\frac{\Delta E_i}{T} = ln(\frac{1}{p_\text{i=on}} - 1)$

$\exp(-\frac{\Delta E_i}{T}) = \frac{1}{p_\text{i=on}} - 1$

Finalmente podemos resolver para $p i=on$ , la probabilidad de que la unidad $i$ esté en on.

$p_\text{i=on} = \frac{1}{1+\exp(-\frac{\Delta E_i}{T})}$

Donde el escalar $T$ se refiere a cómo está la temperatura en el sistema. Esta relación es la fuente de la función logística que se encuentra en las expresiones de probabilidad de las distintas variantes de la máquina de Boltzmann.

Estado de equilibrio

La red se ejecuta repetidamente escogiendo una unidad y estableciendo su estado de acuerdo con la fórmula anterior. Después de ejecutarse durante suficiente tiempo a una cierta temperatura, la probabilidad del estado global de la red va a depender sólo del estado global de energía, de acuerdo a una distribución de Boltzmann. Esto significa que los logaritmos de las probabilidades de los estados globales se volverán lineales en sus energías. Esta relación se cumple cuando la máquina está "en equilibrio termodinámico", lo que significa que la distribución de probabilidad de los estados globales ha convergido. Si empezamos a hacer funcionar la red a alta temperatura, y desciende gradualmente hasta llegar a un equilibrio termodinámico a una baje temperatura, estaremos garantizando la convergencia a una distribución donde el nivel de energía fluctúe alrededor del mínimo global. Este proceso se llama Simulated annealing (SA) o templado simulado.

Para entrenar a la red de modo que la posibilidad de que converja en un estado global se ajuste a una distribución externa, habrá que establecer los pesos para que los estados globales con mayor probabilidad tengan la energía más baja. Para esto se usa el siguiente método de entrenamiento.

Entrenamiento

Las unidades de la máquina de Boltzmann se dividen en unidades "visibles", V, y unidades "ocultas", H. Las primeras son las que recibirán información del "entorno", por ejemplo la serie de entrenamiento podría ser un conjunto de vectores binarios aplicado sobre las unidades V. La distribución en el conjunto de entrenamiento se denota $P + (V)$ .

En las máquinas de Boltzmann, como ya se ha dicho, la distribución de los estados globales convergen hasta un equilibrio termodinámico. Después de que marginalizar por encima de las unidades visibles $V$ , la convergencia de la distribución se puede denotar como $P - (V)$ .

Nuestro objetivo es aproximar la distribución "real" $P + (V)$ a la expresión $P - (V)$ , la cual es producida eventualmente por la máquina. Para medir la similitud entre las dos distribuciones se usa la divergencia de Kullback-Leibler, $G$ :

$G = \sum_{v}{P^{+}(v)\ln\left({\frac{P^{+}(v)}{P^{-}(v)}}\right)}$

Donde el sumatorio es superior a todos los posibles estados de $V$ . $G$ varía en función de los pesos, ya que estos determinan la energía de un estado, y la energía a su vez determina $P - (v)$ , según la distribución de Boltzmann. Por lo tanto, podemos utilizar un algoritmo de descenso de gradiente sobre $G$ para un peso determinado, $w i j$ , que se cambiará restando la derivada parcial de $G$ con respecto al peso.

El entrenamiento de una máquina de Boltzmann consta de dos fases, que se van cambiando iterativamente entre ellas. Una es la fase "positiva" en que los estados de las unidades visibles se sujetan a un vector de estado binario particular, muestra del conjunto de entrenamiento (de acuerdo a $P +$ ). La otra es la fase "negativa", en la que a la red se le permite ejecutarse libremente, es decir, los estados de las unidades no están determinados por datos externos. Sorprendentemente, el gradiente con respecto a un peso determinado, $w i j$ , está dado por una ecuación muy sencilla (demostrada por Ackley et al.):

$\frac{\partial{G}}{\partial{w_{ij}}} = -\frac{1}{R}[p_{ij}^{+}-p_{ij}^{-}]$

Donde:

$p_{ij}^{+}$ es la probabilidad de que tanto las unidades i como j estén activadas cuando la máquina esté en equilibrio durante la fase positiva.

$p_{ij}^{-}$ es la probabilidad de que tanto las unidades i como j estén activadas cuando la máquina esté en equilibrio durante la fase negativa.

$R$ denota la tasa de aprendizaje.

Este resultado se deduce del hecho de que en el equilibrio termodinámico la probabilidad $P - (s)$ de cualquier estado global $s$ cuando la red está funcionando libremente viene dada por la distribución de Boltzmann (de ahí el nombre de "máquina de Boltzmann").

Sorprendentemente, esta regla de aprendizaje es bastante plausible desde el punto de vista biológico por el hecho de que la única información necesaria para cambiar los pesos es proporcionada de forma "local". Es decir, la conexión (o sinapsis usando terminología biológica) no necesita más información que la que suministran las dos neuronas que conecta. Esto es mucho más realista biológicamente hablando que lo que sucede con la información que necesitan muchos otros algoritmos de entrenamiento de redes neuronales, como por ejemplo el de retropropagación.

En el entrenamiendo de una máquina de Boltzmann no se utiliza el algoritmo EM, muy utilizado en Aprendizaje automático. Minimizar la divergencia KL, es equivalente a maximizar el logaritmo de la verosimilitud de los datos. Por lo tanto, el procedimiento de entrenamiento lleva a cabo un gradiente de ascenso sobre el logaritmo de verosimilitud de los datos observados. Esto contrasta con el algoritmo EM, donde la distribución posterior de los nodos ocultos debe ser calculada antes de la maximización de la verosimilitud llevada a cabo en el paso M.

En entrenamiento de sesgos es similar, pero usa sólo la actividad de un solo nodo:

$\frac{\partial{G}}{\partial{\theta_{i}}} = -\frac{1}{R}[p_{i}^{+}-p_{i}^{-}]$

Problemas en la aplicación práctica

Las máquinas de Boltzmann presentan un grave problema práctico, y es que el aprendizaje parece dejar de producirse correctamente cuando la máquina se amplía a algo más grande que una máquina trivial. Esto se debe a una serie de efectos, los más importantes de los cuales son:

El tiempo que la máquina necesita para recopilar las estadísticas de equilibrio crece exponencialmente con el tamaño de la máquina, y con la magnitud de la fuerza de las conexiones.
La fuerzas de las conexiones son más flexibles cuando las unidades conectadas tienen probabilidades de activación intermedias entre cero y uno, llevando a la llamada trampa de varianza. El efecto neto es que el ruido hace que las fuerzas de las conexiones se vuelvan aleatorias hasta que las actividades se saturan.

Máquina de Boltzmann restringida

Aunque el aprendizaje es por lo general poco práctico en las máquinas de Boltzmann, puede llegar a ser muy eficiente en una arquitectura llamada Máquina de Boltzmann restringida o MBR (RBM en inglés: Restricted Boltzmann Machine). Esta arquitectura no permite las conexiones entre las unidades de las capas ocultas. Después de entrenar a una MBR las actividades de sus unidades ocultas pueden ser tratadas como datos para el entrenamiento de una MBR de nivel superior. Este método de apilamiento MBR hace que sea posible entrenar muchas capas de unidades ocultas de manera eficiente y que cada nueva capa sea añadida para mejorar el modelo generativo principal.

Historia

La máquina de Boltzmann es una versión del método de Montecarlo de las redes de Hopfield.

Se cree que la idea de utilizar modelos de Ising para la inferencia fue descrita por primera vez por Geoffrey E. Hinton y Terrence J. Sejnowski^[1] ^[2]

La misma idea de aplicar el modelo de Ising con el muestreo de Gibbs templado también está presente en el proyecto de Douglas Hofstadter Copycat.^[3] ^[4]

Ideas similares (cambiando el signo de la función de energía) también se pueden encontrar en la "Teoría de la Armonía" de Paul Smolensky.

La analogía explícita extraída de la mecánica estadística en la formulación de la máquina de Boltzmann ha llevado a la utilización de una terminología tomada de la física (por ejemplo, "energía" en lugar de "armonía"), que se ha convertido en estándar en el campo. La adopción generalizada de esta terminología puede haber sido alentada por el hecho de que su uso ha llevado a importar una variedad de conceptos y métodos tomados de la mecánica estadística. Sin embargo, no hay ninguna razón para pensar que las diversas propuestas para el uso de templado simulado para la inferencia descritas anteriormente no sean independientes. (Helmholtz, hizo una analogía similar en los albores de la psicofísica.)

Los modelos de Ising se consideran en la actualidad como un caso especial de los campos aleatorios de Markov, que encuentran una amplia aplicación en diversos campos, como los de la lingüística, robótica, visión artificial e inteligencia artificial.

Bibliografía

Fort, J. C.; Gerschenfeld, A. (1988). «El nacimiento de un ordenador neuronal: La máquina de Boltzmann». Mundo Científico 8: p. 614.
Ackley, D. H.; Hinton, G. E.; Sejnowski, T. J. (1985). «A Learning Algorithm for Boltzmann Machines» (en inglés). Cognitive Science 9: pp. 147–169. http://learning.cs.toronto.edu/~hinton/absps/cogscibm.pdf.
Hinton, G. E.; Sejnowski, T. J. (1986). D. E. Rumelhart, J. L. McClelland, and the PDP Research Group. ed. «Learning and Relearning in Boltzmann Machines» (en inglés). Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations (Cambridge: MIT Press): pp. 282–317. http://learning.cs.toronto.edu/~hinton/absps/pdp7.pdf.
Hinton, G. E. (2002). «Training Products of Experts by Minimizing Contrastive Divergence» (en inglés). Neural Computation 14: pp. 1771–1800. http://www.cs.toronto.edu/~hinton/absps/nccd.pdf.
Hinton, G. E.; Osindero, S.; Teh Y. (2006). «A fast learning algorithm for deep belief nets» (en inglés). Neural Computation 18: pp. 1527–1554. http://www.cs.toronto.edu/~hinton/absps/fastnc.pdf.

Referencias

↑ Geoffrey E. Hinton & Terrence J. Sejnowski, Analyzing Cooperative Computation. In Proceedings of the 5th Annual Congress of the Cognitive Science Society, Rochester, NY, May 1983.
↑ Geoffrey E. Hinton & Terrence J. Sejnowski, Optimal Perceptual Inference. In Proceedings of the IEEE conference on Computer Vision and Pattern Recognition (CVPR), pages 448-453, IEEE Computer Society, Washington DC, June 1983.
↑ Hofstadter, Douglas R., The Copycat Project: An Experiment in Nondeterminism and Creative Analogies. MIT Artificial Intelligence Laboratory Memo No. 755, January 1984.
↑ Hofstadter, Douglas R., A Non-Deterministic Approach to Analogy, Involving the Ising Model of Ferromagnetism. In E. Caianiello, ed. The Physics of Cognitive Processes. Teaneck, NJ: World Scientific, 1987.

Enlaces externos

Artículo en Scholarpedia por Hinton sobre las máquinas de Boltzmann (en inglés)
Discurso de Geoffrey Hinton en Google (en inglés)

Categorías:

Sistemas Conexionistas
Redes neuronales artificiales
Neuropsicología

Wikimedia foundation. 2010.

Игры ⚽ Нужно сделать НИР?

Mira otros diccionarios:

Red neuronal artificial — perceptrón simple con n neuronas de entrada, m neuronas en su capa oculta y una neurona de escape. Las redes de neuronas artificiales (denominadas habitualmente como RNA o en inglés como: ANN [1] ) so … Wikipedia Español
Conexionismo — El conexionismo es un conjunto de enfoques en los ámbitos de la inteligencia artificial, psicología cognitiva, ciencia cognitiva, neurociencia y filosofía de la mente, que presenta los fenómenos de la mente y del comportamiento como procesos que… … Wikipedia Español
Hopfield (RNA) — Una red de Hopfield es una forma de red neuronal artificial recurrente inventada por John Hopfield. Las redes de Hopfield se usan como sistemas de Memoria asociativa con unidades binarias. Están diseñadas para converger a un mínimo local, pero la … Wikipedia Español
Termodinámica — Sistema termodinámico típico mostrando la entrada desde una fuente de calor (caldera) a la izquierda y la salida a un disipador de calor (condensador) a la derecha. El trabajo se extrae en este caso por una serie de pistones. La termodinámica… … Wikipedia Español
Segundo principio de la termodinámica — El segundo principio de la termodinámica o segunda ley de la termodinámica,[1] expresa que: La cantidad de entropía del universo tiende a incrementarse en el tiempo.[2] Es una de las leyes más importantes de la física; aún pudiéndose formular de… … Wikipedia Español
Segunda ley de la termodinámica — Saltar a navegación, búsqueda La segunda ley de la termodinámica o segundo principio de la termodinámica expresa, en una forma concisa, que La cantidad de entropía de cualquier sistema aislado termodinámicamente tiende a incrementarse con el… … Wikipedia Español
Temperatura — Este artículo o sección necesita referencias que aparezcan en una publicación acreditada, como revistas especializadas, monografías, prensa diaria o páginas de Internet fidedignas. Puedes añadirlas así o avisar al autor p … Wikipedia Español
Historia de la electricidad — Un fragmento de ámbar como el que pudo utilizar Tales de Mileto en su experimentación del efecto triboeléctrico. El nombre en griego de est … Wikipedia Español
Helio — Hidrógeno ← Helio → Litio … Wikipedia Español
Movimiento (física) — Para otros usos de este término, véase Movimiento. El movimiento es un cambio de posición respecto del tiempo. En mecánica, el movimiento es un fenómeno físico que se define como todo cambio de posición en el espacio que experimentan los cuerpos… … Wikipedia Español

Los diccionarios y las enciclopedias sobre el Académico

Máquina de Boltzmann

Contenido

Estructura

Probabilidad de estado de una unidad

Estado de equilibrio

Entrenamiento

Problemas en la aplicación práctica

Máquina de Boltzmann restringida

Historia

Bibliografía

Referencias

Enlaces externos

Mira otros diccionarios:

Compartir el artículo y extractos

Los diccionarios y las enciclopedias sobre el Académico

Wikipedia Español

Máquina de Boltzmann

Contenido

Estructura

Probabilidad de estado de una unidad

Estado de equilibrio

Entrenamiento

Problemas en la aplicación práctica

Máquina de Boltzmann restringida

Historia

Bibliografía

Referencias

Enlaces externos

Mira otros diccionarios:

Compartir el artículo y extractos

Link directo