Adaline

Adaline

El adaline (de ADAptative LINear Element) es un tipo de red neuronal artificial desarrollada por Bernie Widrow en la Universidad de Stanford. Aunque originalmente el nombre correspondía a ADAptative LInear NEuron, al caer las redes neuronales en decadencia el autor decidió pasar a la primera definición dada.

La diferencia entre el Adaline y el perceptrón estándar (McCulloch-Pitts) es que el perceptrón solo tiene capacidad para clasificar, ya que utiliza una función umbral sobre la suma ponderada de las entradas, a diferencia del adaline, que es capaz de estimar una salida real.

Contenido

Definición

Generalmente se compone de una sola capa de n neuronas ( por tanto n valores de salida ) con m entradas con las siguientes características:

  • Las m entradas representan un vector x de entrada que pertenece al espacio Rm.
  • Por cada neurona, existe un vector w de pesos sinápticos que indican la fuerza de conexión entre los valores de entrada y la neurona. En la práctica representan la ponderación de cada entrada sobre la neurona.
  • Una constante θ.
  • La salida y de la neurona se representa por la función de activación, que se define como y=\sum_{i=1}^{n} x_i \cdot w_j + \theta

Aprendizaje

A diferencia del perceptrón, a la hora de modificar los pesos durante el entrenamiento el Adaline tiene en cuenta el grado de corrección de la salida estimada respecto a la deseada. Esto se consigue mediante la aplicación de la regla Delta, y que se define, para un patrón de entrada xp con una salida estimada yp y una salida deseada dp, como | dp − yp | .

Dado que el objetivo del Adaline es poder estimar de la manera más exacta la salida (conseguir una salida exacta es prácticamente imposible en la mayoría de los casos), se busca minimizar la desviación de la red para todos los patrones de entrada, eligiendo una medida del error global. Normalmente se utiliza el error cuadrático medio.

E = \frac{1}{2} \sum_{p=1}^{m} (d^p - y^p)^2

La manera de reducir este error global es ir modificando los valores de los pasos al procesar cada entrada, de forma iterativa, mediante la regla del descenso del gradiente. Suponiendo que tenemos una constante de aprendizaje α:

\Delta_p w_j = -\alpha \frac{\partial E^p}{\partial w_j}

Si operamos con la derivada, queda:

\Delta_p w_j = \alpha (d^p - y^p) \cdot x_j

Que será la expresión que utilizaremos por cada entrada para modificar los pesos.

Ventajas

Con respecto al perceptrón el Adaline posee la ventaja de que su gráfica de error es un hiperparaboloide que posee o bien un único mínimo global, o bien una recta de infinitos mínimos, todos ellos globales. Esto evita la gran cantidad de problemas que da el perceptrón a la hora del entrenamiento debido a que su función de error (también llamada de coste) posee numerosos mínimos locales.

Aplicaciones

  • Asociación de patrones: se puede aplicar a este tipo de problemas siempre que los patrones sean linealmente separables.

En el campo del procesamiento de señales:

  • Filtros de ruido: Limpiar ruido de señales transmisoras de información.
  • Filtros adaptativos: Un adaline es capaz de predecir el valor de una señal en el instante t+1 si se conoce el valor de la misma en los p instantes anteriores (p es >0 y su valor depende del problema). El error de la predicción será mayor o menor según qué señal queramos predecir. Si la señal se corresponde a una serie temporal el Adaline, pasado un tiempo, será capaz de dar predicciones exactas.

Se pueden combinar múltiples Adalines formando lo que se denomina el Madaline.

Referencias

Adaline (Adaptive Linear)


Wikimedia foundation. 2010.

Игры ⚽ Нужно решить контрольную?

Mira otros diccionarios:

  • ADALINE — (Adaptive Linear Neuron or later Adaptive Linear Element) is a single layer neural network. It was developed by Professor Bernard Widrow and his graduate student Ted Hoff at Stanford University in 1960. It is based on the McCulloch Pitts neuron.… …   Wikipedia

  • ADALINE — (Adaptive Linear Neuron ou plus tard Adaptive Linear Element) est un réseau de neurone simple couche. Il a été développé par le professeur Bernard Widrow et un de ses étudiant, Ted Hoff, de l univsersité de Stanford en 1960. Adaline s appuie sur… …   Wikipédia en Français

  • Adaline — ist der Name mehrerer Orte in den Vereinigten Staaten: Adaline (Maine) Adaline (West Virginia) Siehe auch: Adaline Branch, ein Fluss im US Bundesstaat Virginia Adaline Modell, eine Form eines neuronalen Netzes …   Deutsch Wikipedia

  • ADALINE — Das Adaline Modell ist eine Form eines neuronalen Netzes. Der Name stand für ADAptive LInear NEuron, als neuronale Netze später an Popularität verloren, wurde das Akronym auch als ADAptive LINear Element übersetzt. Das Adaline Modell wurde 1960… …   Deutsch Wikipedia

  • Adaline Shepherd — Nom Adaline Shepherd Olson Naissance 19 août 1883 Iowa, Pays d’origine …   Wikipédia en Français

  • Adaline-Modell — Das Adaline Modell ist eine Form eines neuronalen Netzes. Der Name stand für ADAptive LInear NEuron, als neuronale Netze später an Popularität verloren, wurde das Akronym auch als ADAptive LINear Element übersetzt. Das Adaline Modell wurde 1960… …   Deutsch Wikipedia

  • Martha McBride Knight — Smith Kimball, late 1800s (Belnap Family Organization) Martha McBride Knight Smith Kimball (March 17, 1805 – November 20, 1901) was a founding member of the Relief Society of the Church of Jesus Christ of Latter Day Saints, which was organized on …   Wikipedia

  • Feedforward neural network — A feedforward neural network is an artificial neural network where connections between the units do not form a directed cycle. This is different from recurrent neural networks.The feedforward neural network was the first and arguably simplest… …   Wikipedia

  • Réseau de neurones artificiels —  Pour l’article homonyme, voir Réseau de neurones (biologie).  Pour les articles homonymes, voir Réseau. Un réseau de neurones artificiels est un modèle de calcul dont la conception est très schématiquement inspirée du fonctionnement… …   Wikipédia en Français

  • Artificial Neural Network — Réseau de neurones Pour les articles homonymes, voir Réseau. Vue simplifiée d un réseau artificiel de neurones Un réseau de neurones artificiel est un modèle de c …   Wikipédia en Français

Compartir el artículo y extractos

Link directo
… Do a right-click on the link above
and select “Copy Link”