- Algoritmo de Gauss-Newton
-
En matemáticas, el algoritmo de Gauss-Newton se utiliza para resolver problemas no lineales de mínimos cuadrados. Es una modificación del método de optimización de Newton que no usa segundas derivadas y se debe a Carl Friedrich Gauss.
El problema
dadas m funciones f1,..., fm de n parámetros p1,..., pn con m≥n, queremos minimizar la suma
donde, p se refiere al vector (p1,..., pn).
El algoritmo
El algorimo de Gauss-Newton es un procedimiento iterativo. Esto significa que debemos proporcionar una estimación inicial del parámetro vector que denominaremos p0.
Estimaciones posteriores pk para el vector parámetro son producidas por la relación recurrente:
donde f=(f1,..., fm) yJf(p) denota el Jacobiano de f en p (nótese que no es necesario que Jf sea cuadrada).
La matriz inversa, en la práctica, nunca se computa explícitamente. en lugar de ellos se utiliza
y se computa la actualización de δk resolviendo el sistema lineal
una buena implementación del algoritmo de Gauss-Newton utiliza también un algoritmo de búsqueda lineal: en lugar de la fórmula anterior para pk+1, se utiliza
donde el número αk es de algún modo óptimo.
Otros algoritmos
La relación de recurrencia del Método de Newton para minimizar la función S es
donde JS y H(S) denotan el Jacobiano y Hessiano de S respectivamente. utilizando el método de Newton para la función
obtenemos la relación recurrente
Podemos concluir que el método de Gauss-Newton es el mismo que el metodode Newton ignorando el término Σ f H(f).
Otros algoritmos utilizados para resolver el problema de los mínimos cuadrados incluyen el algoritmo de Levenberg-Marquardt algorithm y de descenso de gradiente.
Categorías:- Algoritmos
- Optimización
![p^{k+1} = p^k - [H (S)(p^k)]^{-1} J_S(p^k), \,](0/1e07bdb3393907d5fabca19900366381.png)
Wikimedia foundation. 2010.
