Mínims quadrats

El resultat de l'ajust d'un conjunt de senyes a una funció quadràtica.

Mínims quadrats és una tècnica d'anàlisis numèric emmarcada dins de l'optimisació matemàtica, en la que, donats un conjunt de parells ordenats —variable independent, variable depenent— i una família de funcions, s'intenta trobar la funció contínua, dins de dita família, que millor s'aproxime a les senyes (un "millor ajuste"), d'acort en el criteri de mínim error quadràtic.

En definitiva, esta tècnica de mínims quadrats promig és senzillament un procediment matemàtic per a trobar la curva que millor s'ajuste a un conjunt donat de punts per mig del mecanisme que procura minimisar les diferències entre les ordenades dels punts de la curva de la funció elegida i els corresponents valors en les senyes. Es denominen residus a estes diferències.
El algoritme LMS (del anglés, Least-Pixen-Square algorithm) s'usa en filtres adaptatius per a trobar els coeficients del filtre que permeten obtindre el valor esperat mínim del quadrat d'error en tant diferencia entre lo esperat i lo produït. L'algoritme LMS, s'ampra, específicament, quan el número de senyes medides és un i s'usa el método de descens per gradient per a minimisar el residu quadrat. Es pot demostrar que LMS minimisa el residu quadrat esperat, en el mínim d'operacions (per iteración), pero requerix un gran número de iteraciones per a convergir.

Des d'un punt de vista estadístic, un requisit implícit per a que funcione el método de mínims quadrats és que els errors de cada mida estiguen distribuïts de forma aleatòria. El teorema de Gauss-Márkov prova que els estimadors mínims quadràtics carixen de biaix i que el mostreig de senyes no té que ajustar-se, per eixemple, a una distribució normal. També és important que les senyes a processar estiguen ben triats, per a que permeten visibilitat en les variables que han de ser resoltes (per a donar més pes a una senya en particular, vore mínims quadrats ponderats).

La tècnica de mínims quadrats s'usa comunament en l'ajust de curves. Molts atres problemes d'optimisació poden expressar-se també en forma de mínims quadrats, minimisant l'energia o maximizar l'entropía.

Història

Archiu:Carl Friedrich Gauss.jpg

Karl Friedrich Gauss.

El dia d'Any Nou de 1801, l'astrònom italià Giuseppe Piazzi va descobrir el planeta nano Ceres. Va ser capaç de seguir el seu òrbita durant 40 dies. Durant el curs d'eixe any, molts científics varen intentar estimar la seua trayectòria en base en les observacions de Piazzi (resoldre les equacions no llineals de Kepler de moviment és molt difícil). La majoria de les evaluacions varen ser inútils; l'únic càlcul suficientment precís per a permetre a Franz Xaver von Zach, astrònom alemà, retrobar a Ceres al final de l'any va ser el de Carl Friedrich Gauss, per llavors un jove de 24 anys (els fonaments del seu enfocament ya els havia plantejat en 1795, quan encara tenia 18 anys). No obstant, el seu método de mínims quadrats no es va publicar sino fins a 1809, i va aparéixer en el segon volum del seu treball sobre mecànica celest, Theoria Motus Corporum Coelestium in sectionibus conicis solem ambientium. El francés Adrien-Marie Legendre va desenrollar el mateix método de forma independent en 1805.

En 1829, Gauss va ser capaç d'establir la raó de l'èxit maravellós d'este procediment: simplement, el método de mínims quadrats és òptim en molts aspectes. L'argument concret es coneix com teorema de Gauss-Márkov.

Formulació formal del problema bidimensional

Siga ${(x_{k}, y_{k})}_{k = 1}^{n}$ un conjunt de n punts en el pla real, i siga ${f_{j} (x)}_{j = 1}^{m}$ una base de m funciones linealmente independent en un espai de funcions. Volem trobar una funció $f (x)$ que siga combinació llineal de les funcions base, de modo que $f (x_{k}) \approx y_{k}$ , açò és:

Per tant, es tracta de trobar els m coeficients $c_{j}$ que facen que la funció aproximante $f (x)$ done la millor aproximació per als punts donats $(x_{k}, y_{k})$ . El criteri de "millor aproximació" pot variar, pero en general es basa en aquell que minimise una "acumulació" de l'error individual (en cada punt) sobre el conjunt total. En primer lloc, l'error (en signe positiu o negatiu) de la funció $f (x)$ en un sol punt, $(x_{k}, y_{k})$ , es definix com:

pero s'intenta medir i minimisar l'error en tot el conjunt de l'aproximació, ${(x_{k}, y_{k})}_{k = 1}^{n}$ . En matemàtiques, existixen diverses formes de definir l'error, sobretot quan este es referix a un conjunt de punts (i no solament a un), a una funció, etc. Dit error (l'error "total" sobre el conjunt de punts considerat) sol definir-se en alguna de les següents fòrmules:

Error Màxim:

E_{\infty} (f) = \max (| e_{k} |)

Error Mig:

E_{m} (f) = \frac{\sum_{k = 1}^{n} | e_{k} |}{n}

Error quadràtic mig:

E_{c m} (f) = \frac{\sqrt{\sum_{k = 1}^{n} (e_{k})^{2}}}{n}

L'aproximació per mínims quadrats es basa en la minimisació de l'error quadràtic mig o, equivalentement, en la minimisació del radicant de dit error, el cridat error quadràtic, definit com:

Per a alcançar este objectiu, s'utilisa el fet que la funció f deu poder descriure's com una combinació llineal d'una base de funcions. Els coeficients de la combinació llineal seran els paràmetros que volem determinar. Per eixemple, supongam que f és una funció quadràtica, lo que vol dir que és una combinació llineal, $f (x) = a x^{2} + b x + c$ , de les funcions $f_{1} (x) = x^{2}$ , $f_{2} (x) = x$ i $f_{3} (x) = 1$ (m=3 en este cas), i que es pretén determinar els valors dels coeficients: $a, b, c$ , de modo que minimisen la suma (S) dels quadrats dels residus:

Açò explica el nom de mínims quadrats. A les funcions que multipliquen als coeficients buscats, que en este cas són: $x^{2}$ , $x$ i $1$ , se'ls coneix en el nom de funcions base de l'aproximació, i poden ser funcions qualssevol. Per a eixe cas general es deduïx a continuació la fòrmula de la millor aproximació discreta (i.i. per a un conjunt finito de punts), llineal i segons el criteri de l'error quadràtic mig, que és l'anomenada aproximació llineal per mínims quadrats. És possible generar un atre tipo d'aproximacions, si es prenen els errors màxim o mig, per eixemple, pero la dificultat que entranya operar en ells, pel valor absolut de la seua expressió, fa que siguen difícils de tractar i casi no s'usen.

Vore també

Referències

Abdi, H(2003).M. Lewis-Beck, A. Bryman, T. Futing (Eds): Encyclopedia for research methods for the social sciences. Thousand Oaks (CA): Sage. pp. 792-795..

Este artícul conté una traducció derivada de «Mínimos cuadrados» de Wikipedia en castellà publicada baix la Llicència de documentació lliure de GNU i la Llicència Creative Commons Reconeiximent-CompartirIgual 4.0 Internacional.