UNIVERSIDAD NACIONAL DEL CENTRO DEL PER

FACULTAD DE INGENIERIA CIVIL

REGRESION POR MINIMOS CUADRADOS

Cuando los datos tienen errores sustanciales, la interpolacin polinomial es inapropiada y puede dar resultados poco satisfactorios cuando se utiliza para predecir valores intermedios.Con frecuencia los datos experimentales son de este tipo. Para dejar a un lado dicha subjetividad se debe encontrar algn criterio para establecer una base para el ajuste. Una forma de hacerlo es obtener una curva que minimice la discrepancia entre los puntos y la curva. Una tcnica para lograr tal objetivo, llamada regresin por mnimos cuadrados.

REGRESION LINEAL:

El ejemplo ms simple de una aproximacin por mnimos cuadrados es ajustar una lnea recta a un conjunto de observaciones definidas por puntos: (x1, y1), (x2, y2),, (xn, yn).La expresin matemtica para la lnea recta esy = a0 + a1x + eDonde a0 y a1 son coeficientes que representan la interseccin con el eje y y la pendiente, respectivamente, e es el error, o diferencia, entre el modelo y las observaciones, el cual se representa al reordenar la ecuacin anterior comoe = y a0 a1xAs, el error o residuo es la discrepancia entre el valor verdadero de y y el valor aproximado,a0 + a1x, que predijo la ecuacin lineal.

CRITERIO PARA UN MEJOR AJUSTE:

Una estrategia para ajustar una mejor lnea a travs de los datos ser minimizar la suma de los errores residuales de todos los datos disponibles, como sigue:

Donde n = nmero total de puntos. Sin embargo, ste es un criterio inadecuado, como lo muestra, la cual presenta el ajuste de una lnea recta de dos puntos. Obviamente, el mejor ajuste es la lnea que une los puntos. Sin embargo, cualquier lnea recta que pase a travs del punto medio que une la lnea (excepto una lnea perfectamente vertical) da como resultado un valor mnimo de la ecuacin igual a cero, debido a que los errores se cancelan.Por lo tanto, otro criterio lgico podra ser minimizar la suma de los valores absolutos de las discrepancias,

y

Punto medio

xa)y

xb)y

Punto fuera del conjuntoxc)

La figura b muestra por qu este criterio tambin es inadecuado. Para los cuatro puntos dados, cualquier lnea recta que est dentro de las lneas punteadas minimizar el valor absoluto de la suma. As, este criterio tampoco dar un nico mejor ajuste.Una tercera estrategia para ajustar una mejor lnea es el criterio minimax. En esta tcnica, la lnea se elige de manera que minimice la mxima distancia a que un punto se encuentra de la lnea. Como se ilustra en la figura c, tal estrategia es inadecuada para la regresin, ya que da excesiva influencia a puntos fuera del conjunto; es decir, a un solo punto con un gran error. Deber observarse que el principio minimax es, en algunas ocasiones, adecuado para ajustar una funcin simple a una funcin complicada (Carnahan, Luther y Wilkes, 1969).La estrategia que supera las deficiencias de los procedimientos mencionados consiste en minimizar la suma de los cuadrados de los residuos entre la y medida y la y calculada con el modelo lineal

Este criterio tiene varias ventajas, entre ellas el hecho de que se obtiene una lnea nica para cierto conjunto de datos. Antes de analizar tales propiedades, presentaremos una tcnica para determinar los valores de a0 y a1 que minimizan la ecuacin.

AJUSTE DE UNA LINEA RECTA POR MINIMOS CUADRADOS:

Para determinar los valores de a0 y a1, la ecuacin se deriva con respecto a cada uno de los coeficientes:

Observamos que hemos simplificado los smbolos de la sumatoria; a menos que se indique otra cosa, todas las sumatorias van desde i = 1 hasta n. Al igualar estas derivadas a cero, se dar como resultado un Sr mnimo. Si se hace esto, las ecuaciones se expresan como:

Ahora, si observamos que = n , expresamos las ecuaciones como un conjunto dedos ecuaciones lineales simultneas, con dos incgnitas (a0 y a1):

stas se llaman ecuaciones normales, y se resuelven en forma simultnea:

Para obtener:

Donde y son las medias de y y x, respectivamente.

Planteamiento del problema. Ajuste a una lnea recta los valores x y y en las dosprimeras columnas de la tabla.

xiyi(yi y )2(yi a0 a1xi)2

10.58.57650.1687

22.50.86220.5625

32.02.04080.3473

44.00.32650.3265

53.50.00510.5896

66.06.61220.7972

7 5.5 4.29080.1993

24.022.71432.9911

Solucin. Se calculan las siguientes cantidades:

n=7

Mediante las ecuaciones:

Por lo tanto, el ajuste por mnimos cuadrados es: y = 0.07142857 + 0.8392857x

CUANTIFICACIN DEL ERROR EN LA REGRESIN LINEAL

Cualquier otra lnea diferente a la calculada en el ejemplo anterior dar como resultado una suma mayor de los cuadrados de los residuos. As, la lnea es nica y, en trminos de nuestro criterio elegido, es la mejor lnea a travs de los puntos. Varias propiedades de este ajuste se observan al examinar ms de cerca la forma en que se calcularon los residuos. Recuerde que la suma de los cuadrados se define como

Observe la similitud entre las ecuaciones. En el primer caso, el cuadrado del residuo representa el cuadrado de la discrepancia entre el dato y una estimacin de la medida de tendencia central: la media. En la ecuacin, el cuadrado del residuo representa el cuadrado de la distancia vertical entre el dato y otra medida de tendencia central: la lnea recta.La analoga se puede extender an ms en casos donde 1. la dispersin de los puntos alrededor de la lnea es de magnitud similar en todo el rango de los datos, y 2. la distribucin de estos puntos cerca de la lnea es normal. Es posible demostrar que si estos criterios se cumplen, la regresin por mnimos cuadrados proporcionar la mejor (es decir, la ms adecuada) estimacin de a0 y a1 (Draper y Smith, 1981). Esto se conoce en estadstica como el principio de mxima verosimilitud. Adems, si estos criterios se satisfacen, una desviacin estndar para la lnea de regresin se determina como sigue.

Donde a sy/x se le llama error estndar del estimado. El subndice y/x designa que el error es para un valor predicho de y correspondiente a un valor particular de x. Tambin, observe que ahora dividimos entre n 2 debido a que se usaron dos datos estimados (a0 y a1), para calcular Sr; as, se han perdido dos grados de libertad. Como lo hicimos en nuestro anlisis para la desviacin estndar en PT5.2.1, otra justificacin para dividir entre n 2 es que no existe algo como datos dispersos alrededor de una lnea recta que une dos puntos. De esta manera, en el caso donde n = 2, la ecuacin da un resultado sin sentido, infinito.As como en el caso de la desviacin estndar, el error estndar del estimado cuantifica la dispersin de los datos. Aunque, sy/x cuantifica la dispersin alrededor de la lnea de regresin, a diferencia de la desviacin estndar original sy que cuantifica la dispersin alrededor de la media.Los conceptos anteriores se utilizan para cuantificar la bondad de nuestro ajuste.Esto es en particular til para comparar diferentes regresiones. Para hacerlo, regresamos a los datos originales y determinamos la suma total de los cuadrados alrededor de la media para la variable dependiente (en nuestro caso, y). Como en el caso de la ecuacin anterior, esta cantidad se designa por St. sta es la magnitud del error residual asociado con la variable dependiente antes de la regresin. Despus de realizar la regresin, calculamos Sr, es decir, la suma de los cuadrados de los residuos alrededor de la lnea de regresin. Esto caracteriza el error residual que queda despus de la regresin. Es por lo que, algunas veces, se le llama la suma inexplicable de los cuadrados. La diferencia entre estas dos cantidades, St Sr , cuantifica la mejora o reduccin del error por describir los datos en trminos de una lnea recta en vez de un valor promedio. Como la magnitud de esta cantidad depende de la escala, la diferencia se normaliza a St para obtener:

donde r 2 se conoce como el coeficiente de determinacin y r es el coeficiente de correlacin(=). En un ajuste perfecto, Sr = 0 y r = r2 = 1, significa que la lnea explica el 100% de la variabilidad de los datos. Si r = r2 = 0, Sr = St el ajuste no representa alguna mejora. Una representacin alternativa para r que es ms conveniente para implementarse en una computadora es:

Planteamiento del problema. La curva de la figura 19.3 se describe por y = 1.7 + cos(4.189t + 1.0472). Genere 10 valores discretos para esta curva a intervalos t = 0.15 en el intervalo de t = 0 a t = 1.35. Utilice esta informacin para evaluar los coeficientes de la ecuacin mediante un ajuste por mnimos cuadrados.

tyy cos(w0t)y sen(w0t)

02.2002.2000.000

0.151.5951.2910.938

0.301.0310.3190.980

0.450.7220.2230.687

0.600.7860.6360.462

0.751.2001.2000.000

0.901.8051.4601.061

1.052.3690.7322.253

1.202.6780.8292.547

1.352.6142.1141.536

=17.0002.5024.330

Estos resultados se utilizan para determinar:

De esta manera, el ajuste por mnimos cuadrados es:

y = 1.7 + 0.500 cos(w0t) 0.866 sen(w0t)

El modelo se expresa tambin en el formato de la ecuacin calculando:

y C1= 1.00cuyo resultado esy = 1.7 + cos(w0t + 1.0472)o, en forma alternativa, con seno utilizando la ecuaciny = 1.7 + sen(w0t + 2.618)

APROXIMACION DE FOURIER

Los ingenieros a menudo tratan con sistemas que oscilan o vibran. Como es de esperarse, las funciones trigonomtricas juegan un papel importante en el modelado de tales problemas. La aproximacin de Fourier representa un esquema sistemtico para utilizar series trigonomtricas con este propsito.Una de las caractersticas distintivas del anlisis de Fourier es que trata con los dominios del tiempo y de la frecuencia. Como algunos ingenieros requieren trabajar con el ltimo, se ha dedicado gran parte del siguiente material a ofrecer una visin general de la aproximacin de Fourier. Un aspecto clave de esta visin ser familiarizarse con el dominio de la frecuencia. Luego de dicha orientacin se presenta una introduccin a los mtodos numricos para calcular transformadas de Fourier discretas.f(x)1x2xx4x2x3x41 1xx3a)f(x)1cos 2tcos 2tsen 2tsen t wsen twtsen 2t

cos tcos tb)

AJUSTE DE CURVAS CON FUNCIONES SINUSOIDALES

Una funcin peridica f(t) es aquella para la cual

f(t) = f(t + T)

Donde T es una constante llamada el periodo, que es el valor menor para el cual es vlida la ecuacin. Entre los ejemplos comunes se encuentran diversas formas de onda tales como, ondas cuadradas y dientes de sierra. Las ondas fundamentales son las funciones sinusoidales.En el presente anlisis se usar el trmino sinusoide para representar cualquier forma de onda que se pueda describir como un seno o un coseno. No existe una convencin muy clara para elegir entre estas funciones y, en cualquier caso, los resultados sern idnticos. En este captulo se usar el coseno, que generalmente se expresa como

f(t) = A0 + C1 cos(w0t + )

As, cuatro parmetros sirven para caracterizar la sinusoide. El valor medio A0, establece la altura promedio sobre las abscisas. La amplitud C1 especifica la altura de la oscilacin. La frecuencia angular w0 caracteriza con qu frecuencia se presentan los ciclos. Finalmente, el ngulo de fase, o corrimiento de fase q, parametriza en qu extensin la sinusoide est corrida horizontalmente. Esto puede medirse como la distancia en radianes desde t = 0 hasta el punto donde la funcin coseno empieza un nuevo ciclo. Como se ilustra en la figurA, un valor negativo se conoce como un ngulode fase de atraso, ya que la curva cos(w0t ) comienza un nuevo ciclo de q radianes despus del cos(w0t). As, se dice que cos(w0t ) tiene un retraso cos(w0t). En forma opuesta, como se muestra en la figura, un valor positivo se refiere como un ngulo de fase de adelanto.Observe que la frecuencia angular (en radianes/tiempo) se relaciona con la frecuenciaf (en ciclos/tiempo) mediante:

w0 = 2f

y, a su vez, la frecuencia est relacionada con el periodo T (en unidades de tiempo) mediante

cos (c0t)cos c0t w2t8a)cos c0t + w2cos (c t)0tb)

y(t)2C11A08T12t, s0w2w3wct, rada)2A01B1 sen (c0t)0A1 cos (c0t)1 b)

Aunque la ecuacin representa una caracterizacin matemtica adecuada de una sinusoide, es difcil trabajar desde el punto de vista del ajuste de curvas, pues el corrimiento de fase est incluido en el argumento de la funcin coseno. Esta deficiencia se resuelve empleando la identidad trigonomtrica:

C1 cos(w0t + ) = C1[cos(w0t) cos() sen(w0t) sen()]

Sustituyendo y agrupando trminos se obtiene:f(t) = A0 + A1 cos(w0t) + B1 sen(w0t)

Dnde:

A1 = C1 cos() B1 = C1 sen()

Dividiendo las dos ecuaciones anteriores y despejando se obtiene:

donde, si A1 < 0, sume a . Si se elevan al cuadrado y se suman las ecuaciones llegaramos a:

As, la ecuacin representa una frmula alternativa de la que tambin requiere cuatro parmetros; pero que se encuentra en el formato de un modelo lineal general. Como se analizar en la prxima seccin, es posible aplicarlo simplemente como base para un ajuste por mnimos cuadrados.Sin embargo, antes de iniciar con la prxima seccin, se deber resaltar que se puede haber empleado la funcin seno en lugar de coseno, como modelo fundamental de la ecuacin. Por ejemplo,

f(t) = A0 + C1 sen(w0t + )

se pudo haber usado. Se aplican relaciones simples para convertir una forma en otra:

sen(w0t + )= cos(w0t + -) y cos(w0t + )= sen (w0t + -)

En otras palabras, = /2. La nica consideracin importante es que se debe usar una u otra forma de manera consistente. Aqu, usaremos la versin coseno en todo el anlisis.

SERIE DE FOURIER CONTINUA

En el curso del estudio de problemas de flujo de calor, con el anlisis de Fourier se demostr que una funcin peridica arbitraria se representa por medio de una serie infinita de sinusoides con frecuencias relacionadas de manera armnica. Para una funcin con un periodo T, se escribe una serie de Fourier continua.

f(t) = a0 + a1 cos(w0t) + b1 sen(w0t) + a2 cos(2w0t) + b2 sen(2w0t) +

donde: w0 = 2p/T se denomina la frecuencia fundamental y sus mltiplos constantes2w0, 3w0, etctera, se denominan armnicos. De esta forma, la ecuacin expresa a f(t) como una combinacin lineal de las funciones base: 1, cos(w0t), sen(w0t), cos(2w0t), sen(2w0t),, los coeficientes de la ecuacin se calculan por medio de:

Para k = 1, 2, y ao=

MTODOS NUMRICOS