Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por...

38
Sistemas Lineares Parte 2 Métodos Iterativos

Transcript of Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por...

Page 1: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Sistemas LinearesParte 2

Métodos Iterativos

Page 2: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Introdução

Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky, ... Fornecem solução de qualquer sistema. Para minimizar problemas de arredondamento, adota-se o pivoteamento.

Métodos iterativos: podem ser mais rápidos e necessitar de menos memória do computador. Fornecem seqüências que convergem para a solução sob certas condições.

Page 3: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Introdução

Seja um sistema linear de ordem . A idéia é generalizar o método do ponto fixo, escrevendo o sistema linear na forma

onde é uma matriz de ordem e é um vetor coluna .

Dado um vetor aproximação inicial , cons-truímos iterativamente:

bxA

gxCx C n

n

g1n

)0(x

gxCx )1()2(

gxCx )0()1(

Page 4: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Introdução

Se a seqüência , , ....., convergir

Então é a solução do sistema linear

)0(x

xbxA com

gxCxLim kk

grandek

)1()(

)(kx)1(x

Page 5: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Teste de Parada

Se a seqüência estiver suficientemente

próximo de paramos o processo. Dada um precisão , quando

então é a solução do sistema linear. Computacionalmente, um número máximo de

iterações também é critério de parada.

1

1

)( ki

ki

ni

k xxMAXd

)(kx

)1( kx

)(kx

Page 6: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Seja o sistema linear

Se podemos isolar

por separação da diagonal.

nnnnnnn

nn

nn

bxaxaxaxa

bxaxaxaxa

bxaxaxaxa

......

.........................................................

......

......

332211

22323222121

11313212111

niaii ...1para0 gxCx

Page 7: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Iterativamente, o sistema reescreve-se como:

)(11,

)(22

)(11

)1(

)(2

)(323

)(1212

22

)1(2

)(1

)(313

)(2121

11

)1(1

......1

.........................................................

......1

......1

knnn

kn

knn

nn

kn

knn

kkk

knn

kkk

xaxaxaba

x

xaxaxaba

x

xaxaxaba

x

Page 8: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Desta forma temos , onde

e

Do método de Gauss-Jacobi, dado ,

Obtemos , ....., através da relação

recursiva

0.......//

.................................

/.......0/

/....../0

21

2222221

1111112

nnnnnn

n

n

aaaa

aaaa

aaaa

C

nnn ab

ab

ab

g

/

.......

/

/

222

111

gxCx

)0(x)1(x )1( kx

gxCx kk )()1(

Page 9: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Exemplo:Seja o sistema linear

Seja com . Portanto,

6.0

6.1

7.0)0(x 05.0

61032

851

7210

321

321

321

xxx

xxx

xxx

010/35/1

5/105/1

10/110/20

C

6.0

6.1

7.0

10/6

5/8

10/7

g

Page 10: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Substituindo

Segue . Calculando

94.0

86.1

96.0)1(x

94.06.0)6.1(3.0)7.0(2.06.03.02.0

86.16.1)6.0(2.0)7.0(2.06.12.02.0

96.07.0)6.0(1.0)6.1(2.07.01.02.0

)0(2

)0(1

)1(3

)0(3

)0(1

)1(2

)0(3

)0(2

)1(1

xxx

xxx

xxx

05.034.0

05.026.0

05.026.0

)0(3

)1(3

)1(3

)0(2

)1(2

)1(2

)0(1

)1(1

)1(1

xxd

xxd

xxd

Page 11: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-JACOBI

Continuando com

Segue é a solução, pois

critério de parada

966.0

98.1

978.0)2(x

12.012

1

)2(ii

nixxMAXd

998.0

999.1

999.0)3(x

032.0)2()3(

1

)3(ii

nixxMAXd

Page 12: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Critérios de Convergência

Nos métodos iterativos são necessários critérios que garantam a convergência.

Um critério para a convergência do Método de Gauss-Jacobi é dado pelo:

1) Critério das linhas.

Page 13: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Método de Gauss-JacobiConvergência: Critério das linhas

Teorema – Critério das linhas

Dado o sistema , seja

Se , então o método de Gauss-

Jacobi gera uma série convergente para a

solução do sistema independentemente da

escolha de .

bxA ||/)||(1

kk

n

kjj

kjk aa

1max1

knk

)0(x

Page 14: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Método de Gauss-JacobiConvergência: Critério das linhas

Exemplo:Considere o sistema já estudado

Critério das linhas:

Logo, convergência OK!

13.010

121

1032

151

1210

A

61032

851

7210

321

321

321

xxx

xxx

xxx

15.010

323

14.0

5

112

15.0max1

knk

Page 15: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Método de Gauss-JacobiConvergência: Critério das linhas

Obs1: O sistema converge pelo método de Gauss-

Jacobi. No entanto, . Isto mostra que o Teorema das linhas é apenas suficiente para convergência.

Obs2: O sistema

Contudo, o sistema Equivalente convergepelo critério das linhas

33

3

21

21

xx

xx

1max1

knk

6860

3225

231

321

321

321

xxx

xxx

xxx

4max1

knk

6860

231

3225

321

321

321

xxx

xxx

xxx

18.0max1

knk

Page 16: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Seja o sistema linear

Se podemos isolar

por separação da diagonal.

nnnnnnn

nn

nn

bxaxaxaxa

bxaxaxaxa

bxaxaxaxa

......

.........................................................

......

......

332211

22323222121

11313212111

niaii ...1para0 gxCx

Page 17: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Iterativamente, o sistema reescreve-se como:

)1(11,

)1(22

)1(11

)1(

)(2

)(323

)1(1212

22

)1(2

)(1

)(313

)(2121

11

)1(1

......1

.........................................................

......1

......1

knnn

kn

knn

nn

kn

knn

kkk

knn

kkk

xaxaxaba

x

xaxaxaba

x

xaxaxaba

x

Page 18: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Comentário: Gauss-Jacobi X Gauss-Seidel O Método de Gauss-Seidel é uma variação

do Método de Gauss-Jacobi, pois para

calcular utilizamos os valores

já calculados e os valores restantes

)1( kjx

)1(1

)1(3

)1(2

)1(1 ,.....,,,

k

jkkk xxxx

)1()1(2

)1(1 ,.....,,

k

nk

jk

j xxx

Page 19: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Exemplo:Seja o sistema linear

Seja com . Portanto,

0

0

0)0(x 05.0

0633

6143

5115

321

321

321

xxx

xxx

xxx

)1(

2)1(

1)1(

3

)(3

)1(1

)1(2

)(3

)(2

)1(1

5.05.00

25.075.05.1

2.02.01

kkk

kkk

kkk

xxx

xxx

xxx

Page 20: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Logo, a primeira iteração fornece

88.075.05.015.05.05.00

75.0025.0175.05.125.075.05.1

10012.02.01

)1(2

)1(1

)1(3

)0(3

)1(1

)1(2

)0(3

)0(2

)1(1

xxx

xxx

xxx

88.0

75.0

1)1(x

88.0088.0

75.0075.0

101

)0(3

)1(3

)0(2

)1(2

)0(1

)1(1

xx

xx

xx

Page 21: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Logo, a segunda iteração fornece

99.05.05.00

95.025.075.05.1

03.12.02.01

)2(2

)2(1

)2(3

)1(3

)2(1

)2(2

)1(3

)1(2

)2(1

xxx

xxx

xxx

99.0

95.0

03.1)2(x

11.0

2.0

03.0

)1(3

)2(3

)1(2

)2(2

)1(1

)2(1

xx

xx

xx

Page 22: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Logo, a terceira iteração fornece

00.15.05.00

99.025.075.05.1

01.12.02.01

)3(2

)3(1

)3(3

)2(3

)3(1

)3(2

)2(3

)2(2

)3(1

xxx

xxx

xxx

00.1

99.0

01.1)3(x

01.0

04.0

02.0

)2(3

)3(3

)2(2

)3(2

)2(1

)3(1

xx

xx

xx

Page 23: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

MÉTODOS ITERATIVOSMÉTODO DE GAUSS-SEIDEL

Logo, após a terceira iteração

é solução do sistema considerado com erro

menor do que .

00.1

99.0

01.1)3(xx

05.0

Page 24: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Critérios de Convergência

Nos métodos iterativos são necessários critérios que garantam a convergência.

Convergência para o Método de Gauss-Seidel: 1) Critério das linhas (já visto)

2) Critério de Sassenfeld

Os critérios acima estabelecem condições suficientes para a convergência.

Page 25: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Método de Gauss-SeidelConvergência - Critério de Sassenfeld

Sejam

e

n

j

jn

a

a

a

aaa

2 11

1

11

113121 ||

||

||

||||||

niaaa

a

aaaaa

ii

n

ijijj

i

jij

ii

iniiiiiiii

,3,2||/|]|||[

||

||||||||||

1

1

1

1112211

Page 26: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Critério de Sassenfeld

Seja

Se < 1, o método de Gauss-Seidel gera uma sequência convergente para qualquer

Quanto menor , mais rápida a convergência.

}{max1

ini

)0(x

Page 27: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Exemplos

Seja o sistema:

5.22.03.01.0

0.12.02.01.0

6.21.02.02.0

2.01.01.05.0

4321

4321

4321

4321

xxxx

xxxx

xxxx

xxxx

274.01/]358.02.044.02.07.01.0[

||/]|||||[|||/|]|||[

358.01/]2.044.02.07.01.0[

||/|]||||[|||/|]|||[

44.01/]1.02.07.02.0[

||/|]||||[|||/|]|||[

7.01/]1.01.05.0[||/|]||||[|||/]||[

4434324214144

4

144

14

144

333423213133

4

133

13

133

22242312122

4

122

12

122

1114131211

4

211

aaaaaaa

aaaaaaa

aaaaaaa

aaaaaa

jjj

jj

jjj

jj

jjj

jj

jj

Page 28: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Exemplos

Então,

de modo que o método de Gauss-Seidel converge.

17.0}{max1

ini

Page 29: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Exemplos

2. Seja o sistema:

Neste caso,

Trocando a 1ª equação pela terceira,

Nesta disposição:

33

1

932

31

32

321

xx

xx

xxx

122/]31[1

932

1

33

321

32

31

xxx

xx

xx

131/]30[1

Page 30: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Exemplos

2. Agora se trocarmos a 1ª coluna pela terceira,

Nesta disposição:

923

1

3 3

123

23

13

xxx

xx

xx

3/22//)3/1(1)3/1(3[

3/11/]0)3/1(1[

3/13/]11[

3

2

1

13/2}{max1

ini

Garantia de convergência

Page 31: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Exemplos

3. Seja o sistema:

O método de Gauss-Seidel gera uma seqüência convergente, apesar do crit´rio das linhas não ser satisfeito.

Pelo critério de Sassenfeld

33

3

21

21

xx

xx

3/13/11

11/1

2

1

O critério de Sassenfeld

não é satisfeito.

O critério de Sassenfeld também é suficiente, mas não necessário.

Page 32: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Metodos Iterativos - Comparação

Seja o sistema:

Método de Gauss-Jacobi:

Temos a seqüência:

33

3

21

21

xx

xx

)(1

)1(2

)(2

)1(1

33

1

3

kk

kk

xx

xx

3/4

3/4,

3/5

1,

2

2,

1

3,

0

0 )4()3()2()1()0( xxxxx

Page 33: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Metodos Iterativos - Comparação

Seja o sistema:

Método de Gauss-Seidel:

Temos a seqüência:

33

3

21

21

xx

xx

)1(1

)1(2

)(2

)1(1

33

1

3

kk

kk

xx

xx

9/14

3/5,

3/4

1,

2

3,

0

0 )3()2()1()0( xxxx

Page 34: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Metodos Iterativos - Comparação

Comentário1: As duas seqüências convergem para a

solução exata do sistema . Vejamos,

a) Gauss-Jacobi :

b) Gauss-Seidel: Comentário 2: A convergência do Método de Gauss-

Seidel é mais rápida, por construção do método. Comentário 3: Embora a ordem das equações num

sistema linear não mude a solução exata, as seqüências

geradas pelos Métodos de Gauss-Jacobi e Gauss-Seidel

dependem fundamentalmente da disposição das equações

5.15.1x

56.167.1)3( GSx

33.133.1)4( GJx

Page 35: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Métodos Direto e Iterativos Comparação

1) Convergência:

Os Métodos Diretos são processos finitos portanto fornecem solução para qualquer sistema linear não-singular.

Os Métodos Iterativos têm convergência assegurada sob certas condições.

Page 36: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Métodos Direto e Iterativos Comparação

2) Esparsidade da Matriz : Em problemas reais, como a discretização de EDO’s peloMétodo de Elementos Finitos ou Diferenças Finitas, as matrizes dos coeficientes tornam-se esparsas. A forma de armazenamento destes dados tira proveito da esparsidade. Métodos diretos em sistemas esparsos provocam o

preenchimento da matriz e no processo de Eliminação (escalonamento) geram elementos não-nulos, onde originalmente tínhamos elementos nulos. Técnicas especiais de pivoteamento reduzem este preenchimento. Fatoramento LU dão bons resultados. Algumas situações estes métodos não são possíveis.

Métodos iterativos não alteram a estrutura da matriz dos coeficientes. Vantagem.

A

Page 37: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Métodos Direto e Iterativos Comparação

3) Erros de Arredondamento

Métodos Diretos têm problemas de arredondamento. Técnicas de Pivoteamento amenizam tais erros.

Métodos iterativos têm menos erros de arredondamento, quando a convergência estiver assegurada.

A

Page 38: Sistemas Lineares Parte 2 Métodos Iterativos. Introdução Métodos diretos: eliminação por Gauss, fatoração LU, fatoração de Cholesky,... Fornecem solução.

Lista de Métodos para Sistemas Lineares

Fazer exercícios 3, 5, 9,14, 22, 29 do livro texto.