Introdução aos Métodos Numéricos

Transcrição

1 Introdução aos Métodos Numéricos Instituto de Computação UFF Departamento de Ciência da Computação Otton Teixeira da Silveira Filho

2 Conteúdo temático Sistemas de Equações Lineares. Métodos diretos

3 Conteúdo específico Alguns aspectos básicos Aspectos sobre custo computacional Sistemas de resolução simples

4 Sistemas de equações lineares Tem solução? A x= b

5 Sistemas de equações lineares Tem solução? A x= b A :n n; det ( A) 0 Porque isto?

6 Sistemas de equações lineares Tem solução? A x= b A :n n; det ( A) 0 Porque isto? Se A é n n e det ( A) 0 A 1 x= A 1 b

7 Sistemas de equações lineares As possibilidades são: Não há solução, det(a) = 0 Há um número indefinido de soluções, det(a) = 0 Há uma única solução, det(a) 0 Vejamos alguns casos de duas equações lineares

8 Sistemas de equações lineares Não há solução: ( ) x= ( 2 3 ) Podemos representar este caso graficamente como

9 Sistemas de equações lineares Há um número indefinido de soluções, por exemplo: ( ) x= ( 1 2) quando temos equações coincidentes

10 Sistemas de equações lineares Há uma única solução: ( ) x= ( 1 3 ) A representação gráfica para o sistema será

11 Sistemas de equações lineares É uma boa ideia achar a inversa para determinar a solução?

12 Sistemas de equações lineares É uma boa ideia achar a inversa para determinar a solução? Não é boa ideia na maioria das situações reais!

13 Uma pausa importante Em geral a matemática se preocupa com se há solução para um problema

14 Uma pausa importante Em geral a matemática se preocupa com se há solução para um problema Ingenuamente acreditamos qualquer método de solucionar um problema é bom

15 Uma pausa importante Em geral a matemática se preocupa com se há solução para um problema Ingenuamente acreditamos qualquer método de solucionar um problema é bom Pensemos um pouco melhor...

16 Custo computacional Chamamos de custo computacional ao número de operações necessárias para um determinado algoritmo nos dar uma resposta

17 Custo computacional Chamamos de custo computacional ao número de operações necessárias para um determinado algoritmo nos dar uma resposta Em geral, não é necessario o número exato de operações mas o quanto o número de operações cresce com o tamanho do problema

18 Custo computacional Exemplos: Produto escalar Produto de matriz por vetor Produto de matriz por matriz Resolução de sistemas lineares por Laplace Resolução de sistemas lineares por Cramer

19 Produto escalar u e v, vetores de dimensão n n u v=u 1 v 1 +u 2 v 2 +u 3 v 3 + +u n v n = i=1 Custo computacional: n multiplicações + n-1 somas u i v i

20 Produto matriz por vetor A matriz m x n, x dimensão n, y dimensão m m y i = i=1 y= A x a ij x j ; para todo j Custo Computacional: m x (n multiplicações + n-1 somas)

21 Produto matriz por vetor A matriz m x n, x dimensão n, y dimensão m m y i = i=1 y= A x a ij x j ; para todo j Custo Computacional: m x (n multiplicações + n-1 somas) São m produtos escalares

22 Produto de matriz por matriz A matriz m x n, B matriz n x p n ( AB) ij = r =1 Custo computacional: a ir b rj ; para cada i e j m x p x (n multiplicações e n 1 somas)

23 Produto de matriz por matriz A matriz m x n, B matriz n x p n ( AB) ij = r =1 Custo computacional: a ir b rj ; para cada i e j m x p x (n multiplicações e n 1 somas) São m vezes p produtos escalares

24 Custo computacional Está complicado...

25 Custo computacional Simplificando...

26 Custo computacional Suporemos que as operações (soma, multiplicação, etc.) levem o mesmo tempo para serem executadas

27 Custo computacional Suporemos que as operações (soma, multiplicação, etc.) levem o mesmo tempo para serem executadas Não contaremos todas as operações mas o termo de maior crescimento

28 Custo computacional Suporemos que as operações (soma, multiplicação, etc.) levem o mesmo tempo para serem executadas Não contaremos todas as operações mas o termo de maior crescimento Trabalharemos com dados mais uniformes

29 Custo computacional Assim, nossos vetores e matrizes terão dimensão n

30 Custo computacional Produto escalar: 2n - 1 operações Produto matriz por vetor: 2n 2-n operações Produto de matrizes: 2n 3-n 2 ou usando a notação O(), chamada O grande

31 Custo computacional Produto escalar: 2n - 1 operações O(n) Produto matriz por vetor: 2n 2-n operações O(n 2 ) Produto de matrizes: 2n 3-n 2 O(n 3 )

32 Custo computacional Produto escalar: 2n - 1 operações O(n) Produto matriz por vetor: 2n 2-n operações O(n 2 ) Produto de matrizes: 2n 3-n 2 O(n 3 ) deixando mais claro com exemplos mais genéricos...

33 Custo computacional Número de Operações Notação O (O grande) 230 n O(n) n O(n) 3 n n O(n 2 ) 20 n n n O(n 3 )

34 Custo computacional Retornando...

35 Custo computacional Exemplos: Produto escalar Produto de matriz por vetor Produto de matriz por matriz Resolução de sistemas lineares por Laplace Resolução de sistemas lineares por Cramer

36 Custo computacional Algoritmo Custo computacional O Produto escalar O(n) Produto de matriz por vetor O(n 2 ) Produto entre matrizes O(n 3 ) Resolução de SEL Laplace O(n 4 ) Resolução de SEL Cramer O(n!) Aqui não mostramos explicitamente o custo da resolução por Laplace ou Cramer mas não é difícil de fazer esta computação

37 Custo computacional O que isto quer dizer?

38 Custo computacional Suponha que estamos trabalhando com uma matriz pequena, por exemplo, 100 x 100

39 Custo computacional Suponha que estamos trabalhando com uma matriz pequena, por exemplo, 100 x 100 Suponha que nosso computador tenha um processador típico em Ele fará realisticamente algo como 100 milhões de operações por segundo

40 Custo computacional Tempo aproximado para executar: Produto de duas matrizes:0,01 segundo Resolução de SEL por Laplace: 1 segundo Resolução de SEL por Cramer: idade estimada do universo

41 Custo computacional Vemos neste exemplo que o simples fato de um método ser eficaz não significa que ele é útil para todas as tarefas

42 Sistemas de equações lineares Alguns sistemas de solução simples

43 Sistemas de equações lineares Sistema com matriz identidade I x= b x= b Observe que det (I )=1 Custo computacional: Zero

44 Sistemas de equações lineares Sistema com matriz diagonal Observe que: D x= b ;d ij =0,i j n det (D) 0 sss d ii 0 i ;det (D)= i Como resolver: transformar este sistema em outro que sabemos o resultado, o sistema com matriz identidade. d ii

45 Sistemas de equações lineares O sistema tem a forma ( d d d d d n 1,n d n, n) Dividamos cada linha do sistema pelo elemento da diagonal x=( b1 b 2 b 3 b 4 b n 1 b n )

46 Sistemas de equações lineares Ficaremos com ) x=( ( b 1 /d b 2 /d b 3 /d 33 ) b 4 /d b n 1 /d n 1,n b n /d nn

47 Sistemas de equações lineares Sistema com matriz diagonal Algoritmo D x= b ;d ij =0,i j Custo computacional: O(n) x i = b i d ii ; i

48 Sistemas de equações lineares Sistema com matriz triangular inferior L x= b l l 21 l l L=( 31 l 32 l l 41 l 42 l 43 l l n 1,1 l n 1,2 l n 1,3 l n 1,4 l n 1,n 1 0 l n,1 l n,2 l n,3 l n,4 l n,n 1 l n, n) Observe que: n det (L)= i=1 l ii ;det ( L) 0 sss l ii 0 i Como resolver: transformar este problema no problema com matriz diagonal

49 Sistemas de equações lineares Sistema com matriz triangular inferior ( l l 21 l l 31 l 32 l l 41 l 42 l 43 l l n 1,1 l n 1,2 l n 1,3 l n 1,4 l n 1,n 1 0 l n,1 l n,2 l n,3 l n,4 l n,n 1 l n, n) x=( b1 b 2 b 3 b 4 b n 1 b n )

50 Sistemas de equações lineares Explicitado (l11 b 1 0 l b 2 l 21 x l b l l n 1, n l n,n) x=( 3 l 31 x 1 l 32 x 2 ) b 4 l 41 x 1 l 42 x 2 l 43 x 3 b n 1 l n 1,1 x 1 l n 1,2 x 2 l n 1,3 x 3 l n 1,n 1 x n 1 b n l n1 x 1 l n2 x 2 l n3 x 3 l nn x n Resolva este sistema como na matriz diagonal

51 Sistemas de equações lineares Ou seja x 1 = b 1 l 11 ; x 2 = b 2 l 21 x 1 l 22 ; x 3 = b 3 l 31 x 1 l 32 x 2 l 33 ; ; x n = Custo computacional O(n 2 ) Algoritmo n 1 b n k =1 l nn l nk x k x 1 = b 1 l 11 ; x i = i 1 b i k=1 l ii l ik x k ;i=2,3,, n

52 Sistemas de equações lineares Sistema com matriz triangular superior Observe que: U x= b U =( n det (U )= i=1 u11 u12 u13 u14 u1, n 1 u1, n 0 u 22 u 23 u 24 u 2,n 1 u 2,n 0 0 u 33 u 34 u 3,n 1 u 3,n u 44 u 4,n 1 u 4,n u n 1,n 1 u n 1,n u n, n ) u ii ;det (U ) 0 sss u ii 0 i Como resolver: transformar este problema no problema com matriz diagonal

53 Sistemas de equações lineares Sistema com matriz triangular superior ) x=( b1 0 u 22 u 23 u 24 u 2,n 1 u 2,n b u 33 u 34 u 3,n 1 u 3,n b 3 ) u 44 u 4,n 1 u 4,n b u n 1,n 1 u n 1, n b n u n,n b n (u11 u12 u13 u14 u1, n 1 u1, n

54 Sistemas de equações lineares Explicitado (u11 b1 u12 x2 u1, n 1 xn 1 u1, n x n 0 u b 2 u 23 x 3 u 2,n 1 x n 1 u 2,n x n 0 0 u b u x=( 3 u 34 x 4 u 3,n 1 x n 1 u 3, n x n ) b 4 u 45 x 5 u 4,n 1 x n 1 u 4,n x n b n 1 u n 1, n x n b n u n 1,n u n, n) Resolva como na matriz diagonal

55 Sistemas de equações lineares Ou seja x n = b n u nn ; x n 1 = b n 1 u n 1, n x n u n 1, n 1 ; x n 2 = b n 2 u n 2,n x n u n 2, n 1 x n 1 u n 2,n 2 ; ; x 1 = 2 b 1 k=n u 11 u 1 k x k Custo computacional O(n 2 ) Algoritmo x n = b n u nn ; x i = i+1 b i k=n u ii l ik x k ;i=n 1, n 2,,1

56 Sistemas de equações lineares Mas e o caso mais geral? A x= b ;det ( A) 0 ( a11 a12 a13 a14 a1,n 1 ann a 21 a 22 a 23 a 24 a 2,n 1 a 2, n a 31 a 32 a 33 a 34 a 3,n 1 a 3, n a 41 a 42 a 43 a 44 a 4, n 1 a 4,n a n 1,1 a n 1,2 a n 1,3 a n 1,4 a n 1,n 1 a n 1, n a n,1 a n,2 a n,3 a n,4 a n,n 1 a n,n x=( ) b1 b 2 b 3 ) b 4 b n 1 b n Como resolver: transformar este problema no problema de matriz triangular

57 Sistemas de equações lineares Observe que no caso de matriz diagonal e matrizes triangulares fizemos transformações lineares (por passos) muito simples para solucionar os sistemas

58 Sistemas de equações lineares Observe que no caso de matriz diagonal e matrizes triangulares fizemos transformações lineares (por passos) muito simples para solucionar os sistemas Sabemos que combinações lineares entre as linhas não alteram a solução de um sistema

59 Sistemas de equações lineares Observe que no caso de matriz diagonal e matrizes triangulares fizemos transformações lineares (por passos) muito simples para solucionar os sistemas Sabemos que combinações lineares entre as linhas não alteram a solução de um sistema Como resolver: Fazer uma transformação linear por passos que transforme a matriz original numa matriz triangular. Por uma questão de tradição iremos obter uma matriz triangular superior.