Classificação de Máquinas Paralelas ARQUITETURA DE COMPUTADORES II Prof. César Augusto M. Marcon.
ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03...
Transcript of ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03...
![Page 1: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/1.jpg)
ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II
AULA 03: PROCESSAMENTO PARALELO:
MULTIPROCESSADORES
Prof. Max Santana Rolemberg Farias [email protected]
Colegiado de Engenharia de Computação
![Page 2: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/2.jpg)
• Os multiprocessadores são arquiteturas do tipo MIMD (multiple instruction, multiple data).
– Uma conjunto de processadores que executam sequências de instruções diferentes simultaneamente em diferentes conjuntos de dados. • Multiprocessadores simétricos (SMP)
• Clusters
• Sistema NUMA (Acesso não uniforme à memória)
MULTIPROCESSADORES
2
![Page 3: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/3.jpg)
• As arquiteturas MIMD são divididas em dois grandes grupos:
– Memória Compartilhada • Cada processador pode endereçar toda a memória do sistema.
– Memória Distribuída • Cada processador endereça somente a própria memória local.
ARQUITETURA MIMD
![Page 4: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/4.jpg)
• As vantagens de uma arquitetura MIMD com memória compartilhada são:
– A comunicação entre os processos é bastante eficiente, pois os dados não precisam se movimentar fisicamente.
– A programação não difere muito da programação para um único processador, não necessitam particionar código nem dados.
ARQUITETURA MIMD MEMÓRIA COMPARTILHADA
![Page 5: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/5.jpg)
• As desvantagens de uma arquitetura MIMD com memória compartilhada são:
– Primitivas de sincronização são necessárias para acesso às regiões compartilhadas. • Em algumas linguagens isso fica a cargo do programador.
• Linguagens mais novas escondem alguns detalhes do programador.
– Esse tipo de arquitetura não é muito escalável, devido ao limite da memória.
ARQUITETURA MIMD MEMÓRIA COMPARTILHADA
![Page 6: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/6.jpg)
MULTIPROCESSADORES DIAGRAMA
![Page 7: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/7.jpg)
• As vantagens de uma arquitetura MIMD com memória distribuída são:
– Altamente escalável, permitindo a construção de computadores massivamente paralelos (multicomputadores)
– A forma de comunicação (troca de mensagens) resolve tanto os problemas de comunicação como sincronização.
ARQUITETURA MIMD MEMÓRIA DISTRIBUÍDA
![Page 8: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/8.jpg)
• As desvantagens de uma arquitetura MIMD com memória distribuída são:
– A programação exige que os problemas possuam uma natureza paralela.
– É necessária a distribuição da carga entre os processadores, seja de maneira automática ou manual.
ARQUITETURA MIMD MEMÓRIA DISTRIBUÍDA
![Page 9: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/9.jpg)
• São computadores com as seguintes características:
– Dois ou mais processadores (capacidade semelhante). • Podem fazer as mesmas funções (simétricos)
– Os processadores compartilham a mesma memória e E/S • Podem usar o mesmo canal ou possuírem caminhos independentes
– Os processadores são conectados por um barramento ou outra conexão interna.
– O tempo de acesso à memória é aproximadamente o mesmo para todos os processadores. • Arquitetura UMA (Uniform Memory Access)
– O sistema operacional controla a arquitetura • Fornece interação entre os processadores
MULTIPROCESSADORES SIMÉTRICOS
![Page 10: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/10.jpg)
• Desempenho
– Caso algum trabalho possa ser feito em paralelo
• Disponibilidade de recurso – Todos os processadores podem fazer as mesmas funções, falha de um
processador não param a máquina.
• Aumento incremental – O usuário pode aumentar o desempenho adicionando novos processadores,
mas sempre limitado pela memória.
• Diferentes faixas de equipamentos – Os fornecedores oferecem diferentes produtos, baseados no número de
processadores.
MULTIPROCESSADORES SIMÉTRICOS VANTAGENS
![Page 11: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/11.jpg)
• Os multiprocessadores simétricos podem ser organizados em:
– Barramento de tempo compartilhado (comum)
– Memória multiportas (multiportas)
MULTIPROCESSADORES SIMÉTRICOS ORGANIZAÇÃO
![Page 12: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/12.jpg)
• Forma mais simples
• Estrutura e interface similares às arquiteturas monoprocessadas – Endereçamento (distingue módulos no barramento)
– Arbitragem (qualquer módulo pode ser o mestre temporariamente)
– Time sharing (se um módulo tem o barramento, os outros dispositivos esperam)
• Diferença em relação aos monoprocessados – Múltiplos processadores além de múltiplos dispositivos de E/S
MULTIPROCESSADORES SIMÉTRICOS BARRAMENTO COMPARTILHADO
![Page 13: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/13.jpg)
MULTIPROCESSADORES SIMÉTRICOS BARRAMENTO COMPARTILHADO
![Page 14: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/14.jpg)
MULTIPROCESSADORES SIMÉTRICOS BARRAMENTO COMPARTILHADO
Vantagens
• Simplicidade
• Flexibilidade
• Confiabilidade
Desvantagens
• Desempenho limitado pelo clock do barramento
• Cada processador deveria ter cache local – Reduz número de acessos ao
barramento.
– Gera problemas com a coerência da cache.
![Page 15: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/15.jpg)
MULTIPROCESSADORES SIMÉTRICOS MEMÓRIA MULTIPORTAS
• Acesso direto e
independente dos módulos de memória pelos processadores.
• Lógica necessária para solucionar conflitos
• Pouca ou nenhuma modificação nos processadores ou módulos de memória.
![Page 16: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/16.jpg)
• Mais complexa
• Desempenho melhor – Cada processador tem o seu próprio caminho para os módulos
de memória
• Pode configurar porções da memória como privada para um ou mais processadores – Aumenta a segurança
• Política de write through para atualização da cache
MULTIPROCESSADORES SIMÉTRICOS MEMÓRIA MULTIPORTAS
![Page 17: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/17.jpg)
• Encapsula detalhes, fornecendo visão de uma arquitetura monoprocessada. Trabalha como:
– Processos concorrentes
– Escalonamento
– Sincronização
– Gerência de memória
– Confiabilidade e tolerância a falhas
MULTIPROCESSADORES SIMÉTRICOS CONSIDERAÇÕES SOBRE O SO
![Page 18: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/18.jpg)
MULTIPROCESSADORES SIMÉTRICOS EXEMPLO: IBM S/390
![Page 19: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/19.jpg)
• Implementação de uma memória que é logicamente compartilhada mas implementada com o uso de um conjunto de memórias locais
– NUMA (Non-Uniform Memory Access)
– COMA (Cache-Only Memory Access)
– CC-NUMA (Cache Coherent Non-Uniform Memory Access)
MULTIPROCESSADORES COM CONJUNTO DE MEMÓRIAS LOCAIS
![Page 20: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/20.jpg)
MULTIPROCESSADORES NUMA
• Quando o acesso à memória
não é uniforme – Todos os processadores tê
acesso a toda memória • Normalmente usando
load/store
– Tempo de acesso à memória difere em função da região
– Diferentes processadores têm acesso às regiões da memória em diferentes velocidades • O que faz necessário um certo
cuidado na hora de programar.
![Page 21: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/21.jpg)
MULTIPROCESSADORES COMA
• Assemelham-se a uma NUMA – Onde cada nó de possui uma parte de
memória global
• O particionamento dos dados entre as memórias de cada nó não é estática. – As memórias funcionam como caches
L3
• O problema de partição de dados e balanceamento dinâmico de carga é realizado automaticamente.
• Conforme o algoritmo de coerência utilizado, os dados migram automaticamente para as caches locais dos processadores onde é mais necessária.
![Page 22: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/22.jpg)
MULTIPROCESSADORES CC-NUMA
• Solução de compromisso entre as arquiteturas NUMA e COMA – Cada nó de processamento
possui uma cache local para reduzir o tráfego na rede de interconexão
– O balanceamento de carga é realizado dinamicamente pelos protocolos de coerência de cache.
![Page 23: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/23.jpg)
MULTIPROCESSADORES CC-NUMA
![Page 24: ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03 ...max.santana/material/aoc-ii/Aula03-OAC-II.pdf · ORGANIZAÇÃO E ARQUITETURA DE COMPUTADORES II AULA 03: PROCESSAMENTO PARALELO:](https://reader033.fdocumentos.com/reader033/viewer/2022050119/5f4f96309e756226b25de6df/html5/thumbnails/24.jpg)