Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters...

22
Revisão geral CG 09/10

Transcript of Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters...

Page 1: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Revisão geral

CG 09/10

Page 2: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Introdução Plataformas de processamento paralelo e

distribuído Clusters Gerenciadores de recursos (RMS –

Resource Management Systems)NQESGECondor

Definições de grid

Page 3: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Condor

Escalonamento oportunista Matchmaking Classads Arquitetura e processo principais Comandos principais Checkpointing DAGMan Master-worker Flocking

Page 4: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

EGEE

Overview do projetoObjetivosAplicaçõesProjetos relacionadosSustentabilidadeMiddleware

Page 5: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

gLite Aspectos administrativos de

desenvolvimento do middleware Arquitetura: serviços Job workflow Segurança

AutenticaçãoAutorizaçãoProxiesOrganizações virtuais (VO e VOMS)

Page 6: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

gLite Sistema de informação

BDII (Berkeley Database Information Index), ldap

Accounting Apel Dgas

Storage elements Computing Elements Gestão de jobs (WMS – Workload Management

System) User Interface (UI), Logging & Bookkeeping

(LB), Logical File Catalog (LFC)

Page 7: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

gLite Autenticação e autorização Chaves públicas e privadas Certificados Formas de criptografia Segurança

X.509 PKI Organizações virtuais IGTF Certificate authorities e registration authorities CRLs CNs e DNs Renovação de certificado Login to the grid, single sign-on, delegation

Page 8: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

gLite: WMS & DMS

Workload Management systemFeaturesAPI

Data Management SystemFeaturesAPI

Page 9: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Arquitetura de grids (OGSA e outras) Desafios History and Evolution of Grid Introduction to Grid Architecture Key Components - Resource infrastructure Services in the Web and the Grid Technology: Globus

Page 10: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Arquitetura de grids (OGSA)

Modelo da ampulheta (hourglass model)AplicaçõesCollective servicesCoreFabric

Page 11: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Arquitetura de grids (OGSA)

Web services versus Grid services OGSA/OGSI/WSRF Implementation: Globus

Serviços (GRAM, GridFTP, GSI, etc) limitações

Page 12: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Application Description Languages

Script-like Atribute-value Workflow-based Xml-based

Page 13: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Languages ClassAds DAGMan VDL GXML AGWL XPWSL GEL GRID-ADL JDL JSDL

Page 14: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling Taxonomia (segundo Foster):

Computacionais Data grids Service grids

Taxonomia de aplicações Distributed supercomputing

High-Throughput Computing

On-Demand Computing

Data-Intensive Computing

Collaborative Computing

Page 15: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling (cont.)

Alternative classification for applications: IndependentLoosely-coupledTightly-coupled

Application managementPartitioningMappingallocation

Page 16: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling (cont.)

Particionamento e aglomeração de grafos de aplicação

Heurísticas de particionamento:Graph collapsingDominant edgeMachine cutzeroing

Page 17: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling (cont.)

Survey de estratégias de escalonamentoKwok & AhmadCasavant & KhulList scheduling family

Dominance sequence clustering (DSC)Kumar & Biswas

MinimaxZomaya et al.: Muliple queues with duplicationReinforcement learning

Page 18: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling (cont.)

Resource managementWhen to transferWhich taskWhich node

Sender-initiated Receiver-initiated Simmetrically-initiated

When to collect info

Page 19: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Scheduling mechanisms for grids(according to Berman and reviewed by Kayser)

Níveis:Application JobResourceMeta-scheduler

Page 20: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Scheduling mechanisms for grids

Legion Globus MyGrid/OurGrid GrADS EasyGrid Nimrod/G AppLeS GRAnD/AppMan

Page 21: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grid Systems and Scheduling (cont.)

Grid operating systemsVeja OSXtreemOS

Page 22: Revisão geral CG 09/10. Introdução Plataformas de processamento paralelo e distribuído Clusters Gerenciadores de recursos (RMS – Resource Management Systems)

Grids versus Clouds

Rever bibliografia sugerida nos últimos slides da disciplina