CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de...

20
1 Aprendizado para Resultados – Trilhas de Aprendizado CURSO MONITORAMENTO & AVALIAÇÃO CADERNO DE PRÁTICAS

Transcript of CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de...

Page 1: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

1 Aprendizado para Resultados – Trilhas de Aprendizado

CURSO

MONITORAMENTO & AVALIAÇÃO

CADERNO DE PRÁTICAS

Page 2: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

2www.escoladegestao.pr.gov.br

Sumário

O Curso de Monitoramento & Avaliação 3

Objetivo do Curso 3

Ementa 3

Público-alvo 3

projeto pedagógico 4

Currículo do docente 4

Referências bibliográficas 5

Manual de Procedimentos 7

1. Conceitos básicos 7

2. Metodologia de Monitoramento & Avaliação 8

3. Central de resultados 16

4. Considerações Finais 18

Page 3: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

3 Aprendizado para Resultados – Trilhas de Aprendizado

O Curso de Monitoramento & Avaliação

Este relatório refere-se ao detalhamento do curso de Monitoramento & Avaliação, que faz parte da trilha Planejamento e Gestão Governamental, e contém objetivo, ementa, projeto pedagógico, slides, exercícios, manual de procedimentos e demais elementos necessários para a devida compreensão do passo a passo para a implementação das principais etapas de Monitoramento & Avaliação.

OBJETIVO DO CURSOApresentar conceitos e ferramentas de M&A como parte do modelo de gestão para resultados e explorar conceitos e valores relacionados a esta prática estratégica.

EMENTA• Modelos e conceitos de M&A aplicados à gestão pública: as

diferentes perspectivas temporais do monitoramento e da avaliação

• Práticas de análise de contexto: os atores nos processos de monitoramento e avaliação, escopo e as perguntas de M&A

• Métodos de coleta e análise de dados e informações• Gestão estratégica da informação do M&A: processos

decisórios baseados em informações de desempenho• Planos de monitoramento e avaliação: etapas e modelos de

comunicação e sistemas de controle de resultados• Reuniões de Aprendizado Estratégico (RAE): prestação de

contas, feedback, sustentabilidade dos processos avaliativos e institucionalização

PÚBLICO-ALVOGestores e coordenadores de órgãos centrais e unidades setoriais de planejamento e gestão e servidores em posições de assessoramento estratégico às funções de planejamento e gestão governamental e setorial, bem como técnicos e especialistas responsáveis pela avaliação de políticas públicas, indicados pelos titulares de seus órgãos.

Page 4: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

4www.escoladegestao.pr.gov.br

PROJETO PEDAGÓGICOO curso será ministrado a partir da exposição conceitual e prática, sendo esta última realizada mediante a apresentação de casos reais aplicados à administração pública. Estima-se que um terço do tempo seja destinado à discussão conceitual e dois terços do tempo destinados a discussões de situações reais (experiências dos participantes com o tema em discussão e experiências trazidas pelo instrutor), apresentação de vídeos e realização de exercícios práticos de fixação dos conceitos abordados. É prevista a realização de um exercício ou a apresentação de um vídeo a cada 2 horas de curso, com vistas a estimular a participação dos alunos e a melhor assimilação dos conteúdos.

Os alunos serão avaliados a partir de notas em grupo em 2 exercícios durante o curso. A nota final de cada aluno será uma média entre as notas de cada exercício. Serão aprovados os alunos que obtiveram menção acima de 70 pontos (entre 100 possíveis) e no mínimo 80% de presença nas aulas.

Serão utilizados vídeos curtos de até 5 minutos e trechos de filmes que abordem os temas tratados com vistas a permitir reflexões, questionamentos e assimilação dos conteúdos e casos apresentados.

Exercícios que serão utilizados no curso: Elaboração do Public Governance Canvas, Identificação de Atores principais, Perguntas e Hipóteses de M&A, Detalhamento da Coleta e Análise, Definição da Estratégia de Comunicação, Modelo de M&A e Plano de implementação.

CURRÍCULO DO DOCENTE

JOÃO PAULO MOTA

Mestre em engenharia pela UnB, MBA em Administração Estratégica pela FGV e graduado em Administração pela UnB. Possui formação executiva pela Harvard University e pela Georgetown University. Atua como professor convidado da FDC, IDP e UnB. Autor, no Brasil e no exterior, de artigos e capítulos de livros relacionados à gestão para resultados. É certificado CBPP em gestão de processos pela ABPMP-BR.

Page 5: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

5www.escoladegestao.pr.gov.br

REFERÊNCIAS BIBLIOGRÁFICASMARTINS e MARINI. Um Guia de Governança para Resultados na Administração Pública. Brasília: Publix, 2010

MPOG. Guia Referencial para Medição de Desempenho e o Manual para Construção de Indicadores. SEGES. 2010

VAN DOOREN, Wouter; BOUCKAERT, Geert & HALLIGAN, John (2010). Performance management in the public sector. Routledge.

BEHN, R. D. (2003). Why Measure Performance? Different Purposes Require Different Measures. Public Administration Review, 63(5), 586-606.

MARTINS e MARINI. Governança em ação Vol. 1 ao 5. Brasília: Publix, 2010-2014

BOUCKAERT, Geert e HALACHMI, Arie. Organizational Performance and Measurement in the Public Sector. Quorum. 1996.

BOUCKAERT, Geert e HALLIGAN, John. Managing Performance: International Comparisons. Routledge. 2008.

BOYNE, George et al. Public Service Performance: Perspectives on Measurement and Management. Cambridge University Press. 2006.

FROST, Bob. Designing Metrics: Crafting Balanced Measures for Managing Performance. Measurement International, 2007.

HALACHMI, Arie e BOUCKAERT, Geert. Organizational Performance and Measurement in the Public Sector. Quorum. 1996.

HUBBARD, Douglas W. How to Measure Anything: Finding the Value of Intangibles in Business. Wiley, 2010.

KAPLAN, Robert; NORTON, David. Mapas Estratégicos: convertendo ativos intangíveis em resultados tangíveis. Campus Elsevier. 2004.

KLUBECK, Martin. Metrics: How to Improve Key Business Results. Apress, 2011.

KLUBECK, Martin. Planning and Designing Effective Metrics. Apress, 2014.

DEMO, P. Avaliação Qualitativa, 2a edição, S.Paulo, Cortez Editora, 1988.

Franco-Santos, M., Kennerley, M., Micheli, P., Martinez, V., Mason, S., Marr, B., Gray, D. and Neely, A. (2007), Towards a definition of a business performance measurement system, International

Page 6: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

6www.escoladegestao.pr.gov.br

Journal of Operations and Production Management, 27(8): 784-801.

REIS, L. C. Avaliação de projetos como instrumento de gestão. In: Apoio à gestão. Rio de Janeiro; site da Rits; 1999; Artigo.

MOYNIHAN, Donald P. The dynamics of performance management: constructing information and reform. 2008.

MPOG, SPI. Guia Metodológico para a Construção de Indicadores. 2010.

SCRIVEN M. Metodologia da avaliação. In: SANDERS, J. (org). Introdução à avaliação de programas sociais. São Paulo; Fonte; 2003. p. 08-33

NEELY, Andy. Business Performance Measurement: unifying theory and integrating practice. 2ed. Cambridge University Press, 2007.

NEELY, Andy; ADAMS, Chris. The performance prism. Performance Prism. Financial Times – Prentice Hall. 2002.

POLITANO, Antthony L.. Chief Performance Officer. 2003.

THIOLLENT M. Metodologia da pesquisa-ação. 8a ed. São Paulo: Cortez; 1998.

WORTHEN, BR et al. Avaliação de Programas Sociais. 1ª Ed. São Paulo: Instituto Fonte – Ed. Gente; 2004.

WHOLEY, J. Evaluation: promise and performance. Washington, DC, Urban Institute. 1979.

Page 7: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

7 Aprendizado para Resultados – Trilhas de Aprendizado

Manual de Procedimentos

Este manual consiste no passo a passo para a implementação das principais etapas afins ao conteúdo do curso de Monitoramento & Avaliação.

1. CONCEITOS BÁSICOSJunto ao planejamento estratégico e ao alinhamento das unidades implementadoras, a etapa de Monitoramento e Avaliação (M&A) constitui o terceiro pilar do modelo de Gestão Matricial de Resultados®. Monitorar e avaliar significa gerar informações (relevantes e orientadas a públicos de interesse) de maneira qualificada e sistemática sobre o desempenho de algo (organização, política, programa, projeto, pessoa etc.), para explicá-lo (identificação de fatores inibidores e promotores de resultados), e fazer uso de tais informações incorporando-as ao processo decisório do objeto monitorado ou avaliado, a fim de buscar aprendizado, transparência e responsabilização.

Embora sejam conceitos afins, é comum o monitoramento se referir à geração de informações de forma contínua e sistemática, principalmente, sobre o esforço (acompanhamento de iniciativas), tomando medidas corretivas e de remoção de obstáculos. Por sua vez, é frequente a avaliação se referir à geração de informações de forma não contínua (em determinado momento), principalmente, sobre o alcance de resultados, com a intenção explicativa (identificar relações de causalidades), podendo ensejar juízos de mérito e relevância.

Do ponto de vista de um modelo de gestão para resultados, monitoramento e avaliação são mecanismos de controle e correção que permitem verificar a extensão na qual o planejamento estratégico é pertinente e está sendo realizado, além de averiguar se os esforços empreendidos estão direcionados para ele.

Em outras palavras, o modelo de M&A busca estabelecer uma sistemática que permite acompanhar os esforços e resultados constantemente e compará-las com o planejado, sinalizando problemas a serem solucionados ao longo do caminho e sugerindo correções de rumo. Adicionalmente, busca-se um modelo que seja capaz de explicar o porquê de um problema ocorrer ou o porquê do alcance ou não de um resultado.

O ponto crítico em relação a sistemas de monitoramento e avaliação é gerar e disponibilizar informações de forma clara e a tempo de proporcionar correções no momento oportuno e, por conseguinte, aprendizado.

Page 8: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

8www.escoladegestao.pr.gov.br

2. METODOLOGIA DE MONITORAMENTO & AVALIAÇÃOUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber:

• Etapa I - Definir objetos de monitoramento e avaliação;• Etapa II – Definir modelo de coleta e análise de dados e

informações;• Etapa III – Definir a estratégia de comunicação e uso das

informações;• Etapa IV - Eventos de Monitoramento & Avaliação: ciclos de

aprendizagem, ajustes e decisões;• Etapa V - Meta-avaliação: atributos de um bom modelo de

monitoramento e avaliação.

Essas etapas trazem definições sobre os objetos que serão monitorados e avaliados; sobre os prazos e procedimentos de coleta, tratamento e disponibilização dos dados e informações; sobre os instrumentos e formas de disponibilização das informações geradas. Estas etapas serão apresentadas a seguir.

2.1. Etapa I - Definir objetos de monitoramento e avaliação

A organização deve definir os objetos a serem monitorados e avaliados, sejam objetos de esforço quanto de resultado. Os objetos do esforço são os indicadores relativos às iniciativas (marcos, ações, projetos ou processos, inclusive de melhoria da gestão), estejam ou não dispostas em instrumentos de pactuação de resultados. Por sua vez, os objetos de resultado são os indicadores relativos aos objetivos estratégicos do planejamento.

2.2. Etapa II – Definir modelo de coleta e análise de dado e informações

Para a execução da presente etapa é necessário que haja a definição dos objetos e indicadores (sejam de esforços, por meio de indicadores de execução, excelência e economicidade, conforme o caso; ou de resultados, por meio de seus indicadores de efetividade, eficiência e eficácia, conforme o caso) para cada um deles, de forma a permitir a mensuração de seu desempenho, proporcionando informações sobre ele. Após esta primeira etapa, se estará apto para a definição dos procedimentos de coleta e análise dos dados e informações, por meio dos seguintes itens:

• Definição de responsáveis pela coleta ou pela rede de coleta dos dados;

• Definição do fluxo de informações, ou seja, a fonte dos dados, os instrumentos utilizados para a coleta e a periodicidade de coleta; e

• Definição de como os dados e informações serão tratados (análise e interpretação de dados).

Page 9: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

9 Aprendizado para Resultados – Trilhas de Aprendizado

A figura a seguir ilustra o detalhamento do fluxo de informações de M&A e apresenta alguns exemplos de cada item.

Figura 1 Fluxo das Informações de Monitoramento e Avaliação

Após a coleta dos dados do indicador, é necessário realizar a análise e interpretação dos dados. Apenas um valor numérico apurado não possibilita a boa tomada de decisão. É necessário que haja a análise e interpretação dos dados gerados, caso contrário toda a sistemática de monitoramento e avaliação criada até o momento não possibilitará ganhos e benefícios para a organização, havendo dispêndio de tempo e de recursos.

2.3. Etapa III – Definir a estratégia de comunicação e uso das informações

A comunicação é um fator fundamental para gerar a integração da organização, tanto internamente quanto externamente. Um modelo de mensuração do desempenho que não há a comunicação e o consumo da informação sobre o desempenho, não atinge sua finalidade, provocando um desestímulo na realização desse procedimento. A comunicação possibilita a sinergia e o senso comum de atuação. O processo de comunicação das informações sobre o desempenho estimula a mudança, gera a consciência e o engajamento, e mantém o ritmo da organização na busca do melhor desempenho.

A disseminação e o uso estratégico das informações geradas é um fator preponderante para a interação entre os atores envolvidos, o alinhamento de conhecimentos e criação de sinergia/coesão interna e externa. O processo de disseminação e uso da informação orienta as ações, estimula a mudança, gera a consciência estratégica e cultura voltada para resultados,

Page 10: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

10www.escoladegestao.pr.gov.br

mantendo o ritmo da organização na busca do melhor desempenho.

A etapa de disseminação tem por objetivo delinear as principais estratégias para difundir a informação, considerando o público-alvo, o conteúdo, a linguagem e os meios adequados de comunicação. Para tal, é necessário disseminar e comunicar de forma efetiva. Contudo, qualquer interferência no processo pode prejudicar o fluxo informacional, possibilitando a perda de efetividade da comunicação. Para evitar esse contexto é essencial delinear estratégias que facilitem a transmissão e a apropriação da mensagem, a partir:

• Da definição do público alvo da comunicação (decisores, parceiros, gestores, meios de comunicação, equipe técnica, financiadores, instâncias de governo);

• Da definição das informações que precisam ser comunicadas, com que frequência e em que momento (diferentes atores requerem diferentes necessidades de informação e frequência);

• Da definição dos meios, ferramentas, formatos e linguagem que são fatores que influem no acesso, confiabilidade e compreensão, e são decisivos para o uso da informação.

Para realizar a disponibilização das informações sobre o desempenho, as organizações podem adotar diversas ferramentas existentes, a saber:

• Exposições às equipes, audiências públicas, fóruns comunitários;

• Relatórios gerenciais (físicos e virtuais);• Vídeos e apresentações multimídia;• Folders visualmente amigáveis;• Banners com faixas de desempenho (vermelho, amarelo, verde

e azul);• Painel de indicadores com seus respectivos resultados.

As figuras a seguir apresentam alguns exemplos de ferramentas de comunicação, considerando as informações e resultados levantados:

Page 11: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

11 Aprendizado para Resultados – Trilhas de Aprendizado

Figura 2 Banner de Resultados dos Projetos Estratégicos

Figura 3 Painel de controle de Indicadores de Resultados (efetividade, eficácia e eficiência)

Dentre os diversos meios apresentados, vale detalhar o dispositivo chamado painel de controle, que permite comunicar

Page 12: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

12www.escoladegestao.pr.gov.br

desempenho com o objetivo de transmitir informações relevantes no tempo adequado (tempestividade).

2.4. Etapa IV - Eventos de Monitoramento & Avaliação: ciclos de aprendizagem, ajustes e decisões

Os eventos de Monitoramento e Avaliação definem a forma e o timing como os dados serão disponibilizados e, principalmente, consumidos pelas partes interessadas em prol de gerar aprendizado, identificar melhorias e, sobretudo, subsidiar as decisões com base em evidências. Envolve definições de prazos, ou definições sobre o período avaliatório, escopo, produtos e atores das avaliações, de modo que formem conjuntos integrados de modalidades de Monitoramento e Avaliação.

Em relação aos prazos, um ciclo avaliatório pode se dividir, conforme o caso, em períodos distintos (mensal, quadrimestral, semestral, anual) coincidindo, na maioria das vezes, com o ciclo de pactuação. Cada um destes períodos implica num objeto de M&A sendo monitorado, em diferentes procedimentos e partes envolvidas. Usualmente, há três principais modalidades de eventos de avaliações:

• Avaliação de esforços em períodos curtos (um a três meses);• Avaliação de esforços e resultados em períodos médios (de

três a seis meses); e• Avaliação de resultados ao fim do ciclo avaliatório (anual ou no

período de encerramento de uma iniciativa).

O quadro a seguir apresenta um exemplo de três ciclos distintos, seus objetos de avaliação e periodicidade:

Objetos de M&APeriodicidade

Mensal Semestral Anual

Objetos de esforço:

Execução físico-financeira

de projetos e processos

Execução físico-financeira

de projetos e processos

-

Objetos de resultado: -

Resultados intermediários de indicadores (de efetividade,

eficácia e eficiência)

Resultados finais de indicadores (de efetividade,

eficácia e eficiência)

Quadro 1 Objetos de M&A e periodicidade de avaliação

Page 13: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

13www.escoladegestao.pr.gov.br

A modalidade de eventos em espaços mais curtos de tempo é focada em esforços. É muito comum que o monitoramento de iniciativas (marcos, ações etc.) se estabeleça em períodos avaliatórios relativamente curtos/frequentes, em bases mensais, bimestrais ou trimestrais. É desejável que esse tipo de evento de avaliação seja parte essencial do processo gerencial das unidades avaliadas envolvidas na implementação, cujas lideranças possuem um papel essencial na manutenção de uma constante comunicação e cobrança. A participação de unidades avaliadoras (externas ou supervisoras das unidades implementadoras) deve ser proporcional ao grau de criticidade e sensibilidade dos objetos da avaliação. É preferível que as unidades avaliadoras tenham presença mais incisiva na avaliação de resultados que de iniciativas, exceto nos casos em que riscos justificam a gestão intensiva de iniciativas. O produto dessa modalidade de Monitoramento e Avaliação deve ser minimamente um conjunto de informações sobre o andamento das iniciativas sob a forma de um relatório sucinto de execução e de exposição no painel de controle, com as devidas considerações sobre eventuais reprogramações de iniciativas e resultados.

Os eventos avaliatórios de período intermediário podem variar muito de acordo com a natureza dos indicadores e com os prazos de vencimento das metas que são períodos superiores a um ou três meses, mas inferiores a um ano. Essa modalidade de eventos é focada em esforços e resultados e destaca-se a possibilidade de reprogramação de ambos.

Nessa ocasião, cabe à unidade/autoridade avaliadora manifestar-se sobre o aceite ou a recusa das justificativas sobre eventuais descumprimentos (real ou indicativo) ou superações, avaliar se o eventual descumprimento ocorreu em razão de negligência, mudanças nas condições do contexto (crises, falta de recursos etc.) ou falhas de formulação (inconsistência de metas), e então fazer recomendações e propor ajustes. Se for o caso, a unidade/autoridade avaliadora poderá realizar auditoria de dados para checar a geração dos indicadores. O produto dos eventos dessa etapa é a apresentação dos resultados, execuções e avaliações, por meio de relatórios, de divulgação em painel de controle e de eventos coletivos de prestação de contas, que, ademais, possui um saudável efeito de exposição daqueles que devem apresentar resultados.

A terceira modalidade de Monitoramento e Avaliação são eventos de avaliação de resultados ao final de um ciclo avaliatório (embora também sua periodicidade possa ser definida numa avaliação de meio-termo, no caso de uma meta, por exemplo ser finalizada em 6 meses). Essa modalidade de eventos é focada, sobretudo, nos resultados.

Além da manifestação sobre o aceite ou recusa das justificativas sobre eventuais descumprimentos (reais ou indicativos) ou superações, e da avaliação se o eventual descumprimento ocorreu em razão de mudanças nas condições do contexto (crises, corte de recursos etc.) ou falhas de formulação (inconsistência de metas), com ou sem auditoria de dados, a

Page 14: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

14www.escoladegestao.pr.gov.br

unidade/autoridade avaliadora promove a apresentação dos resultados por meio de relatórios e de divulgação em painel de controle nos eventos coletivos de prestação de contas – que, pelas características de fim de um ciclo avaliatório, poderá envolver um conjunto maior de atores externos, inclusive avaliadores externos e abordagens que busquem contrastar avaliações distintas em torno de questões, problemas ou temas predefinidos.

É importante considerar que as modalidades de eventos avaliatórios podem (e as duas últimas devem, principalmente a última) combinar avaliações endógenas (no âmbito do modelo de gestão para resultados), por atores avaliados (autoavaliação) e atores avaliadores (usualmente supervisores dos primeiros), com acompanhamentos exógenos, por avaliadores independentes, contratados para atuar sobre determinados objetos em determinados momentos do ciclo avaliatório (principalmente ao final).

O quadro a seguir apresenta mais três elementos importantes da definição do modelo de monitoramento e avaliação, envolvendo as definições de: i) tipos de eventos (reuniões gerenciais, seminários etc.); ii) quem participa dos eventos em cada ciclo avaliatório; e iii) o produto gerado.

Objetos de M&APeriodicidade

Mensal Semestral Anual

Objetos de esforço:

Iniciativas (projetos,

processos, eventos):

Execução físico-financeira

de projetos e processos

Execução físico-financeira

de projetos e processos

-

Objetos de resultado

(indicadores, metas, acordos de

resultados):

-

Resultados intermediários

de indicadores e metas

Resultados finais de indicadores e

metas

Page 15: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

15www.escoladegestao.pr.gov.br

Evento e quem participa

Reunião de equipe responsável

pelo projeto ou iniciativa

Reunião entre Coordenador

(ou gerente) do Projeto e gestores

da unidade

Reunião Gestores do órgão

(eventualmente coordenadores de

projetos)

Seminário; Palestra de

Avaliação de Resultados do

órgão

Produto geradoRelatório de status

do projeto ou iniciativa

Ata de Reunião

Relatórios de Resultados

Banners

Relatórios de Resultados

Banners

Materiais impressos

Quadro 2 Eventos dos Ciclos de Monitoramento e Avaliação

2.5. Etapa V - Meta-avaliação: atributos de um bom modelo de monitoramento e avaliação

Em se tratando de Monitoramento e Avaliação, há modelos ótimos que avaliam o relevante, minimizando limitações metodológicas, e ocorrem no timing apropriado; há ainda modelos subótimos, que não logram tanto, mas não são inválidos, uma vez que sua implantação deve ser percebida como um processo de aprendizado e aperfeiçoamento. Assim, é preferível ter um modelo limitado a não ter nenhum. Mas, em uma ou outra situação, melhor que não se olvidem os atributos de um bom modelo:

• Seletividade: escolha dos objetos segundo critérios de significância;

• Coerência: alinhamento entre objeto e metodologia;• Integração: intramodelo e extra com outros modelos;• Simplicidade e adequação instrumental: escolha e

desenvolvimento de instrumentos segundo critérios de funcionalidade;

• Qualidade: verossimilhança e timing das informações geradas;• Consumo e apropriação: aproveitamento da informação no

processo gerencial por dentro e por fora (via mecanismos de transparência, responsabilização e participação de públicos externos);

• Confiabilidade: credibilidade das informações e explicações geradas;

Page 16: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

16www.escoladegestao.pr.gov.br

• Legitimidade: envolvimento dos públicos de interesse;• Contestabilidade: confrontação de informações, verificações

cruzadas e auditoria de dados.

Recomenda-se que periodicamente (ao final de ciclos) o modelo de M&A passe por uma meta-avaliação, ou seja, a avaliação do modelo de avaliação, identificado oportunidades de melhorias e, por conseguinte, implementando as melhorias propostas.

3. CENTRAL DE RESULTADOS A Central de resultados é apenas uma das denominações de uma unidade de Monitoramento e Avaliação, incumbida de coordenar os processos de Monitoramento e Avaliação e operar um painel de controle, que se constitui na ferramenta essencial de disseminação interna e externa das informações geradas (essencial para sua incorporação aos processos decisórios).

A Central de resultados é a sala de situação e a central de planejamento do governo ou da organização, não apenas porque monitora, informa e (re)programa, mas também, por essas razões, coordena e exerce um controle estratégico vital, uma vez que deve estar atenta aos redirecionamentos necessários, e não apenas ao registro passivo dos atos e fatos ou à simples análise de se eles convergem ou divergem dos resultados preconizados.

A metáfora da sala de situação ou sala de guerra deixa claro que a central de resultados é um instrumento essencial de deliberação, uma central de ação, a partir da qual decisões corretivas, punitivas e compensatórias devem proceder de ciclos curtos de avaliação. Os determinantes da viabilidade econômica de uma sala de guerra são o volume de informações e o tempo de resposta requerido. Trata-se, portanto, de redes com grande quantidade de informações, mas com tempo suficiente para reflexão antes da tomada de decisão. A combinação que justifica a montagem de uma sala de situação ou sala de guerra combina os fatores de volume máximo de informações e tempo mínimo. A figura a seguir ilustra uma sala de situação para tomada de decisões tempestivas.

Page 17: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

17www.escoladegestao.pr.gov.br

Figura 4 Sala de situação para tomada de decisões tempestivas com alto volume de informações

A figura a seguir ilustra o posicionamento desta unidade dentro da organização. É importante que a central seja dotada de clara e inequívoca centralidade, devendo estar muito próxima ao executivo principal.

Figura 5 Posicionamento da Central de Resultados na organização

Page 18: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

18www.escoladegestao.pr.gov.br

Embora, na maioria das vezes, é recomendável que a central de resultados seja uma unidade organizacional específica, é importante ter claro que ela é parte de uma estrutura em rede que envolve unidades avaliadas e equipes de avaliadores (internos e/ou externos). A equipe da central de resultados propriamente dita deve ser formada por monitores/avaliadores que se dedicarão a uma carteira de unidades avaliadas, pactuações ou áreas de governo. Entretanto, capacitação intensiva é essencial não apenas para proporcionar o desenvolvimento de capacidades técnicas, mas, principalmente, para desenvolver habilidades de relacionamento mediante um padrão de atuação proativa.

Por fim, é vital a integração entre a central de resultados, a comunicação social e os sistemas de controle interno e externo, essencialmente para promover a transparência e a responsabilização. Assim, a Central de Resultados pode engendrar arranjos peculiares, como colegiados (comitês de avaliação internos ou externos) responsáveis pela prestação de contas, transparência, controle social etc. Nesse sentido, em alguns casos pode ser recomendado a instituição de um conselho, formado por representantes das diversas partes interessadas, com o papel de dispor sobre os ciclos e as modalidades do processo de monitoramento e avaliação, para lhe dar maior legitimidade.

4. CONSIDERAÇÕES FINAISEste caderno apresentou os principais conceitos que envolvem as atividades de gestão de monitorar e avaliar esforços e resultados. Vale a ponderação de que o essencial no desenvolvimento de modelos de monitoramento e avaliação é desconstruir o mito do controle perfeito e total. Não há modelos perfeitos em termos de escopo, metodologia e timing. É impossível (e inviável) avaliar tudo, sem limitações no tempo certo. Avaliações custam, metodologias são limitadas (mesmo com a crescente aplicação em pesquisa acadêmica para Monitoramento e Avaliação), o tempo flui de forma instável (pode encurtar ou alargar períodos avaliatórios), e há múltiplos problemas de confiabilidade e qualidade de informações (desde o clássico problema de assimetria de informações até o difícil envolvimento de unidades executoras que atuam na ponta em complexos arranjos de implementação em rede). Ademais, isso tudo se aplica a objetos dinâmicos, complexos e multifacetados, que requerem múltiplas formas sobrepostas de avaliação para aumentar a segurança das conclusões e mitigar problemas de qualidade dos dados (interna, externa, autoavaliação, qualitativa, quantitativa, com desempenho pactuado, apurado, percebido, comparado etc.).

Nesse sentido, a meta-avaliação deve ser sempre um componente ativo dos modelos propostos, de modo a minimizar limitações e promover melhorias em bases sustentáveis.

Page 19: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

19www.escoladegestao.pr.gov.br

Page 20: CURSO MONITORAMENTO & AVALIAÇÃO - · PDF fileUma sistemática de monitoramento e avaliação envolve cinco etapas lógicas, a saber: • Etapa I - Definir objetos de monitoramento

20 Aprendizado para Resultados – Trilhas de Aprendizado