Eliza Aleixo Aragão
1 III Seminário de Avaliação de Políticas Públicas e Qualidade do Gasto. FUNDAÇÃO JOÃO PINHEIRO Mini curso: modelos de causalidade lógica e Marco Lógico Aula 02 Definições e Conceitos Victor Maia Senna Delgado Porto Alegre RS 17/11/2010
2 Proposta do Curso: Esse mini-curso objetiva a conceituar Marco Lógico (ML) como uma ferramenta necessária para uma boa avaliação de programas. Marco Lógico constitui-se de um modelo lógico no qual a teoria ajuda a identificar a necessidade da existência de um programa ou política social e fornece um guia sobre maneiras de como esse programa deve funcionar e quais os possíveis resultados se pode obter.
3 Definições: Bamberguer et ali (2006) oferecem a seguinte definição para Modelo Lógico: Modelo Lógico é a teoria ou modelo que mostra como se espera que o programa leve aos resultados observados ou desejados. A teoria de um programa identifica recursos, atividades e resultados e especifica uma cadeia-causal de hipóteses ligando os recursos de um programa às atividades, produtos intermediários e objetivos finais.
4 Definições: Ressalta-se que o modelo lógico deve nos servir para pensar de forma mais analítica sobre causa e efeito do programa: identificar relações entre componentes do programa (considerar relações internas) Clarificar os objetivos e metas de longo prazo do programa. Identificar os principais indicadores para M&A. Identificar as principais premissas que fundamentam o programa. Desenvolver novas perguntas para avaliação. Visualizar um programa dentro do contexto (considerar fatores no ambiente social/físico que são externos ao programa, mas podem influenciar os resultados).
5 Definições: O Marco Lógico estabelece uma coerência lógica (validade interna) para as ações do programa. Um programa será tão bem sucedido, quanto mais claro for seu modelo lógico e sua forma de atuação. A presença do modelo lógico facilita também o trabalho de avaliação e seu marco lógico.
6 Definições: Se imaginarmos um programa como uma construção, poderíamos dizer que o Marco Lógico são seus alicerces. Marco Lógico é a fundação.
7 Questões para o ML: O Marco Lógico deve nos auxiliar a responder as seguintes questões: Qual a necessidade de intervenção? Por que intervir (quais fatores que justificam a intervenção de determinado programa)? É possível identificar os elementos que atuam nas causas? É possível trabalhar esses elementos para atuar na direção dos resultados desejados? Quais serão estes resultados e como é possível mensurá-los?
8 Quando deve surgir o Marco Lógico? Por sua importância, o modelo lógico deve surgir no início dos projetos e programas. Reforça-se que essa é a etapa ideal já que o modelo lógico e o desenho do programa podem auxiliar na intervenção ao identificar precocemente desvios de percurso. No entanto, é comum encontrar programas que são implementados sem ter havido um trabalho criterioso na etapa de Marco Lógico. Para esses casos é preciso recuperar o marco lógico do programa. Justificativas e pontos apresentados no projeto. A avaliação necessita retomar o Marco Lógico do programa para identificar os pontos que precisam ser mensurados. O ML ajuda a identificar pontos críticos e hipóteses para os quais a avaliação deve se ater.
9 Causalidade Causalidade é um ponto importante dos modelos de Marco Lógico. Ela estabelece uma relação de causa e efeito para as ações do programa. Essa causalidade geralmente é estabelecida pela teoria. Exemplo: o que determina a renda das pessoas? Anos de Estudo? Formação profissional? Talento nato? Ter cursado boas escolas? Família (background social)? Local de residência. Fatores pessoais (sexo, cor, altura, peso)? Sorte. Outros?
10 Desenho de Programas É a teoria que nos diz quais são os fatores preponderantes para influir nas variáveis de interesse. Pelos modelos lógicos estabelecemos um desenho ou diagrama de fluxo que auxiliam na compreensão da cadeia lógica: Causas Efeitos No arcabouço do design de programas essa relação se configura na divisão entre insumos e produtos Insumos Produtos
11 Desenho de Programas O desenho do programa constitui-se um mapeamento da cadeia lógica de resultados, assim como o mapeamento das alternativas disponíveis aos formuladores de políticas. Podemos inserir mais etapas: Insumos Atividades Produtos Resultados Impactos Quais os insumos necessários para operar o programa? Esses insumos são usados para realizar as ações necessárias Se as atividades forem feitas de maneira correta, estes produtos serão alcançados Se esses benefícios forem atingidos, espera-se que ocorram estas mudanças na sociedade ou comunidade. Efeitos estatisticos Significantivos. Impactos duradouros
12 Desenho de Programas Há também a presença de fatores externos (causas): Contexto econômico-social no qual o projeto opera Contexto político no qual o projeto opera Contexto institucional e operacional Ambiente físico Desenho Insumos Produtos Resultados Impactos Processo de Implementação Sustentabilidade Características sócio-econômicas e culturais das populações afetadas
13 Desenho de Programas O desenho ou mapeamento pode ajudar também na identificação de pontos críticos da cadeia lógica de resultados de um programa. Bamberger et ali (2006) apresentam como exemplo um programa concessão microcrédito à mulheres com pequenos negócios próprios. Este programa se baseia em pontos empíricos e teóricos: Desigualdade de gênero. Pobreza familiar. Mulheres possuem conhecimento técnico das atividades que já executam e são as pessoas mais aptas a decidir que ação tomar sobre o negócio. Existe um problema de restrição de crédito aos pequenos emp.
14 Modelo da Cadeia de Resultados para o Programa de Desenvolvimento de Pequenos Negócios de Mulheres Resultados Positivos Mulheres tem acesso limitado a oportunidades econômicas devido à falta de acesso ao crédito e outros recursos produtivos e ao controle social Resultados negativos Mulheres criam empresas O projeto oferece crédito, assistência Técnica e formação em grupo Mulheres não criam empresas Geração de lucros Marido toma Os lucros Mulheres pagam as dívidas Uso para dote Melhora do bem-estar da família no curto prazo Lucro re-investido Melhora permanente do bem-estar familiar Empresa mantida Empresa fracassa Nutrição, saúde, roupas Moradia melhorada Limitações de tempo Falta de demanda Educação melhorada, especialmente p/ meninas Melhoras econômicas Pressões sociais Falta de recursos produtivos
15 Desenho de Programas O desenho lógico anterior é muito importante pois estabelece o roteiro de causalidade para os produtos e resultados que se espera obter caso o programa supere cada um dos seus pontos críticos. Aponta causas previsíveis para falhas do programa, que são importantes, dado que se pode tentar trabalhar sobre elas. Quais são os passos para a formação de um programa? Existe uma cadeia lógica? Sim!
16 Etapas de um Programa Pré-condições externas para existência de um programa Avaliação e Planejamento Restrições Restrições de Restrições de Influências Orçamentárias Tempo Dados políticas Implementar o programa Monitorar e Avaliar Feedback da avaliação
17 Etapas de um Programa
18 O Ciclo da Política Pública (Lima, 2008): Fase 6 Feedback Fase 1 Identificação do Problema Fase 5 Pesquisa de Avaliação Fase 2 Formulação da Política Fase 4 Desenho da Avaliação Fase 3 Implementação da Política
19 O Ciclo da Política Pública Fase de Avaliação de Política Análise Ex-post Fase de Desenvolvimento da Política Análise Ex-ante Fase 6 Feedback Fase 1 Identificação do Problema Fase 5 Pesquisa de Avaliação Fase 2 Formulação da Política Fase 4 Desenho da Avaliação Fase 3 Implementação da Política
20 Fase 1 Fase 1 Identificação do Problema Análise, diagnóstico da natureza, dimensão, história e causa do problema Análise das intervenções anteriores Análise das barreiras e potencial apoio à política
21 Fase 2 Fase 2 Formulação da Política: Planejar uma política para aliviar o problema. Escolher dentre as alternativas analisando o custo e o potencial de alcançar o resultado esperado.
22 Fase 3 Fase 3 Implementação da Política A política é colocada em prática. Envolve alocação de recursos, regras e regulamentos, procedimentos, desenvolvimento de sistema de monitoramento. Implementação falha pode causa fracasso do programa.
23 Fase 4 Fase 4 Desenho da Avaliação: Desenho da metodologia de pesquisa para a avaliação. Formulação das perguntas a serem respondidas. O objetivo é desenhar a avaliação para responder às questões.
24 Fase 5 Fase 5 Pesquisa da Avaliação Realização do estudo de avaliação. Coleta e análise de dados e definição das conclusões.
25 Fase 6 Fase 6 Feedback: A informação obtida na avaliação é usada para reavaliar o problema, a política, a implementação, etc. Com a avaliação pronta, os gestores podem fazer mudanças na política ou na forma de implementação (se for necessário), buscando o aperfeiçoamento.
26 Processo de desenvolvimento de uma política Estágio do Programa Pergunta Estratégia de Avaliação Avaliação do problema e das necessidades Qual é o problema e quais são as necessidades? Avaliação de necessidade, trabalho diagnóstico Estabelecimento de objetivos O que precisa ser feito? Avaliação de necessidade Design de alternativas para o programa Quais intervenções poderiam produzir as mudanças desejadas? Desenvolvimento e avaliação da teoria do programa Seleção de programa Qual é a melhor abordagem? Avaliação ex-ante, simulações Implementação do programa Como o programa deve operar? Avaliação de processo Operação do programa Resultados do programa Eficiência do Programa A operação está de acordo com o planejado? O programa está tendo os efeitos desejados? Os impactos são alcançados com um custo razoável? Avaliação de processo, monitoramento Avaliação de Impacto Análise de custo-benefício (Lima, 2008.)
27 Um pequeno exemplo: Imagine um estado com as seguintes características: 8,5 milhões de habitantes. 17,8% de analfabetos. Média de 5,8 anos de estudo para os homens e 6,5 anos para as mulheres.
28 Um pequeno exemplo: Renda familiar mediana de R$ 790,00. 20% da população abaixo da linha de pobreza. 25% dos domicílios da metropolitana possuem computador; Na região rural menos de 6% dos domicílios possuem computador. 68% dos computadores instalados em domicílios rurais possuem acesso à internet.
29 Identificando uma necessidade: A Internet é um importante meio de comunicação, porém seu acesso está limitado aos domicílios de maior renda. Porcentagem dos domicílios de acordo com renda domiciliar percapita e computador: Renda domiciliar Percapita Tem computador Não tem computador <= 2 SM 9,6% 91,4% > 2 SM 62,8% 37,2%
30 Identificando uma necessidade: A Internet é um importante meio de comunicação, porém seu acesso está limitado aos domicílios de maior renda. Porcentagem dos domicílios de acordo com renda domiciliar percapita e computador com internet: Renda domiciliar Percapita Tem computador com internet Tem computador sem internet <= 1 SM 57,7% 43,3% > 1 SM e <= 2 SM 71,1% 29,9% > 2 SM 87,1% 12,9%
31 Identificando uma necessidade: A internet pode ajudar as pessoas adquirir: Cidadania. Conhecimento. Educação. Trabalho/Vendas Lazer.
32 Identificando uma necessidade: Qual é a casualidade simples? Internet Educação 3. Renda 4. Redução da Pobreza A Teoria sobre determinado assunto nos ajuda a saber se determinada causalidade é verdadeira.
33 Identificando uma necessidade: O que nós sabemos? Educação e Renda possui uma forte e verificada relação empírica de causalidade. É uma relação amplamente estudada e válida para países, mas também no plano individual. educação renda Para indivíduos, os cientistas sociais ainda estudam como ocorre o sentido da causalidade educação renda. Existem vários fatores que podem explicar que aquisição educacional que leva à maior renda. Segundo Fernandes e Menezes-Filho (1997). Para o Brasil freqüentar 1ª a 4ª série equivale à 7,6% a mais na renda. Para o ensino superior 22,6% a mais de renda.
34 Identificando uma necessidade: É consenso portanto que a educação é condição para aquisição de maior renda para a força de trabalho e maior potencial de crescimento econômico para o país. Mas internet ajuda a obter maior educação? Esse é um ponto mais frágil. Há poucas evidências da relação de internet e educação. Há algumas evidências de computadores nas escolas. Barros et ali (2001) encontram por meio de índice fraca relação para 1º grau. Delgado(2007) encontra uma relação positiva porém fraca entre computadores nas escolas e eficiência educacional. Barrera e Linden (2009) não encontram resultado de diferenças de matemática e espanhol por haver computadores em escolas da Colômbia.
35 Identificando uma necessidade: Mesmo sendo a evidência entre internet e educação fraca, pode-se procurar a relação entre os demais pontos: cidadania, conhecimento, trabalho, inserção produtiva, emprego e lazer. Um programa que vise garantir esses pontos à população por meio do acesso à internet deve buscar as evidências empíricas sobre esse assunto, caso não haja deve promover estudos. Digamos que verificadas as relações causais que justificam esta intervenção qual deve ser o público-alvo? Prioritariamente, aqueles mais pobres que não têm condições de ter computador e internet.
36 Identificando uma necessidade: Como esse serviço deverá ser disponibilizado? Nas escolas? Será inteiramente gratuito, subsidiado ou pago? Quais são os pontos chaves para o programa? Quais atividades deve desenvolver? Como monitorar e avaliar o impacto? Quais indicadores utilizar? Quais são os custos?
37 Design do programa: Insumos Atividades Produtos Resultados Impactos Internet à cabo p municípios computadores para Escolas e bibliotecas. técnicos informática e de rede Monitores Seguranças. Disponibilizar internet dentro das escolas e Bibliotecas. Capacitar as pessoas Para operarem nos computadores reparo Monitoramento e se gurança dos micros. Média de Kbps dispon. Estabelecimentos no Programa. Número de pessoas Capacitadas. Número de participantes Serviços obtidos pela Internet. Escolaridade Emprego informação Negócios/renda Participação e cidadania. Aumento do Desenvolvimento Redução das Desigualdades.
38 Podemos recompor um mapa para o programa hipotético do acesso à computadores e internet O computador e a internet excluem pessoas da aquisição de uma forma de informação que se torna cada vez mais predominante. Procura atuar eliminando a exclusão digital Promover o acesso à computadores e Internet em regiões pobres sem recursos. Criar A rede de banda larga e disponibilizá-la para população por meio de escolas públicas. Acesso totalmente subsidiado Pessoas freqüentam As escolas para acessar Os computadores Acesso Parcialmente subsidiado Pessoas não têm dinheiro ou Não possuem interesse Escolas públicas Construção de mais escolas Uso de Outros locais Não há escolas Ou são poucas escolas Falta professores e pessoal técnico p/ ensinar Cursos técnicos ofertados Uso dos computadores e internet para fins diversos Computadores roubados Há pessoal técnico Mas o pessoal não tem Preparo. Conexão falha e demora o conserto O conhecimento educacional da pop não permite ainda o uso do computador. Pessoas que poderiam pagar estão usando O serviço, erro de focalização
39 Podemos recompor um mapa para o programa hipotético do acesso à computadores e internet Cursos técnicos ofertados Uso dos computadores e internet para fins diversos O uso para fins diversos mas particulares Não gera externalidades positivas E não se justifica socialmente Maior acesso à Cultura e integração Inclusão digital, Acesso à bancos, cartórios, Títulos e uso de outros serviços na internet. Auxílio no comércio Cooperativas, emprego Aumento da educação no geral E do desempenho dos alunos em particular Aumento de renda Esses efeitos são duradouros no tempo, como medí-los, como deverá ser conduzida a Avaliação?
40 Quais conclusões prévias o ML e o Desenho dos programas podem nos levar? O Marco Lógico fornece um mapa do programa, por meio dele e do desenho, é possível identificar de antemão quais serão os pontos sensíveis da política (não é possível prever todos). Com auxílio do ML e do Desenho a tarefa de mudar o programa em seu percurso se torna mais fácil. É mais fácil de identificar pontos de erros e acertos (mesmo quando não previstos). Permitem então corrigir o rumo da atuação da política e auxiliam o monitoramento. Um ML bem feito já é meio caminho andado para uma avaliação bem feita, poupa o trabalho do programa e da avaliação de resgatarem a cadeia lógica por trás de um projeto. A cadeia lógica é essencial para identificar o que deve ser medido, e caso não se encontre os resultados esperados o que prejudica o desempenho.
41 Quais conclusões prévias o ML e o Desenho dos programas podem nos levar? O ML auxilia também a identificação de dificuldades e evidencia claramente as necessidades, antes mesmo de uma avaliação de viabilidade sócio econômica ou de uma avaliação de simulação ex-ante (antes da implementação do projeto). Qual o custo do programa de exemplo? Na etapa de ML, podemos utilizar o critério da simplicidade: Se a teoria diz que há mais de uma forma distinta possível para alcançar os mesmos resultados, dê preferência para aquelas que são mais simples Navalha de Ockham para lógica causal. Entre dois projetos similares escolha o projeto mais direto e com o menor número de nós críticos para ocorrência de erros. Mas cuidado para não descartar pontos relevantes (ou deixar de identificá-los).
42 Quais conclusões prévias o ML e o Desenho dos programas podem nos levar? Na aula a seguir veremos mais detalhes sobre a construção do Marco Lógico, suas propriedades e o como fazer. Os detalhes de um Desenho de Programa. Pré-condições das políticas públicas e programas. Restrições que atuam sobre os programas na fase de inicial. Propriedades desejáveis para os indicadores. Exemplos de cadeia lógica e fluxos lógicos.