O SAEB Sistema Nacional de Avaliação da Educação Básica: objetivos, características e contribuições na investigação da escola eficaz * - PDF
O SAEB Sistema Nacional de Avaliação da Educação Básica: objetivos, características e contribuições na investigação da escola eficaz *
Download "O SAEB Sistema Nacional de Avaliação da Educação Básica: objetivos, características e contribuições na investigação da escola eficaz *"
Iasmin Fonseca Leveck
1 O SAEB Sistema Nacional de Avaliação da Educação Básica: objetivos, características e contribuições na investigação da escola eficaz * Maria Eugenia Ferrão ** Kaizô Iwakami Beltrão ** Cristiano Fernandes *** Denis Santos ** Mayte Suárez *** Adler do Couto Andrade **** O artigo descreve o Sistema Nacional de Avaliação da Educação Básica (SAEB) quanto aos seus objetivos e características e relata uma pesquisa desenvolvida para a identificação dos fatores associados ao desempenho escolar e à eficiência do sistema educacional. Modelos de regressão multinível foram aplicados aos dados do SAEB-99, tendo sido dada maior ênfase à análise da 4 a série do ensino fundamental. Considerou-se a estrutura hierárquica de dois níveis, sendo aluno a unidade do nível 1 e escola a unidade do nível 2. A variável resposta é a proficiência dos alunos nas cinco disciplinas testadas: Matemática, Português, Ciências, Geografia e História. Foram ajustados modelos para as cinco macrorregiões do Brasil Norte (NO), Nordeste (NE), Sudeste (SE), Sul e Centro- Oeste (CO). O artigo apresenta, ainda, alguns dos resultados da pesquisa relacionados ao perfil dos alunos e escolas. Introdução Este artigo unifica as palestras apresentadas pelos autores no seminário Demografia e Educação, organizado e promovido pela Associação Brasileira de Estudos Populacionais (ABEP) em Salvador, nos dias 7 e 8 de junho de As palestras intitularam-se Sistema Nacional da Avaliação do Ensino Básico e Avaliação educacional: modelagem multinível dos dados do SAEB. O artigo está estruturado da seguinte forma: a próxima seção é dedicada à descrição do SAEB; a seguinte apresenta a especificação formal do modelo multinível utilizado para tratar a variável de interesse proficiência; na quarta seção aborda-se o referencial teórico que inspirou a seleção das variáveis explicativas utilizadas na modelagem e na quinta apresentam-se alguns dos resultados obtidos. Por fim, enunciam-se as linhas de pesquisa que se mantêm em desenvolvimento. O Sistema Nacional de Avaliação da Educação Básica (SAEB) O Sistema Nacional de Avaliação da Educação Básica (SAEB), coordenado pelo * Os autores agradecem ao INEP a disponibilização da base de dados do SAEB-99 e de algumas variáveis do Censo Escolar de 1999, que viabilizaram esta investigação. Agradecem também as valiosas contribuições e sugestões dos pareceristas anônimos da REBEP. ** Escola Nacional de Ciências Estatísticas (ENCE), do Instituto Brasileiro de Geografia e Estatística (IBGE). *** Departamento de Engenharia Elétrica da PUC-RJ. **** Analista de política educacional da Diretoria de Avaliação da Educação Básica (DAEB), INEP/MEC.
2 Instituto Nacional de Estudos e Pesquisas Educacionais (INEP), é um dos mais amplos esforços empreendidos em nosso país de coleta, sistematização e análise de dados sobre os ensinos fundamental e médio. Para atingir seus objetivos, articulase com um conjunto de ações voltadas para a melhoria da qualidade do ensino e da aprendizagem. O SAEB pretende contribuir, por um lado, para a universalização do acesso à escola e, por outro, para a ampliação da eqüidade e da eficiência do sistema educacional brasileiro. Nesse contexto, fornece subsídios à formulação de políticas e diretrizes adequadas à diversidade de situações presentes nos estados e regiões brasileiras, constituindo-se como uma referência nacional no que diz respeito ao desempenho escolar da população discente. Implementado em 1990, as características gerais do SAEB em termos de objetivos, estrutura e concepção têm-se mantido constantes ao longo desses dez anos de existência. As mudanças efetivadas foram de ordem metodológica e operacional, a fim de aperfeiçoar normas e procedimentos específicos e assegurar cientificidade, confiabilidade e comparabilidade a seus resultados. De fato, o SAEB utiliza procedimentos metodológicos de pesquisa, formais e científicos, com o objetivo de coletar dados sobre o desempenho dos alunos e as condições intra e extra-escolares que nele interferem. Além disso, com base nos dados coletados pelo SAEB é possível sugerir programas que contribuam para a melhoria do funcionamento das escolas. A análise dos resultados do desempenho do aluno no âmbito do SAEB permite, ulteriormente, verificar o desempenho dos sistemas de ensino, fornecendo informações que possibilitam a adoção de programas e projetos voltados à melhoria de sua qualidade. À consolidação do SAEB corresponde a disseminação de uma cultura de avaliação no Brasil. Afinal, os dados coletados por meio de sistemas de avaliação educacional como o SAEB permitem a pais, alunos, professores, diretores e a todos aqueles que gerenciam o sistema educacional avaliar se nossos estudantes estão adquirindo as habilidades e os conhecimentos indispensáveis à sua plena inserção na sociedade. Para realizar a avaliação proposta pelo SAEB são utilizados, fundamentalmente, dois instrumentos: provas, pelas quais é determinado o nível de desempenho dos alunos em diferentes disciplinas e séries; e questionários contextuais para alunos, turmas, professores, diretores e escolas, pelos quais são investigados os fatores associados ao desempenho desses alunos. Para realizar essa avaliação em larga escala é definida uma amostra representativa do alunado brasileiro da 4 a e da 8 a séries do ensino fundamental e da 3 a série do ensino médio. Dentre os objetivos específicos do SAEB podemos citar: identificar os problemas do ensino e suas diferenças regionais; oferecer dados e indicadores que possibilitem uma maior compreensão dos fatores que influenciam o desempenho dos alunos; proporcionar aos agentes educacionais e à sociedade uma visão dos resultados dos processos de ensino e aprendizagem e das condições em que são desenvolvidos; desenvolver competência técnica e científica na área de avaliação educacional, ativando o intercâmbio entre instituições educacionais de ensino e pesquisa; consolidar uma cultura de avaliação nas redes e instituições de ensino. Em 1999 o SAEB cumpriu seu quinto ciclo de avaliação. Participaram do SAEB- 99 cerca de 280 mil alunos, 43 mil professores e 7 mil diretores, em aproximadamente 7 mil escolas de todos os estados brasileiros e do Distrito Federal. As disciplinas integrantes da avaliação realizada em 1999 foram Língua Portuguesa, Matemática, Geografia, História e Ciências, nas 4ª e 8ª séries do ensino fundamental. Na 3 a série do ensino médio foram testadas as mesmas disciplinas à exceção de Ciências, que foi substituída por Física, Química e Biologia. 112
3 Especificação formal do modelo multinível O valor esperado e a variância da proficiência são: O modelo de regressão multinível incorpora naturalmente a estrutura hierárquica ou de agrupamento da população em estudo, ou seja, alunos agrupados em escolas. Esse modelo de dois níveis trata aluno como a unidade do nível 1 (índice i) e escola como a unidade do nível 2 (índice k). Assim, considere-se uma amostra de k escolas, cada uma delas com I k alunos. Poderíamos considerar um nível intermédio na hierarquia para representar o efeito da turma e, de forma mais rigorosa, alocar neste nível as variáveis explicativas aí mensuradas (por exemplo, as referentes ao professor). No entanto, o plano amostral do SAEB contempla poucas turmas por escola, o que torna inviável a implementação do nível intermédio. Para efeito de ilustração, considere proficiência ik a variável que representa o desempenho escolar do aluno i na escola k. O modelo multinível nulo (sem variáveis explicativas) para a proficiência especificase como segue: A variância da proficiência está decomposta na variância entre as escolas, σ u02, e na variância intra-escola, σ e2. Se, por hipótese, σ u0 2 fosse estatisticamente igual a zero, toda a variância da proficiência ficaria a dever-se à variabilidade entre alunos e, por conseguinte, não se verificaria o efeito do grupo (escola) nos resultados escolares atingidos pelos alunos. Mesmo quando σ u0 2 é estatisticamente diferente de zero, é de interesse saber qual o seu tamanho relativamente à variância total. O coeficiente de correlação intra-escola (3) mede a proporção da variância entre escolas em face da variância total, permitindo ao investigador ter melhor noção da magnitude do efeito-escola (heterogeneidade entre as escolas). (3) (1) Pode-se observar que a diferença entre o modelo de regressão clássica e este modelo é o intercepto que, neste caso, é aleatório entre as escolas. A primeira linha do modelo (1) é vulgarmente conhecida como equação do nível 1 e a segunda linha, como equação do nível 2. Cada uma das equações tem associada uma componente aleatória, sendo e ik o efeito aleatório associado ao nível 1 (indivíduo ik) e u 0k o efeito aleatório associado ao nível 2 (escola k). Assume-se que ambos os efeitos seguem distribuição normal com média zero e variância σ e 2 e σ u02, respectivamente, e são independentes. Substituindo a equação do nível 2 na equação do nível 1 obtém-se: (2) Esta estatística mede ainda a correlação entre o desempenho escolar de dois alunos que estudam na mesma escola. O coeficiente varia de 0 a 1. Quando o seu valor é nulo, significa que as escolas são homogêneas entre si e que o desempenho escolar do aluno independe da escola que ele freqüenta. Na situação extrema a esta, quando o coeficiente de correlação intraescola tem valor 1, toda a variabilidade no desempenho dos alunos deve-se à diferença entre as escolas e, nesta situação hipotética, as características individuais do aluno em nada afetam o seu desempenho escolar, ficando este a dever-se inteiramente às características da escola freqüentada. Mais adiante serão apresentadas as estimativas do coeficiente de correlação intra-escola da 4ª série para cada macrorregião do Brasil. Considere agora a renda do agregado familiar, variável renda_familiar ik, do mesmo 113
4 aluno e a rede k que identifica se a escola k está sob administração particular ou pública. A inclusão das variáveis explicativas renda_familiar (mensurada no nível 1) e rede (mensurada no nível 2) no modelo (1) dá-se, respectivamente, na primeira e segunda equações. Depois da substituição da equação do nível 2 na equação do nível 1 obtém-se o seguinte modelo: (4) A generalização deste modelo à situação em que tanto o intercepto como o coeficiente de inclinação são variáveis aleatórias e com variáveis explicativas mensuradas em ambos os níveis dá origem ao modelo especificado em (5): (5) onde u 1k é o efeito aleatório associado à equação do nível 2 definida para o coeficiente de inclinação. Assume-se que u 1k segue distribuição normal com média 0 e variância σ u12, que é independente do erro do nível 1, e que a covariância entre u 10 e u 1k é σ u10. Os parâmetros desconhecidos do modelo são: Os primeiros quatro parâmetros são usualmente designados por parâmetros fixos e os quatro últimos, por parâmetros aleatórios. Dependendo do programa computacional utilizado na estimação destes modelos (MlwiN, HLM ou outros), o procedimento de estimação pode ser de máxima verossimilhança ou de mínimos quadrados generalizados iterativos. Quando a variável resposta segue distribuição normal, as estimativas produzidas são equivalentes (Goldstein, 1995). Não é demais reforçar a idéia de que a parte aleatória ou estocástica do modelo, a terceira linha do lado direito da equação (5), representa os numerosos efeitos aleatórios que impactam a proficiência do aluno, atuando tanto no nível do aluno como no nível da escola, e que não são captados pela parte determinística do modelo, a primeira e a segunda linhas do lado direito da equação (5). Mais detalhes sobre os modelos de regressão multinível podem ser encontrados em Bryk e Raudenbush (1992), Longford (1993) e Goldstein (1995). Referencial teórico para a modelagem dos dados do SAEB-99 Escola eficaz e estratégia de modelagem dos dados A base de dados do SAEB-99 é constituída por elevado número de variáveis. A seleção das variáveis explicativas usadas na modelagem do desempenho escolar do aluno foi fortemente influenciada pela literatura internacional sobre os fatores-chave associados à escola-eficaz, particularmente pela extensiva revisão bibliográfica apresentada em Sammons, Hillman e Mortimore (1995). Estes autores enunciam 11 fatores-chave que estariam associados a uma escola eficaz, de que trataremos mais adiante. Nesse contexto, escola eficaz é aquela em que os resultados escolares do aluno superam o resultado que ele obteria em qualquer outra escola, levando-se em conta o seu nível socioeconômico e cultural e o seu conhecimento prévio. Encontraram-se algumas limitações ao uso desta definição em sentido estrito. Uma delas é a inexistência de mensuração do conhecimento prévio do aluno. Assim, assumimos o pressuposto de que o conhecimento prévio do aluno à entrada na escola e o seu nível socioeconômico são fortemente correlacionados. É como se a medida de nível socioeconômico, que pode ser inferida a partir das informações nos questionários, contivesse o conhecimento prévio. Um outro fator que dificulta a análise é a possibilidade da mobilidade dos estudantes entre escolas. Se o conhecimento ou aptidão do aluno é o efeito cumulativo das suas experiências educativas e estas foram vivenciadas em várias escolas, não há maneira de introduzir esta informação na modelagem, dado que os questionários são aplicados na escola onde 114
5 o aluno se encontra no momento da pesquisa. Entretanto, já que o objetivo do presente estudo não é a comparabilidade de escolas, nem sequer a produção de listas ordenadas de eficácia 1, alargou-se a definição de escola eficaz. Considerouse como escola eficaz, em sentido lato, o modelo de escola que, apesar de não ter existência física, tem configuração desenhada a partir das características comuns às escolas eficazes do sistema onde os alunos atingem melhor desempenho, em contraponto com as características das escolas onde os alunos apresentam piores resultados. Assim sendo, optou-se por dar prioridade à modelagem dos dados da 4 a série do ensino fundamental e replicar os modelos encontrados para as demais séries avaliadas 2, de forma a minimizar as limitações acima enunciadas e conhecer melhor os fatores associados ao sucesso educativo em escolas cuja população estudantil tem espectro social mais largo. Além disso, a literatura internacional mostra evidências de que a escola primária exerce efeito de longo prazo no percurso escolar dos indivíduos. Um bom aluno nas séries iniciais tem grande chance de ser um bom aluno nas séries seguintes. Fatores associados ao sucesso educativo e escolha das variáveis Sammons, Hillman e Mortimore (1995) enunciam 11 fatores-chave associados às escolas eficazes. São eles: 1. Liderança profissional; 2. Visão e metas compartilhadas pelos agentes educativos; 3. Ambiente de aprendizagem; 4. Concentração no processo ensinoaprendizagem; 5. Ensino estruturado com propósitos claramente definidos; 6. Expectativas elevadas; 7. Reforço positivo das atitudes; 8. Monitoramento do progresso; 9. Direitos e deveres dos alunos; 10.Parceria família-escola; 11.Organização orientada à aprendizagem. Em seguida, descreveremos como foi feita a seleção das variáveis explicativas incluídas nos modelos estatísticos ajustados durante a nossa pesquisa, tendo como referência os fatores acima enunciados. Como se poderá observar, nem todos os 11 fatores foram testados nos nossos modelos, principalmente devido à insuficiência dos dados obtidos a partir das respostas aos questionários. Na nossa modelagem acrescentaram-se variáveis explicativas que captam fenômenos que são relevantes no contexto educacional brasileiro. A Tabela A, em anexo, contém a descrição, caracterização, codificação e fonte dos dados para todas as variáveis usadas na pesquisa. Listam-se, a seguir, aquelas cujos resultados são reportados neste artigo. Liderança profissional No questionário do diretor não há nenhuma questão a partir da qual se possa aferir a sua capacidade de liderança na condução administrativa e pedagógica da escola. Consideraram-se, no entanto, algumas variáveis relativas ao perfil do diretor, tais como escolaridade, experiência profissional e nível socioeconômico. Visão e metas compartilhadas pelos agentes educativos Consideraram-se as respostas às questões relativas ao Conselho de Escola e ao Conselho de Classe, bem como ao mentor do projeto pedagógico. Ambiente de aprendizagem A partir das respostas obtidas através do questionário da escola constituiu-se um indicador da qualidade da infra-estrutura 1 A academia tem produzido muitas advertências sobre a falácia das listas ordenadas das escolas segundo a eficácia. Ver, por exemplo, Goldstein e Spiegelhalter (1996). 2 A decisão de modelar os dados da 4 a série e replicar os modelos para as outras séries pode não atender às especificidades da 8 a série do ensino fundamental e da 3 a série do ensino médio. 115
6 física, segurança e limpeza da escola. A partir de questões respondidas pelo professor constituiu-se outro indicador, representando a limitação de material didático e de equipamento enfrentada pelo professor no exercício da função. Concentração no processo ensinoaprendizagem Testou-se a hipótese segundo a qual a maximização do tempo de aprendizagem turno integral beneficia os resultados escolares. Ensino estruturado Relativamente a este fator, usou-se a resposta do professor acerca da percentagem do conteúdo programático já lecionado e dos critérios de criação de turmas e da alocação do professor à turma. Expectativas elevadas Usou-se a resposta do professor sobre sua expectativa quanto à aprovação da turma. Monitoramento do progresso Usou-se a resposta dada pelo diretor da escola sobre o processo de recuperação de notas. Parceria casa-escola O questionário do SAEB-99 aplicado aos alunos contém a única questão que poderia ser usada para mensurar a parceria famíliaescola. A questão é a seguinte: Os seus pais conhecem o diretor da escola/ professor/seus amigos?. A distribuição percentual das respostas mostra que a maioria dos pais de alunos na 4 a série conhece o diretor, o professor e os amigos do seu filho. Basta o pai/mãe acompanhar o seu filho à escola no primeiro dia de aulas para ficar conhecendo o diretor e o professor, sem que isso implique o seu envolvimento na vida escolar. Tendo em vista a sua má qualidade em face do constructo que se pretende mensurar, a questão não foi usada na modelagem. Outras variáveis foram usadas nos modelos, medidas nos seguintes níveis: Aluno: nível socioeconômico, raça/cor, sexo, defasagem idade/série, faz lição de casa, gosta da disciplina, sabe usar o computador; Escola/turma: variável contextual do nível socioeconômico, regime de organização do ensino, porte da escola, proporção de alunos reprovados no último ano letivo, tamanho médio da turma, rotatividade de professores na turma, critério de criação de turmas, critério para alocação do professor à turma. Professor: escolaridade, experiência profissional, nível socioeconômico. Resultados Nesta seção apresentam-se alguns dos resultados referentes a alunos e escolas. Os resultados completos do estudo estão disponíveis nos relatórios técnicos (Barbosa et al., 2000a, 2000b e 2001) e foram resumidos em Ferrão, Beltrão e Fernandes (2002). TABELA 1 Estimativas da variância e efeito-escola Fonte: SAEB
7 TABELA 2 Estimativas da variância residual com controle socioeconômico e efeito-escola controlado Fonte: SAEB-99. Efeito-escola Nesta subseção apresentam-se as estimativas dos parâmetros aleatórios e a estimativa do efeito-escola aferido pelo coeficiente de correlação intra-escola. Os resultados do estudo do efeito-escola (ver terceira seção) realizado com os dados da 4 a série do SAEB-99 são enunciados na Tabela 1. O modelo (1) da terceira seção está subjacente a estas estimativas e foi ajustado com intercepto separado para cada disciplina. Verifica-se que o efeito-escola, ou de agrupamento, é mais intenso na região SE (35%) e mais fraco nas regiões Sul e NO (21%). Apesar de, à primeira vista, podermos ser levados a pensar que esse é o potencial que a escola tem para influenciar o desempenho acadêmico dos seus alunos, isso não é de todo verdade. Já que a alocação dos alunos às escolas não é aleatória, e que o nível socioeconômico das famílias contribui em muito na escolha da escola que o aluno vai freqüentar, o efeitoescola acima tabulado deverá ser expurgado dessa componente. Assim, levando em conta os resultados do modelo com controle socioeconômico dos alunos, chegamos ao efeito-escola controlado, apresentado na Tabela 2. O modelo subjacente é o seguinte: (6) Verifica-se que, controlando pelo nível socioeconômico, o efeito-escola é bastante menor do que mencionado nas pesquisas acima citadas. Menção especial deve ser feita ao poder discriminativo que o nível socioeconômico tem nos resultados escolares na região SE. Digno de nota é também o fato de as escolas na região NE apresentarem o efeito-escola controlado de 17%, bastante acima do das demais regiões. Estes valores estão em sintonia com os mencionados na literatura. Creemers e Scheerens (1994) referem que, aproximadamente, de 12% a 18% da variância total dos resultados dos alunos é explicada por fatores associados à escola ou turma; Daly (1991) reporta estimativas mais modestas 8% a 10%. O 1º Estudo Internacional Comparativo dos Resultados de Língua, Matemática e Fatores Associados nos 3 o e 4 o Graus do Ensino Básico, promovido pela OREALC e realizado pelo LLECE (Laboratorio Latinoamericano de Evaluacion de la Calidad de la Educacion), reporta estimativas comparativas do efeito-escola (não controlado pelo nível socioeconômico) nos países da América Latina e Caribe. Assim, no que diz respeito às estimativas para o Brasil, o LLECE (2001) reporta 25% e 30,7%, respectivamente, para Linguagem e Matemática. Tais estimativas são comparáveis às apresentadas na Tabela 1, sendo da mesma ordem de grandeza. O Chile apresenta os valores mínimos (17,1% em Linguagem e 19,5% em Matemática) e o Peru tem os valores máximos (37,3% em Linguagem e 44,5% em Matemática). O referido relatório não mostra as estimativas controladas pelo nível socioeconômico. No entanto, regista a variância entre escolas do mesmo nível socioeconômico, donde se observa que o seu valor mínimo é relativo a Cuba (28,8%). 117
8 O modelo subjacente aos resultados da Tabela 2 e, por conseguinte, ao efeitoescola controlado inclui a variável explicativa do nível socioeconômico contextual na equação do nível 2. Esta variável é obtida através da média do nível socioeconômico dos alunos de cada escola. Já que existem variáveis intra-escolares que são correlacionadas com aquela variável contextual, podemos aceitar que as estimativas apresentadas nas Tabelas 1 e 2 representam, respectivamente, os limites superior e inferior do efeito da escola nos resultados escolares atingidos pelos alunos. Alunos Nível socioeconômico Os itens do questionário de alunos permitem a sua classificação econômica de acordo com o Critério de Classificação Econômica Brasil (CCEB) desenvolvido conjuntamente pela Associação Nacional de Empresas de Pesquisa (ANEP), a Associação Brasileira de Anunciantes (ABA) e a Associação Brasileira dos Institutos de Pesquisas de Mercado (Abipeme, cujo objetivo é avaliar o poder de compra das pessoas e famílias urbanas. Este critério abandona a classificação da população por classes sociais, substituindo-a pela classificação por classe econômica. São sete as classes econômicas arroladas (A1 com o maior poder aquisitivo e E com o menor poder aquisitivo, variável recodificada em ordem crescente de classe de 1 a 7, respectivamente), determinadas por um sistema de pontuação que toma como base de cálculo a posse de bens, a escolaridade do chefe de família e a presença de empregada mensalista. A título de informação complementar, é oportuno referir que, de acordo com este critério, a distribuição percentual da população urbana por classe econômica é a seguinte: 1% pertence à classe A1, 4% à classe A2, 8% à B1, 11% à B2, 31% à C, 33% à D e 12% à classe E. O Gráfico 1 permite observar a relação positiva entre a proficiência média do aluno nas cinco disciplinas e seu nível socioeconômico, confirmando o fato amplamente conhecido de que o desempenho acadêmico do aluno é fortemente influenciado pela envolvente social, cultural e econômica (dimensões geralmente correlacionadas). Raça/Cor A Tabela 3 mostra a distribuição percentual dos alunos das séries abrangidas pelo SAEB por raça/cor declarada e também a distribuição da população brasileira. Observando a tabela no sentido GRÁFICO 1 Proficiência média na 4ª série por nível socioeconômico 118
9 TABELA 3 Distribuição dos alunos e da população por raça/cor * Fonte: IBGE, Anuário estatístico horizontal, verifica-se que a participação dos alunos brancos aumenta do ensino fundamental para o ensino médio, ao passo que a dos alunos pardos/mulatos e negros diminui. Num primeiro momento, poderíamos ser levados a pensar sobre a tão falada seletividade do sistema educacional, mas tal seria precipitado. O assunto ainda está sob pesquisa. Idade e repetência O Gráfico 2 e a série de Gráficos 3 permitem analisar a relação bivariada entre a defasagem idade/série (para a 4ª série) e a distribuição dos alunos por idade 3 nas três séries avaliadas. Torna-se evidente que os alunos com atraso escolar têm resultados escolares reduzidos comparativamente aos que estão na idade adequada para a série. Aproximadamente 48% dos alunos da 4ª série estão acima da idade adequada e 38% dos alunos foram reprovados ao menos uma vez (ver Tabela 4). A diferença é uma estimativa dos alunos que entraram tardiamente na escola ou que, tendo entrado na idade adequada, se evadiram e reingressaram posteriormente no sistema. O questionário do SAEB-99 não permite discriminar estes casos, pois contém apenas uma questão sobre o número de anos que o aluno já repetiu. As Tabelas B1 a B4, em anexo, contêm as estimativas 4 dos modelos de dois níveis ajustados com as variáveis explicativas dos GRÁFICO 2 Proficiência média na 4ª série por defasagem idade/série 3 Idade completa a 31 de julho. Data arbitrada para o cálculo a partir da informação de que a maioria das escolas aceita alunos de 6 anos na 1ª série do ensino fundamental, contanto que eles completem os 7 anos no primeiro semestre. 4 Considerou-se o nível de significância de 5%. 119
10 TABELA 4 Distribuição percentual dos alunos da 4ª série por números de anos letivos repetidos GRÁFICO 3.1 Distribuição percentual dos alunos da 4 a serie do E.F., por idade GRÁFICO 3.2 Distribuição percentual dos alunos da 8 a série do E.F., por idade GRÁFICO 3.3 Distribuição percentual dos alunos da 3 a série do Ensino Médio, por idade 120
11 alunos e escolas. O modelo subjacente às Tabelas B3 e B4 é o seguinte: (7) Verifica-se elevada influência do contexto familiar nos resultados escolares do aluno. Aferindo a envolvente familiar pelo seu nível socioeconômico, é na região SE onde tal ocorre com mais incidência e onde se verifica maior variabilidade entre escolas atribuível às diferenças de caráter social e econômico. As raças/cores amarela e indígena não apresentam diferenças estatisticamente significativas em relação à raça branca (à exceção da raça/cor amarela no NO); os mulatos apresentam melhores resultados do que os brancos no NO e NE, piores no SE e com diferenças não estatisticamente significativas no Sul e CO; em todas as regiões, os alunos declarados de raça/cor negra apresentam desempenho inferior comparativamente aos demais alunos. O desempenho dos alunos atrasados relativamente à idade adequada para a série é inferior ao dos alunos em idade adequada, mas o efeito é aleatório (à exceção da região Sul). Isto sugere que o impacto da defasagem em determinadas escolas é maior do que em outras. Ferrão e Beltrão (2001) ajustam curvas por escola com o efeito aleatório associado à defasagem para melhor ilustrar a variabilidade entre escolas da região Sudeste. O resultado é o que se mostra no Gráfico 4. Pode-se observar no Gráfico 4 que, dependendo da escola que os alunos defasados freqüentam, o efeito marginal da defasagem idade/série no seu desempenho varia. Compare, por exemplo, duas das curvas apresentadas no gráfico. O aluno que esteja quatro anos defasado em relação à idade adequada para a série pode ter o seu desempenho reduzido, em média, em 45 unidades ou apenas 5, dependendo da escola onde ele estuda. Com respeito ao comportamento diante da lição de casa, os coeficientes estimados obedecem à ordem esperada. Tendo como referência o nunca faz dever de casa (valor zero), raramente tem valor maior (estatisticamente significativo para NO, NE e SE), porém menor do que usualmente (diferença estatisticamente significativa para todas as regiões), que por sua vez é menor do que sempre (diferença estatisticamente significativa para todas as regiões menos NO). Os modelos ajustados separadamente por disciplina mostram que a influência do cumprimento do dever de casa é mais pronunciada em Português. GRÁFICO 4 Curvas ajustadas para as escolas com o efeito marginal de defasagem idade/série na proficiência dos alunos da 4ª série na região SE 121
12 Escola ou turma As estimativas 5 apresentadas na Tabela B4, em anexo, suportam a análise que se apresenta a seguir. As estimativas dos parâmetros fixos associados a alunos mostramse consistentes com as do modelo anterior. Adicionalmente, o modelo sugere que: Escolas com melhor infra-estrutura, segurança e limpeza servem à população discente com nível socioeconômico mais elevado. A variável está positivamente correlacionada com a variável contextual do nível socioeconômico da escola. A variável tem um impacto positivo no desempenho dos alunos. Os resultados associados aos critérios adotados para a criação de turmas não indicaram a existência de algum padrão que permita afirmar que um é preferível ao outro em termos dos resultados escolares. Não foi encontrada relação estatisticamente significativa entre o processo de recuperação de notas e a melhoria do desempenho escolar. O regime de organização do ensino adotado na escola (ensino organizado em ciclos em face de ensino seriado ou misto 6 ) apresenta, em média, impacto negativo. O ensino em ciclos está mais amplamente disseminado na região Sudeste, particularmente nos estados de São Paulo e Minas Gerais. Ferrão, Beltrão e Santos (2001) aprofundaram o estudo para estes estados e mostram que, a partir dos dados do SAEB-99, não há evidências, na escola pública de Minas Gerais e São Paulo, de que o ensino organizado em ciclos conduza a resultados escolares substancialmente inferiores aos do ensino seriado. Os autores relatam a necessidade de prosseguir a pesquisa com os dados do SAEB-2001, uma vez que o questionário da turma contém informação mais precisa sobre o assunto. A inclusão desta variável no modelo faz com que o porte da escola, mensurado em número de turmas no ensino fundamental, seja estatisticamente significativo (negativo) apenas na região Centro-Oeste. Sem a variável, o porte da escola é significativo em todas as regiões. Foi testado o termo de interação entre ambas as variáveis, mas este mostrou-se não significativo. Parece ser um caso de multicolinearidade entre as variáveis envolvidas. A inclusão das variáveis relacionadas com Conselho de Escola e Conselho de Classe nos modelos não mostrou a existência de qualquer padrão comum a todas as regiões relativamente ao efeito da existência e periodicidade de reuniões destes órgãos da escola na melhoria dos resultados atingidos. Além disso, alunos em turno integral não apresentam vantagem em face dos alunos em turno parcial. Futuros desenvolvimentos É necessário aprofundar diversos pontos abordados nesta fase da pesquisa. O grupo estabeleceu uma ordem de prioridade nos temas que merecem abordagem imediata, tendo como critério sua relevância na contribuição para a garantia da eqüidade e eficiência do sistema educacional. Os temas em agenda são: Procurar explicação para o efeito de raça/cor negro na proficiência. Estender o estudo sobre defasagem e regime de organização do ensino a outras unidades da Federação. 5 Considerou-se o nível de significância de 5%. 6 Variável retirada do Censo Escolar de Há escolas que declaram ter em funcionamento ambos os regimes de organização do ensino. Nestes casos, é impossível saber sob que regime se encontra a turma selecionada na amostra do SAEB-99. Esclarecida esta indeterminação, os resultados do impacto do regime de organização do ensino nos resultados escolares podem mudar. A análise deverá ser repetida com os dados do SAEB-2001, que contempla, no questionário da turma, a pergunta sobre qual é o regime de organização de ensino a que a turma está sujeita. 122
13 Referências bibliográficas BARBOSA, Maria E. Ferrão, FERNANDES, C., SANTOS, D., BELTRÃO, K. e FARIÑAS, M. Análise descritiva dos dados do SAEB- 99. Relatório técnico INEP/MEC, 2000a. Não publicado.. Redução da dimensionalidade dos dados do SAEB-99. Relatório técnico, INEP/ MEC, 2000b. Não publicado. BARBOSA, Maria E. Ferrão, BELTRÃO, K., FARIÑAS, M., FERNANDES, C. e SANTOS, D. Modelagem do SAEB-99. Modelos de regressão multinível. Relatório técnico, INEP/MEC, Não publicado. BRYK, A. e RAUDENBUSH, S. Hierarchical linear models. Newbury Park: Sage, CREEMERS, B. e SCHEERENS, J. Developments in the educational effectiveness research programme. International Journal of Educational Research, 21 (2), p , DALY, P. How large are secondary school effects in Northern Ireland? School Effectiveness and School Improvemente, 2 (4), p , FERRÃO, Maria E. e BELTRÃO, Kaizô. Tracing schools which do not penalise over age students. Trabalho apresentado na 27 th Annual Conference of the International Association for Educational Assessment, Rio de Janeiro, FERRÃO, Maria E., BELTRÃO. K. e SANTOS, D. O impacto da promoção automática na proficiência dos alunos da 4ª série nos estados de Minas Gerais e São Paulo. Relatório técnico, ENCE/IBGE, FERRÃO, Maria E., BELTRÃO, K. e FERNANDES, C. Aprendendo sobre a escola eficaz evidências do SAEB-99. Brasília: INEP/MEC, FLETCHER, P. À procura do ensino eficaz. Relatório de pesquisa, PNUD/MEC/SAEB, GOLDSTEIN, H. Multilevel statistical models. 2.ed. Londres: Edward Arnold, New York: Halsted Press, GOLDSTEIN, H. e SPIEGELHALTER, D. J. League tables and their limitations: statistical issues in comparisons of institutional performance. Journal of the Royal Statistical Society, v. 159A, p , IBGE. Síntese de indicadores sociais Estudos & Pesquisas. Informação demográfica e socioeconômica. IBGE, LLECE. (2001). Primer estudio internacional comparativo sobre lenguaje, matemática y factores asociados, para alumnos del tercer y cuarto grado de la educación básica. Relatório técnico, OREALC, agosto LONGFORD, N. Random coefficient models. Oxford: Clarendon Press, RASBASH, J., BROWNE, W., HEALY, M., CAMERON, B. e CHARLTON, C. MlwiN. Multilevel models project. Institute of Education, University of London, SAMMONS, P., HILLMAN, J. e MORTIMORE, P. Key characteristics of effective schools: a review of schol effectiveness research. Londres: Office for Standards in Education (OFSTED),
14 Anexos TABELA A Relação dos construtos e variáveis 124
17 TABELA B.1 Estimativas do modelo nulo TABELA B.2 Estimativas do modelo com controle socioeconômico 127
18 TABELA B.3 Estimativas do modelo com variáveis de aluno e ambiente da escola 128
19 TABELA B.4 Estimativas do modelo com variáveis de aluno, ambiente da escola, gestão-administração-organização do ensino 129
20 Abstract The article describes the National Basic Education Evaluation System (SAEB) for regarding its objectives and characteristics, and reports on a study carried out to identify the factors associated with school performance and with the efficiency of the educational system. Multilevel regression models were applied to the data from the SAEB-99, with special emphasis on the analysis of the fourth grade of elementary school. The two-level hierarchical structure was considered, with students being Unit Level 1 and schools being Unit Level 2. The response variable is the students proficiency in the five subjects tested: mathematics, Portuguese, science, geography, and history. Models were adjusted for the five major geographical regions in Brazil North (NO), Northeast (NE), Southeast (SE), South (SO), and Central-West (CO). The article also presents partial results of the study in regard to the profile of students and schools. Enviado para publicação em 10/10/