Universidade Federal de São Carlos Centro de Ciências Exatas e de Tecnologia Programa de Pós Graduação em Estatística Departamento de Estatística - PDF
Download "Universidade Federal de São Carlos Centro de Ciências Exatas e de Tecnologia Programa de Pós Graduação em Estatística Departamento de Estatística"
Alexandre Natal Castelo
1 Universidade Federal de São Carlos Centro de Ciências Exatas e de Tecnologia Programa de Pós Graduação em Estatística Departamento de Estatística Modelos de Regressão Logística Clássica, Bayesiana e Redes Neurais para Credit Scoring Tiago Silva Mendonça Orientador: Prof. Dr. Francisco Louzada-Neto Dissertação apresentada ao Departamento de Estatística da Universidade Federal de São Carlos DEs/UFSCar, como parte dos requisitos para obtenção do título de Mestre em Estatística São Carlos 2008
2 Ficha catalográfica elaborada pelo DePT da Biblioteca Comunitária da UFSCar M539mr Mendonça, Tiago Silva. Modelos de regressão logística clássica, Bayesiana e redes neurais para Credit Scoring / Tiago Silva Mendonça. - - São Carlos : UFSCar, f. Dissertação (Mestrado) -- Universidade Federal de São Carlos, Análise de regressão. 2. Regressão logística. 3. Inferência bayesiana. 4. Redes neurais. I. Título. CDD: (20 a )
4 Sumário Resumo v Abstract vii 1. Introdução 1 2. Regressão Logística Clássica Cálculo e interpretação dos coeficientes Teste de significância para os coeficientes Intervalo de confiança para os coeficientes Regressão Logística Bayesiana Cálculo e interpretação dos coeficientes Algoritmo de Metropolis-Hastings Teste de significância para os coeficientes Fator de Bayes e BIC Intervalo de credibilidade para os coeficientes Redes Neurais Artificiais Fundamentos de Redes Neurais Neurônio Artificial de McCulloch e Pitts Funções de ativação Aprendizado Perceptron i
5 Regra Delta Problema da porta lógica ou-exclusivo Multilayer Perceptrons Algoritmo de aprendizado back-propagation Taxa de aprendizagem e constante momentum Generalização e Overfitting Comparação de modelos Capacidade Preditiva Curva ROC Estatística de Kolmogorov-Smirnov (KS) e capacidade de acerto dos modelos Aplicação em dados artificiais Aplicação no banco de dados de ajuste Ajuste do modelo de regressão logística clássico Ajuste do modelo de regressão logística Bayesiano Ajuste do modelo de redes neurais Um único neurônio MLP com uma camada oculta MLP com duas camadas ocultas Comparação de modelos Capacidade Preditiva Curva ROC Estatística de Kolmogorov-Smirnov (KS) e capacidade de acerto dos modelos ii
6 7. Aplicação em dados reais Descrição do Problema Aplicação no banco de dados de ajuste Ajuste do modelo de regressão logística clássico Ajuste do modelo de regressão logística Bayesiano Ajuste do modelo de redes neurais Um único neurônio MLP com uma camada oculta MLP com duas camadas ocultas Comparação dos Modelos Capacidade Preditiva Curva ROC Estatística de Kolmogorov-Smirnov (KS) e capacidade de acerto dos modelos Combinação dos modelos Comentários Finais 139 Bibliografia Apêndice iii
8 Resumo Importantes avanços vêm sendo conquistados na área de concessão de crédito, não obstante, o problema de identificação de bons clientes para a concessão de crédito não apresenta uma solução definitiva. Diversas técnicas foram apresentadas e vêm sendo desenvolvidas, cada uma apresenta suas características, com vantagens e desvantagens no tocante ao seu poder de discriminação, robustez, facilidade de implementação e possibilidade de interpretação. Este trabalho apresenta três técnicas para a classificação de inadimplência em modelos de Credit Score, Regressão Logística Clássica, Regressão Logística Bayesiana com priori não informativa e Redes Neurais Artificiais com algumas diferentes arquiteturas. O objetivo principal do trabalho é comparar o desempenho destas técnicas na identificação de clientes inadimplentes. Para isto, Foram utilizadas quatro métricas para a comparação dos modelos: Capacidade Preditiva, Curva ROC, Estatística de Kolmogorov Smirnov e a Capacidade de Acerto dos modelos. Dois bancos de dados foram utilizados, um banco artificial e um banco real. O banco de dados artificial foi construído baseado em um artigo de Breiman que gera as variáveis explicativas a partir de uma distribuição normal multivariada e o banco de dados real utilizado trata-se de um problema de Credit Score de uma instituição financeira que atua no mercado varejista brasileiro há mais de vinte anos. Palavras-chave: Regressão Logística, Inferência Bayesiana, Redes Neurais Artificiais. v
10 Abstract Important advances have been achieved in the granting of credit, however, the problem of identifying good customers for the granting of credit does not provide a definitive solution. Several techniques were presented and are being developed, each presents its characteristics, advantages and disadvantages as to their discrimination power, robustness, ease of implementation and possibility of interpretation. This work presents three techniques for the classification of defaults in models of Credit Score, Classical Logistic Regression, Bayesian Logistic Regression with no prior information and Artificial Neural Networks with a few different architectures. The main objective of the study is to compare the performance of these techniques in the identification of customers default. For this, four metrics were used for comparison of models: predictive capacity, ROC Curve, Statistics of Kolmogorov Smirnov and capacity of hit models. Two data bases were used, an artificial bank and a real bank. The database was constructed artificially based on an article by Breiman that generates the explanatory variables from a multivariate normal distribution and the actual database used is a problem with Credit Score of a financial institution that operates in the retail Brazilian market more than twenty years. Keywords: Logistic Regression, Bayesian Inference, Artificial Neural Networks. vii
12 Capítulo 1 Introdução Nos últimos vinte e cinco anos as decisões relacionadas ao crédito deixaram de ser baseadas apenas na experiência do analista de crédito, atualmente são baseadas em técnicas estatísticas desenvolvidas, suas principais ferramentas de crédito. Antes as correções inflacionárias compensavam as perdas de crédito. Com a estabilidade da moeda houve um re-aquecimento da economia e um grande aumento da demanda por crédito. A falta de uma cultura de crédito forte fez com que as instituições financeiras não conseguissem conciliar a qualidade à demanda, resultando em aprovações equivocadas e/ou na rejeição do crédito rentável. Financiadoras, como bancos e companhias de cartão de crédito, utilizam a análise de credit score para avaliar o risco potencial de emprestar dinheiro aos consumidores reduzindo perdas devido aos maus pagadores. Um Credit Score é uma pontuação que representa a confiabilidade de uma pessoa reembolsar o dinheiro que é devido. O Credit Score é construído através de informações de crédito obtidas geralmente através de agências de crédito, isto é, companhias que fornecem informações de crédito sobre empréstimos individuais. 1
13 Existem várias formas para se determinar o credit score de um cliente, o objetivo deste trabalho é apresentar, aplicar e comparar três delas: Regressão Logística Clássica, Regressão Logística Bayesiana e Redes Neurais. A técnica estatística mais popular utilizada em modelagem de Credit Score é a regressão logística, que prediz uma saída binária como, por exemplo, bom e mau pagador. As financiadoras movimentam um grande volume de transações e utilizam credit score para determinar se autorizam ou não determinado empréstimo, quando autorizado determina a que taxa de juros e quais serão os limites de crédito. A técnica permite que essas decisões sejam tomadas de forma objetiva, padronizada e imparcial além de permitir a automatização do processo, evitando desperdícios, reduzindo custos e permitindo a maximização dos resultados. A concessão de créditos é atualmente uma das principais fontes de receita de bancos e instituições financeiras. Essas empresas vêm buscando continuamente por modelos cada vez mais aprimorados. Com o avanço computacional, técnicas de simulação relativamente simples mas extremamente poderosas puderam ser implementadas e a área que muito se beneficiou com este aprimoramento foi a inferência Bayesiana, onde a capacidade de calcular integrais de funções complexas e de muitas dimensões é de extrema importância. A inferência Bayesiana permite o acréscimo da opinião do especialista na modelagem através de uma informação a priori. Em regressão logística o método Bayesiano utilizado consiste em definir uma informação a priori para cada um dos parâmetros de interesse no modelo. O modelo é encontrado após a determinação da distribuição a posteriori destes parâmetros. Outro método que pode ser utilizado em modelos de Credit Score são modelos de redes neurais, que são modelos computacionais inspirados na estrutura e no funcionamento do cérebro biológico. Através de algoritmos de 2
14 aprendizado as ligações entre os neurônios artificiais são ponderadas resultando, após um período de aprendizado, em um modelo de classificação. Credit Score não é limitado para bancos e instituições financeiras. Outras organizações, como companhias telefônicas e departamentos de governo empregam a mesma técnica. Primeiramente apresenta-se as três técnicas separadamente nos Capítulos 2, 3 e 4. Nas aplicações realizadas no Capítulo 5 e no Capítulo 6 todas as técnicas foram aplicadas em um banco de dados artificial e um real respectivamente e em seguida comparadas de acordo com quatro métodos: Capacidade Preditiva, Curva ROC, Estatística KS e Capacidade de acerto dos modelos na base de dados reservada para o teste dos modelos. No Capítulo 2 encontra-se a metodologia de Regressão Logística Clássica desde o cálculo e interpretação dos coeficientes até o teste de significância e intervalo de confiança para os parâmetros estimados. O Capítulo 3 possui a mesma estrutura e apresenta a metodologia de Regressão Logística Bayesiana. A inclusão de informações externas ao banco de dados não foi realizada na aplicação desta técnica por falta de uma opinião de um especialista na construção das prioris. Como esperado, os resultados obtidos através da metodologia Bayesiana foram bastante próximos aos resultados obtidos pelo método clássico, pois ambos utilizam as informações dos dados através da função de verossimilhança. O Capítulo 4 contém a técnica de redes neurais com uma breve introdução dos conceitos fundamentais, descrevendo inicialmente as definições de neurônios artificiais, funções de ativação e o conceito de aprendizagem utilizado em inteligência artificial. Foram apresentados ainda, duas arquiteturas de redes neurais: o perceptron e o perceptron multicamadas. Para cada uma das duas arquiteturas foi apresentado o algoritmo de 3
15 aprendizagem mais utilizado, o back-propagation, algumas limitações e também uma breve discussão sobre a capacidade de generalização dos modelos e sugestões para os parâmetros do algoritmo de aprendizado do perceptron multicamadas. As técnicas de redes neurais e de regressão logística Bayesiana estão começando a ser testadas na prática em problemas de Credit Scoring como alternativa ao método clássico. Nos capítulos de aplicações, comprovou-se a qualidade das técnicas tanto para os dados reais quanto para os dados artificiais, pois todas tiveram resultados muito próximos a partir dos respectivos conjuntos de dados. Dada que a regressão logística é muito utilizada na modelagem de Credit Scoring as técnicas de Redes Neurais e a Regressão Logística Bayesiana foram, para os conjuntos de dados utilizados neste trabalho, igualmente eficazes na modelagem de crédito com uma leve vantagem para o modelo de Redes Neurais MLP com duas camadas ocultas no ajuste para o banco de dados simulado e uma leve vantagem para o modelo de Redes Neurais MLP com uma camada oculta na aplicação dos dados reais. 4
16 Capítulo 2 Regressão Logística Clássica Métodos de regressão são fundamentais em análises de dados onde existe interesse em descrever o relacionamento entre uma variável resposta e uma ou mais variáveis explicativas. Em muitas situações a variável resposta é dicotômica, ou seja, assume dois possíveis valores (ex: sim ou não, doente ou saudável, etc.). Nestes casos a regressão logística é amplamente utilizada, descrevendo assim uma relação entre a ocorrência ou não de um evento de interesse e um conjunto de variáveis aleatórias. Este capítulo é baseado no livro Hosmer e Lemeshow (2000). Na modelagem de Credit Score, a variável resposta representa o desempenho de crédito dos indivíduos durante um determinado período de tempo, normalmente 12 meses. É coletado um conjunto de características dos indivíduos no momento em que eles solicitam o crédito, e em muitos casos observam-se também informações a respeito do próprio produto de crédito a ser utilizado, por exemplo: números de parcelas, finalidade, valor do crédito, etc. Nesse caso, o objetivo é identificar se o proponente é bom ou mau pagador. 5
17 Na prática, verifica-se que a regressão logística e a regressão linear apresentam resultados muito semelhantes na discriminação de bons e maus pagadores em um modelo de Credit Score. Hand e Henley (1997) atribuem essa semelhança ao fato de uma grande proporção de candidatos ao crédito possuir probabilidades estimadas de serem bons e maus pagadores entre 0,2 e 0,8 onde a curva logística é bem aproximada por uma reta. Muitas funções de distribuição têm sido propostas para uso em análises de variável resposta dicotômica, uma das principais razões de se escolher a distribuição logística é o fato de que do ponto de vista matemático ela é de fácil aplicação. Para modelos de resposta binária, a resposta, y, de um indivíduo ou uma unidade experimental pode assumir um de dois possíveis valores, denotados por conveniência por 1 e 0 (por exemplo, y = 1 se o indivíduo é mau pagador, caso contrário y = 0). Suponha x um vetor de variáveis explicativas (x 1, x 2,..., x k), correspondendo aos valores dos atributos que caracterizam um cliente e p = Pr(y=1 x) = (x) a proporção de maus pagadores em função do perfil dos clientes definido e caracterizado pelo vetor x como pode ser visto na equação 2.1. Pode-se interpretar (x) como a probabilidade de um proponente ao crédito ser um mau pagador dado as características representadas pelo vetor x. A transformação de (x) que é utilizada para a obtenção da forma aditiva é a transformação logito. Esta transformação é definida em termos de (x), da seguinte forma: 6
18 A importância desta transformação é que g(x) possui várias das propriedades desejadas de um modelo de regressão linear. A logito, g(x) é linear nos seus parâmetros, pode ser contínua e pode variar de a, dependendo da variação de x. Em um modelo de regressão linear assume-se que a variável resposta pode ser expressa como y = E[y x]+. A quantidade segue uma distribuição normal com média zero e variância constante. Daí segue que a distribuição condicional da variável resposta dado x será normal com média E(y x) e uma variância constante. Isto não ocorre quando temos uma variável resposta dicotômica. Nesta situação nós podemos expressar o valor da variável resposta dado x como y = (x) +. Aqui a quantidade pode assumir um dos dois possíveis valores: Então, tem uma distribuição Bernoulli com média e variância igual a (x)[1 (x)]. Isto é, a distribuição da variável resposta segue uma distribuição Bernoulli com probabilidade dada pela média (x). Dadas a distribuição da variável resposta e as variáveis explicativas o passo seguinte é a determinação dos coeficientes do modelo. 2.1 Cálculo e interpretação dos coeficientes Considere uma amostra de n clientes do par (yi,xi), i = 1, 2,..., n, onde Y i denota o valor da variável resposta dicotômica (0: bom pagador, 1: mau 7
19 pagador) e x i é o vetor constituído das k variáveis observadas para o i-ésimo indivíduo. Para ajustar um modelo de regressão logística para um conjunto de dados é necessário estimar os parâmetros 's desconhecidos. Os parâmetros são normalmente estimados através do método de máxima verossimilhança. O primeiro passo necessário para encontrar os parâmetros é a construção da função de verossimilhança. Esta função expressa, do ponto de vista clássico, a probabilidade dos dados observados como função dos parâmetros desconhecidos. As estimativas de máxima verossimilhança dos parâmetros são os valores que maximizam essa função, ou seja, maximizam, novamente do ponto de vista clássico, a probabilidade de se obter os dados observados. Cada linha do banco de dados representa um cliente, cada cliente possui uma probabilidade de ser mau pagador, (x i), e o interesse é modelar essa probabilidade. Observe que, Y i é uma variável aleatória com distribuição Bernoulli, em que: P[Y i = 1 x i] = (x i) e P[Y i = 0 x i] = 1 (x i) (2.4) Podemos reescrever a equação (2.4) da seguinte forma: P[Y i = y i x i] = f(y i x i) = [ (x i)] yi.[1 (x i)] 1-yi, y i = 0,1, i = 1,2,..., n. (2.5) Note que f(1 x i) = (x i) e f(0 x i) = 1 (x i). Considerando os clientes como estatisticamente independentes então a função de verossimilhança é dada pelo produto das distribuições de marginais dadas na equação
20 Os estimadores de máxima verossimilhança são os valores de que maximizam a função acima, porém é matematicamente mais fácil encontrar os valores que maximizam o logaritmo natural dessa função, ou seja: Deriva-se a função 2.7 em relação a cada um dos s de interesse para se encontrar os estimadores de máxima verossimilhança. Derivando-se em relação a 0 tem-se: onde, logo: Derivando em relação aos demais s temos: onde, 9
21 e. Logo:, para qualquer k Igualando as derivadas acima a zero, encontram-se as equações para a obtenção dos estimadores de máxima verossimilhança para o vetor desconhecido (Farhat, 2003). Porém pode-se perceber que estas equações são não-lineares, necessitando assim da aplicação de métodos iterativos para a obtenção dos estimadores, como Newton-Raphson ou Escore de Fisher. McCullagh e Nelder (1989) mostram que a solução para as equações acima podem ser obtidas usando o procedimento iterativo de mínimos quadrados ponderados. Após a obtenção dos estimadores é necessária a interpretação dos valores. O coeficiente de uma variável independente representa a taxa de mudança ou a inclinação da função logito para cada incremento unitário na unidade de medida da variável, considerando-se fixas as demais variáveis do modelo. Por exemplo, se significa que a cada unidade de medida incrementada em temos um acréscimo de na inclinação da função logito. Outra métrica utilizada para quantificar a influência das variáveis independentes na variável resposta é a odds ratio. A odds ratio para uma 10
22 variável é calculada através da divisão dos indivíduos em m grupos, por exemplo, seja calcula-se a odds ratio para a variável através da fórmula Os indivíduos com covariável (grupo I) são comparados com indivíduos de referência com covariável (grupo II) através da odds ratio. Quando a variável resposta é dicotômica prova-se que a odds ratio é calculada através da exponenciação do parâmetro estimado. Uma odds ratio igual a um indica que a variável independente não contribui para a explicação da variável resposta, enquanto que uma odds ratio igual a dois, por exemplo, indica que a chance de ocorrer o evento é duas vezes maior quando a variável independente pertence ao grupo de referência. Após o cálculo dos estimadores, é necessário verificar se os parâmetros do modelo ajustado são significantes. Esta verificação é feita a partir de testes estatísticos que serão descritos na seção Teste de significância para os coeficientes A formulação e teste de uma hipótese estatística são necessários para determinar se as variáveis no modelo são significativas em relação à variável resposta. Um teste muito utilizado para a significância do coeficiente de uma variável em qualquer modelo está relacionado com a seguinte questão: O modelo que inclui a variável em questão nos diz mais sobre a variável resposta do que o modelo que não possui a variável? A resposta para esta questão é dada através da comparação dos valores observados na variável resposta para 11
23 os dois modelos (com e sem a variável em questão). Se os valores preditos são melhores, ou mais precisos, quando a variável está presente então é um indício de que obtemos uma variável significante. Em regressão linear usamos a tabela de análise de variância para determinar se a variável é significativa para o modelo. Esta tabela divide a variabilidade total em duas partes: uma referente ao modelo e outra referente aos erros aleatórios. Um grande valor da soma de quadrados do modelo, também chamada de soma de quadrados do tratamento, sugere que a variável independente é importante, enquanto um pequeno valor sugere que a variável independente não auxilia na predição da variável resposta. Em regressão logística o princípio é análogo, ou seja, comparar valores observados da variável resposta com valores preditos a partir de modelos com e sem a variável em questão. Para isso baseia-se na comparação do log da função de verossimilhança. A comparação dos valores observados com os valores preditos é realizada através da razão de verossimilhança na expressão 2.14: Aplicando o log na razão de verossimilhança e multiplicando por menos dois temos uma quantidade com distribuição assintótica conhecida para testar hipóteses. Da equação 2.14 temos: 12
24 Em regressão logística onde a variável resposta é igual a zero ou um, a verossimilhança para o modelo saturado é 1. A verossimilhança de um modelo saturado é dada pela equação Sendo assim, Para testar a significância da variável independente deve-se comparar o valor de D em 2.17 para o modelo com e sem a variável independente na equação. A mudança em D devido à inclusão da variável independente no modelo é obtida por: Como a verossimilhança do modelo saturado é igual para ambos os valores de D temos: Sob a hipótese que é igual a zero, a estatística G dada em 2.19 segue uma distribuição assinótica Qui-quadrado com 1 grau de liberdade. O teste Wald (Hosmer e Lemeshow, 2000) é estatisticamente equivalente para significância das variáveis do modelo. Este que compara o estimador de máxima verossimilhança para através de uma aproximação do seu desvio padrão. Sob a hipótese que, a razão resultante segue aproximadamente uma distribuição normal padrão. 13
25 O p-valor bilateral, correspondente ao teste de significância, é dado por, onde z denota uma variável aleatória que segue uma distribuição normal padrão. Este teste pode ser realizado através de uma estatística Qui-quadrado da seguinte forma: A hipótese linear para o vetor de parâmetros é expressa na forma matricial como, onde é uma matriz de coeficientes para a hipótese linear e é um vetor constante. A estatística Qui-quadrado Wald para testar a hipótese nula é calculado da forma onde é a matriz de variâncias e covariâncias estimada. Sob a hipótese nula em 2.21 tem uma distribuição assintótica Quiquadrado com graus de liberdade, sendo o rank da matriz. No capítulo 5 para exemplificar a eficácia do teste Wald utilizamos o pacote estatístico SAS na procedure logistic como pode ser observado no capítulo 5 de aplicações. Resumidamente, o método para o teste da significância do coeficiente de uma variável na regressão logística é similar à aproximação usada na regressão linear. Os testes de significância estão diretamente ligados com os intervalos de confiança para os parâmetros estimados, como pode ser visto na seção seguinte. 14
26 2.3 Intervalo de confiança para os coeficientes Outra análise importante para o teste de significância dos coeficientes das variáveis do modelo é o cálculo e a interpretação dos intervalos de confiança para os parâmetros de interesse. A base para a construção dos estimadores intervalares é a mesma teoria estatística usada na formulação dos testes de significância do modelo. Os intervalos de confiança para os parâmetros são baseados na estatística de Wald. Os limites do intervalo de confiança para os coeficientes de inclinação são dados por e para o intercepto temos onde é o ponto da distribuição normal padrão e é o desvio padrão estimado para a estimativa do parâmetro. As estimativas dos desvios padrão são obtidas através da matriz de segundas derivadas parciais do log da função de verossimilhança, a matriz Hessiana. Estas derivadas parciais têm sua forma geral da seguinte forma: e para. A matriz de dimensão contendo o negativo dos termos dados nas equações acima é chamada de. A matriz de variância e covariância dos coeficientes estimados é obtida do inverso da 15
27 matriz Hessiana e na sua diagonal têm-se as variâncias estimadas e fora da diagonal as covariâncias. e A formulação da matriz de informação é dada por: onde, Se o intervalo de confiança construído para o parâmetro contiver o valor zero, significa que com de confiança pode-se afirmar que o zero está contido no intervalo indicando desta forma uma não significância da variável independente. 16
28 Capítulo 3 Regressão Logística Bayesiana Os métodos clássicos tradicionalmente utilizados em modelagem de dados de regressão binomial confiam em inferências assintóticas. Métodos Bayesianos podem ser aplicados através de aproximações ou por meios computacionais simples e se aplicam para qualquer tamanho amostral. O recente desenvolvimento do método de MCMC Cadeias de Markov com Monte Carlo tem ajudado a resolver a maior parte das dificuldades associadas com análise Bayesiana de modelos não lineares, é um método simples e de fácil implementação (Bedrick et al, 1997). Uma das vantagens da metodologia Bayesiana é a capacidade de adicionar ao modelo o conhecimento de um especialista, aproveitando assim um conhecimento externo à base de dados. Considere os dados de regressão, onde Y é a variável dicotômica de interesse e é o vetor conhecido de dimensão representante das variáveis explanatórias. A probabilidade de um indivíduo ser mau pagador dado o vetor observado é dada por, ou seja, 17
29 , onde é um vetor de coeficientes de regressão desconhecido de tamanho. A função é dada pelo modelo logístico, ou seja: Assim, a função de ligação é dada por: A verossimilhança para os dados é A inclusão da informação do especialista no modelo é feita através de uma priori e da utilização do teorema de Bayes. Dada uma distribuição a priori para, digamos, a obtenção de uma distribuição a posteriori é dada na equação 3.4 (Ehlers, 2005). Integrais envolvendo são, na maioria, intratáveis, o que torna necessário o uso de aproximações. Para o ajuste do modelo de regressão logística Bayesiano utilizou-se o método de Metropolis-Hastings, um dos métodos de Monte Carlo via Cadeias de Markov (MCMC) uma alternativa aos métodos não iterativos em problemas complexos, e aproximações de Laplace que, através da expansão de Taylor aproximam a função a posteriori para uma 18
30 função de densidade normal. O objetivo é obter uma amostra da distribuição a posteriori e calcular estatísticas descritivas desta distribuição. 3.1 Cálculo e interpretação dos coeficientes Na regressão logística clássica os coeficientes são estimados através da maximização da verossimilhança que é realizada através de métodos iterativos como Newton-Raphson ou Escore de Fisher. Na regressão logística Bayesiana eles são encontrados através da distribuição a posteriori do vetor de coeficientes. A geração das amostras a posteriori pode ser realizada através do método proposto por Metropolis-Hastings em 1953, que consiste na simulação de um passeio aleatório no espaço de que converge para a distribuição de interesse,, descrito na seção Existem diversas formas de obter uma amostra da distribuição a posteriori, mas neste trabalho apenas esta maneira será estudada. A distribuição a posteriori contém toda a informação probabilística a respeito dos parâmetros de interesse e os gráficos das suas funções de densidade a posteriori são a melhor descrição do processo de inferência (Paulino et al, 2003). A interpretação dos coeficientes estimados em uma análise Bayesiana é a mesma realizada em uma análise clássica, através da odds ratio e da taxa de mudança representada pelo coeficiente Algoritmo de Metropolis-Hastings O algoritmo de Metropolis-Hastings foi assim nomeado em referência à Nicholas Metropolis que o criou em 1953 para o caso da distribuição de Boltzmann. Em 1970, W.K. Hastings generalizou o algoritmo de Metropolis. 19
31 Tais métodos, denominados MCMC tiveram grande impacto no desenvolvimento e aplicabilidade da metodologia Bayesiana. Esta seção está baseada em Ehlers (2004). O algoritmo usa o conceito dos métodos de rejeição, isto é, um valor de uma distribuição auxiliar é gerado e aceito com uma dada probabilidade. Este mecanismo de correção garante a convergência da cadeia para a distribuição de equilíbrio, neste caso a distribuição a posteriori. O algoritmo inicia com a geração de um valor inicial através da função, esta geração depende do estado atual da cadeia. Em seguida o valor gerado é aceito com probabilidade que é calculada a partir da equação 3.5. onde é a distribuição de interesse. Por fim, os valores aceitos ao longo das iterações formam a amostra com a distribuição de interesse. Uma característica importante é que a distribuição de interesse pode ser conhecida parcialmente, uma vez que na probabilidade a razão não se altera com a multiplicação da parte constante da distribuição. Isto se torna fundamental em aplicações Bayesianas onde não se conhece completamente as densidades a posteriori. Em termos práticos o algoritmo de Metropolis-Hastings pode ser especificado pelos seguintes passos: 1. Inicialize o contador de iterações e especifique um valor inicial ; 2. Gere um novo valor a partir da distribuição ; 3. Calcule a probabilidade de aceitação e gere ; 4. Se então aceite o novo valor e faça, caso contrário rejeite e considere ; 20