Exame de Qualificação do mestrando - Um modelo baseado em algoritmos genéticos para explicabilidade de decisões tomadas por classificadores
Palestrante : Daniel Augusto dos Santos
Data: 23/02/2021 Horário: 14:00 às 18:00
Local: Google Meet
Descrição: RESUMO O uso de aprendizado de máquina em domínios diversos é cada vez mais comum. No entanto, muitas aplicações críticas não podem usufruir desta tecnologia sem que as decisões de um classificador sejam interpretáveis por especialistas humanos. O problema é que a maioria dos modelos se comporta como uma caixa preta cujas decisões não são facilmente interpretáveis, o que limita sua efetividade apesar do bom desempenho. Diversos trabalhos na literatura buscam resolver este problema propondo técnicas de decisão que explicam o comportamento de modelos caixa preta quando estes são aplicados a um determinado exemplo. Uma delas é a técnica Local Rule Based Explanations (LORE) que gera explicações locais, utilizando uma Árvore de Decisão, a partir de uma vizinhança criada por um algoritmo genético. O método LORE utiliza um algoritmo genético padrão, que não preserva necessariamente a diversidade das soluções na população final. A hipótese investigada neste trabalho é que a diversidade é importante para gerar árvores de decisão que consigam reproduzir com maior precisão as fronteiras de decisão do classificador localizadas perto do exemplo a ser explicado. O objetivo deste projeto é analisar as limitações do método de explicação LORE e aprimorar o algoritmo genético que gera a vizinhança. Em especial, deve-se propor o uso de técnicas de aglomeração (crowding) para preservar a diversidade da população com o objetivo de obter explicações mais robustas e precisas para as decisões do classificador para um determinado exemplo.