Uso de Algoritmo Genético para a otimização do ponto de corte da probabilidade de sucesso estimada do modelo de Regressão Logística

Transcrição

1 Uso de Algoritmo Genético para a otimização do ponto de corte da probabilidade de sucesso estimada do modelo de Regressão Logística José Edson Rodrigues Guedes Gondim 1 Joab de Oliveira Lima 2 1 Introdução Atualmente existem vários métodos estatísticos que buscam a classificação de uma variável de interesse para um determinado estudo (variável dependente, variável resposta ou variável desfecho) em determinados grupos. Essa classificação é obtida através de um modelo que correlaciona algumas variáveis independentes para determinar a que grupo a variável dependente tem a maior chance de pertencer. Entre esses métodos citam-se a regressão logística, a analise discriminante, redes neurais, algoritmo genético entre outros. Mais especificamente a regressão logística modela a relação entre o logit da variável resposta (Y) dicotômica 1 e uma combinação linear de algumas variáveis explicativas (X 1, X 2,..., X p ), de modo que a probabilidade estimada de ocorrer o sucesso (ou seja, em (P(Y=1)) na variável resposta poderá ser usada para classificar um indivíduo em um dos dois grupos possível ( sucesso ou fracasso ). No entanto uma das grandes dificuldades no uso da regressão logística, para fins de classificação, é a determinação, baseado na probabilidade estimada de sucesso, do melhor ponto de corte que produz a melhor classificação possível para o modelo proposto. Assim, a ideia desse trabalho é apresentar uma metodologia alternativa que encontre o melhor ponto de corte, de modo que maximize a taxa de acerto do modelo logístico. A metodologia proposta envolverá o uso de algoritmos genéticos para a determinação do ponto de corte ótimo. 2 Materiais e métodos Na regressão logística tem-se como variável resposta uma variável binária, e o como objetivo é determinar uma função em que calcula a probabilidade de que a variável resposta assuma o valor 1. Logo é necessário escolher uma regra de predição. É intuitivo pensar que valores de grande classifica-se como 1 e valores de pequeno classifica-se como 0, No entanto a grande dificuldade é encontrar o ponto para que valores de acima desse ponto seja 1 DEINFO-UFRPE. joseergg@hotmail.com 2 Departamento de Estatística/UFPB. joab_oliveira@yahoo.com.br.

2 classificado como 1 e menores do que ele seja classificado como 0. Esse ponto é conhecido como ponto de corte. Várias técnicas existem na literatura brasileira para a escolha do ponto de corte. Uma delas é a escolha do ponto de corte sendo meio (0.5); outro é escolher este ponto como sendo a probabilidade dentro da sua amostra de ser 1, ou seja, é o número de casos dentro de sua amostra que são 1 s dividido pelo total da amostra, entre outros. Neste trabalho é proposto o uso de um algoritmo genético para otimizar a escolha desse ponto de corte, de modo que venha maximizar a taxa de acerto do modelo logístico. Os conceitos teóricos dessa metodologia são descritos a seguir. 2.1 Algoritmo Genético O Algoritmo Genético começou a ser desenvolvido por John Henry Holland (1975) juntamente com seus alunos da Universidade de Michigan em meados da década de 60, que buscavam desenvolver modelos em sistemas computacionais baseados na teoria de seleção natural proposta por Charles Darwin (FERNEDA, 2009). Segundo Darwim (1858), os seres vivos que mais se adaptavam as novas condições da terra tinham uma maior probabilidade de permanecer na população, já os com menores probabilidades desapareciam da população. Com isso, só os melhores indivíduos sobreviviam e geravam novos indivíduos (filhos) mais aptos às condições encontradas. Este processo de evolução levou centenas de gerações e até hoje vem acontecendo (PACHECO, 1999). Isso é possível, pois se sabe que cada ser vivo é constituído de células e cada uma delas é formada por um conjunto de cromossomos que, por sua vez, são formados por genes que carregam as informações do ser vivo a qual ele pertence. Os genes com maior adaptação são predominantes nos cromossomos, de modo que a geração de um novo indivíduo (filho), com grande chance, trará tais genes na composição desse novo. ser. De forma semelhante, os filhos gerados produzirão, a partir do cruzamento com outros filhos, novos entes, cada vez mais aptos que os seus pais. Esse processo é chamado de crossover, que é justamente a recombinação desses cromossomos (FERNEDA, 2009). Baseado nessa teoria evolucionista, o algoritmo genético se inspirou nessa evolução para achar soluções aproximadas para problemas que envolvessem a otimização de parâmetros. De uma forma geral, os algoritmos genéticos podem ser divididos em 7 (sete) etapas, todas elas levando em consideração a evolução dos seres vivos (PACHECO, 1999).A FIGURA 1 mostra a sequência de execução de um algoritmo genético.

3 FIGURA 1: Sequência de execução de um Algoritmo Genético 3 Resultados e discussões Para essa análise foi utilizado um banco de dados contendo 160 observações com 9 (nove) variáveis explicativas contínuas e uma variável dependente dicotômica. O evento que representa o sucesso da variável resposta para o banco de dados estudado é a presença de artéria alterada (Y=1). A partir de uma análise descrita da variável dependente, sabe-se que 91 pacientes têm as artérias coronarianas alteradas (56,88%), enquanto que 69 pacientes têm artérias normais (43,12%). É essa partição que se denomina partição à priori dos dados e que serve para classificar as probabilidades estimadas de sucesso.além disso, foram consideradas 5 partições, chamadas aqui de cenários, para a definição das Bases de Dados de Treinamento e de Validação: CENÁRIO 1: Dividiu-se a base de dados original na proporção 50% (BT) e 50% (BV); CENÁRIO 2: Dividiu-se a base de dados original na proporção 60% (BT) e 40% (BV); CENÁRIO 3: Dividiu-se a base de dados original na proporção 70% (BT) e 30% (BV); CENÁRIO 4: Dividiu-se a base de dados original na proporção 80% (BT) e 20% (BV); CENÁRIO 5: Dividiu-se a base de dados original na proporção 90% (BT) e 10% (BV); Em todos os cenários, a Base de Dados de Treinamento (BT) foi utilizada para ajustar o modelo de regressão logística, enquanto a Base de Dados de Validação (BV) foi utilizada para encontrar o ponto de corte ótimo, via algoritmo genético, para a classificação do sucesso e fracasso estimados. Além disso, para cada cenário, foi realizada uma simulação de Monte Carlo, com 2000 iterações, para a escolha aleatória das bases BT e BV. Para facilitar o entendimento dos resultados, convencionou-se rotular cada método

4 utilizado para calcular o ponto de corte e sua respectiva taxa de acerto de: Método 1 para o ponto de corte 0,5; Método 2 para o ponto de corte que utiliza a partição à priori dos dados e Método 3 para o ponto de corte gerado através do algoritmo genético proposto. Depois das análises realizadas observou-se que os maiores percentuais médios de acerto foi encontrado pelo método 3, como também os menores desvios padrão e, consequentemente, os menores tamanhos de intervalos de confiança. A tabela abaixo demonstra este resultado como também o gráfico. TABELA 1: Desempenho geral dos percentuais de acerto obtidos pelos três métodos por cenário Cenário Método Percentual de Desvio IC 95% - IC 95% - Tamanho acerto médio Padrão LI LS IC Método 1 57,02 4,53 48,05 65,48 17,43 1 Método 2 55,65 5,01 45,12 64,71 19,59 Método 3 63,65 3,55 56,79 70,73 13,94 Método 1 57,71 4,92 48,33 66,69 18,36 2 Método 2 56,08 5,36 45,32 66,15 20,83 Método 3 64,88 3,94 57,38 72,88 15,50 Método 1 57,92 6,29 45,28 70,00 24,72 3 Método 2 55,63 6,68 41,17 67,86 26,69 Método 3 66,17 4,88 57,45 76,47 19,02 Método 1 57,86 7,80 41,93 72,73 30,80 4 Método 2 55,06 8,80 36,67 70,97 34,30 Método 3 68,19 5,98 57,14 80,00 22,86 Método 1 57,81 12,37 33,33 81,82 48,49 5 Método 2 51,38 14,21 20,00 76,92 56,92 Método 3 73,03 9,07 57,11 92,30 35,19 FIGURA 2: Gráfico da taxa de acerto por método versus o cenário.

5 4 Conclusões Este trabalho propôs o uso de algoritmos genéticos como uma ferramenta alternativa para encontrar o ponto de corte ótimo que maximize a proporção estimada de acerto de classificação do modelo logístico. Os resultados mostraram que os pontos de corte gerados pelo algoritmo genético forneceram taxas de acerto superiores àquelas produzidas por dois outros métodos tradicionalmente utilizados nos softwares estatísticos. Essas comparações foram efetuadas em cinco cenários diferentes, sendo que em todos eles, sem exceção, os resultados produzidos pelo algoritmo genéticos foram expressivamente superiores aos demais métodos avaliados. Verificou-se, ainda que o algoritmo genético classificou corretamente as observações 16,50% a mais em relação ao método da proporção 50%; e 23% a mais ao método que utiliza o ponto de corte baseado na proporção amostral (à priori) de 1 s observada na amostra estudada. Além disso, nas 2000 iterações realizadas para cada cenário, o algoritmo genético só gerou taxas de acertos inferiores aos outros métodos em apenas 0,30% das simulações. Por fim, entende-se que o trabalho proposto atingiu os seus objetivos, e que, apesar da simplicidade do problema de aplicação, foi demonstrada a real capacidade que os algoritmos evolutivos têm de encontrar soluções ótimas para os mais variados problemas de otimização. 1 Bibliografia [1] FERNEDA, E. Applying Genetic Algorithms in Information Retrieval. DataGramaZero Revista da Ciência da Informação, Rio de Janeiro, v. 10, n. 1, 2009 [2] PACHECO, M. A. C. Algoritmos Genéticos: Princípios e Aplicações. ICA: Laboratório de Inteligência Computacional Aplicada. Departamento de Engenharia Elétrica. Pontifícia Universidade Católica do Rio de Janeiro.