Co-evolução quântica (CoEQ) para seleção das entradas de
Propaganda
1 Co-evolução quântica (CoEQ) para seleção das entradas de uma RNA em um problema de previsão meteorológica Pedro F. C. Blois de Assis ([email protected]) Resumo — O sistema atual para previsão meteorológica utiliza complexas equações estatísticas e um histórico de muitos anos para a geração de dados futuros. Isso torna a previsão meteorológica um processo muito caro computacionalmente e extremamente demorado. As redes neurais artificiais (RNA) vêm sendo utilizadas com sucesso em problemas de aprendizado supervisionado de séries temporais, mas a sua topologia e as entradas necessárias para a previsão não são conhecidos a priori, necessitando de vários experimentos para as suas escolhas. Outra desvantagem das RNA, é que o método de treinamento das mesmas é baseado em uma busca local da combinação ótima de pesos, fazendo com que convergências prematuras a ótimos locais ocorram com freqüência. Este trabalho propõe a utilização de co-evolução cooperativa entre algoritmos evolutivos com inspiração quântica assim como outras três metodologias (seleção com inspiração variacional, minimização da diferença entre as energias do espectro de freqüências e método de Lesion) para a seleção das entradas de uma RNA para o problema de previsão meteorológica. Os resultados mostram o potencial dos métodos investigados sendo o CoEQ o mais promissor para o problema. Palavras Chave — Algoritmos genéticos, algoritmos com inspiração quântica, redes neurais artificiais, co-evolução. Abstract – The current system for meteorological forecast uses very complex statistic equations and a too long series to generate future data. Thus, the meteorological forecast becomes a very expensive and too long one. Artificial Neural Networks have been used successfully on supervised learning problems of temporal series. However, its topology and the necessary entry are not known a priori, what creates the need for many experiments in order to make a choice. Another disadvantage of ANN refers to their training method which is based on a local search for an optimal weights combination, making the premature convergences to optimal locations to happen very frequently. This study proposes the use of cooperative co-evolution between evolutive algorithms with Quantico inspirations as well as among other three methodologies (selection with variational inspiration, minimizing the difference among the frequency spectrum energies and the Lesion method) for the ANN entries selection for the meteorological forecast problem. The results show the potential for the investigated methods from which the CoEQ is the most promising. Key words – Genetic Algorithms, algorithms with Quantico inspiration, Artificial Neural Network, co-evolution. I. INTRODUÇÃO V ários aspectos da nossa vida cotidiana são afetados pelo tempo: nosso vestuário, nossas atividades ao ar livre, o preço dos produtos hortifrutigranjeiros. Ocasionalmente, as condições de tempo são extremas e o impacto pode estenderse de uma mera inconveniência a um desastre de grandes custos materiais e perda de vidas humanas. Os meios de transporte (terrestre, marítimo e aéreo) dependem muito do tempo. O tempo e o clima são decisivos também para a agricultura, zootecnia e gerenciamento de recursos hídricos. Em adição a estes aspectos tradicionalmente reconhecidos, tem havido e continuará havendo uma demanda crescente por decisões políticas envolvendo a atmosfera, relacionadas à poluição e seu controle, efeitos de vários produtos químicos sobre a camada de ozônio e outros impactos ambientais. Portanto, há necessidade de crescente conhecimento sobre a atmosfera e seu comportamento [5]. A falha na previsão desse comportamento pode levar a problemas para a sociedade e geral. Prejuízos encontrados na agricultura podem ser atribuídos a planejamentos feitos com base nas previsões climáticas publicadas. O agricultor decide por plantar ou não certo tipo de vegetal baseado nas condições do tempo. Caso essas condições não ocorram, uma safra inteira pode ser perdida, incorrendo em um prejuízo significativo para o agricultor. Esta perda, dependendo do seu tamanho, pode acarretar no aumento de preço dos produtos derivados implicando no aumento do custo de vida do cidadão. No âmbito dos esportes, aqueles que dependem do vento, sofrem com as falhas do serviço de meteorologia, principalmente nas regiões onde o vento forte ocorre poucas vezes por mês. Freqüentes são as previsões de ventos fortes que na verdade não passam de uma brisa, impossibilitando a realização de uma regata ou competição. Não raro também são as vezes em que além de a magnitude do vento, sua direção e sentido também são informados erroneamente. Como alternativa às equações estatísticas, propõe-se a utilização de redes neurais artificiais (RNA) por apresentarem bons resultados em problemas de aprendizado supervisionado de séries temporais [6, 7]. No entanto, a topologia ideal para o problema bem como as entradas necessárias (janela de valores passados) para uma boa estimativa de um dado futuro são informações desconhecidas e que só conseguem ser elucidadas mediante diversos experimentos onde tentativas com diferentes topologias e diferentes conjuntos de entradas são testados até que um desempenho tolerável seja atingido [1]. Este processo pode ser bastante demorado e computacionalmente caro. Por fim, para obter o conjunto ideal de pesos de uma RNA de modo que o erro na previsão seja tolerável, utilizase comumente métodos de busca baseados na variação do erro da saída do sistema. Esse método de busca local pode convergir prematuramente a mínimos locais [8]. Algoritmos evolutivos tradicionais foram propostos para estimar o conjunto de pesos ótimos para uma RNA, mas não apresentaram bons resultados comparados aos métodos tradicionais de treinamento de RNAs devido à necessidade de realizar um número elevado de avaliações da função objetivo [1]. 2 Algoritmos evolutivos com inspiração quântica (AEIQ) foram propostos com sucesso para treinamento de RNA recorrentes por necessitarem de um número menor de indivíduos para a evolução havendo consequentemente um número menor de avaliações da função objetivo [1]. O operador Lesion foi utilizado (em [1]) para remover neurônios excedentes da RNA toda vez que a evolução parava de progredir, apontando assim uma metodologia para otimização da topologia da RNA. Deseja-se descobrir automaticamente quais são os valores passados necessárias à uma RNA para se prever o determinado valor futuro. Por exemplo: para se prever a velocidade do vento daqui a 4 horas são necessários os valores de temperatura, umidade, velocidade e direção do vento de 15 em 15 minutos das últimas 24 horas? Este trabalho mostra 4 técnicas propostas para a seleção das entradas a serem utilizadas em uma RNA para o problema de previsão meteorológica. São elas: Co-evolução entre AEIQs (CoEQ), Lesion, seleção com inspiração variacional e análise da energia do espectro de freqüências. Experiências foram feitas com as técnicas e os resultados mostram que o CoEQ apresenta vantagens sobre as demais técnicas. II. ALGORITMOS EVOLUTIVOS COM INSPIRAÇÃO QUÂNTICA - AEIQ “Esses algoritmos se baseiam em idéias inspiradas na física quântica, em particular no conceito de superposição de estados, apresentando melhor desempenho em diversos tipos de aplicações” [1]. O AEIQ também é caracterizado por um cromossomo, uma função de avaliação e uma dinâmica populacional. Sua principal diferença encontra-se na representação de um gene. Enquanto que nos algoritmos evolutivos tradicionais os genes representam um único estado determinado pelo seu atual valor, no AEIQ, um gene representa uma gama de possíveis estados determinado por uma função de densidade de probabilidade (para o caso de um AEIQ para problemas com representação numérica). Dessa forma um cromossomo representa não só um único indivíduo, mas sim uma superposição de possíveis estados contínuos, determinado pela probabilidade de ocorrência de cada gene. Essa característica confere à técnica a possibilidade de evoluir soluções utilizando menos indivíduos na população, dado que cada um representa na verdade várias possíveis soluções, semelhante ao espaço de crenças dos algoritmos culturais. Desta forma o AEIQ é capaz de evoluir soluções tão boas quanto os algoritmos evolutivos tradicionais com um número significativamente menor de avaliações por geração, tornando-o mais barato computacionalmente. A Figura 1 mostra um pseudo-código de um AEIQ. O algoritmo será explicado adiante. Figura 1: Pseudo-código do algoritmo evolutivo com inspiração quântica usando representação real. População quântica – Q(t): Uma população quântica é formada por N indivíduos quânticos que representam a superposição dos possíveis estados que um indivíduo clássico pode assumir ao ser observado. Cada indivíduo quântico q por sua vez é formado por G genes quânticos que são formados por funções que representam uma densidade de probabilidade Pij (onde i = 1,2,3,...,N e j = 1,2,3,...,G). Desta forma, os indivíduos quânticos podem ser representados por: qi = Pi1 ( x ) Pi 2 ( x ) Pi 3 ( x ) K PiG ( x ) (1) Pij é utilizada pelo AEIQ para gerar valores para os genes dos indivíduos clássicos. Esta função de densidade de probabilidade é representada como mostra a equação (2). Pij ( x ) = ψ ij* ( x )ψ ij ( x ) (2) Onde ψ ij ( x ) representa a função de onda associada ao gene j do indivíduo i da população quântica e ψ ij * ( x ) representa o conjugado complexo desta função de onda. A função de densidade de probabilidade utilizada em [1] é o pulso quadrado, que deve possuir uma área unitária respeitando a propriedade de normalização de uma função de densidade de probabilidade. Com isso cada função (e consequentemente cada gene quântico) pode ser representada por um par de valores µ e σ, valor central e largura do pulso respectivamente. A Figura 2 mostra um exemplo de dois genes quânticos (g11 e g12) formadores do indivíduo quântico q1. Figura 2: Genes de um indivíduo quântico usando pulsos quadrados com função de densidade de probabilidade. Onde q1 pode é representado como mostra a equação (3). A primeira coluna representa g11 e a segunda coluna representa g12. 3 −5 0 q1 = 20 20 (3) Observação dos indivíduos quânticos: No passo 4 do código mostrado na Figura 1, indivíduos clássicos (E(t)) são gerados a partir da população quântica. Essa observação dos indivíduos quânticos é que permite a geração de indivíduos clássicos, ou seja, indivíduos cujos genes são números reais dentro do intervalo válido do domínio. Para executar essa observação, um número aleatório é gerado no intervalo de [0, 1] e em seguida identifica-se o ponto x tal que: −1 ∫ Pij ( x ) dx = r = Vij ( x ) ∴ x = Vij ( r ) Co-evolução quântica – CoEQ: Nesta abordagem, pretende-se utilizar dois algoritmos evolutivos com inspiração quântica co-evoluindo cooperativamente onde uma população representa as possíveis soluções dos pesos das redes neurais (cromossomo de representação por números reais) e a outra população representa as entradas a serem fornecidas à RNA (cromossomo de representação por números inteiros). A representação para a primeira população é mostrada na equação 6. (4) Onde V ( x ) é a função cumulativa de probabilidade do ij valor x ser observado e r é o número aleatório sorteado para a tarefa. Temos, portanto, que x é um valor real gerado através da observação do gene j do indivíduo i. Logo, podese gerar mais de um indivíduo clássico por indivíduos quânticos, bastando para isso gerar um número aleatório r para cada observação do indivíduo quântico. Matematicamente, essa observação é feita como mostra a equação 5. σ xmj = rmjσ ij + µij − ij 2 passados de temperatura, umidade, velocidade e direção do vento são necessários para se prever um determinado valor futuro. (5) q = S11S12 KSij B1KB j S11S12 KS jk B1KBk 424 3 142431 424 314243 1 nout np np×nout np×ni (6) Onde Sij é o peso entre a entrada i e o neurônio j da camada escondida, Bj é o bias do neurônio j da camada escondida, Sjk é o peso entre o neurônio j da camada escondida e o neurônio k da camada de saída e Bk e o bias do neurônio k da camada de saída. Os valores ni, np e nout são respectivamente o número de entradas, o número de neurônios na camada escondida e o número de saídas. Portanto o total de genes de cada indivíduo dessa população será: Onde xmj é o j-ésimo gene do m-ésimo indivíduo clássico que se está gerando, rmj é o número aleatório gerado para o gene do indivíduo que está sendo observado, µ ij e σij são a posição do centro e a largura do pulso quadrado que está sendo usado para observar o gene clássico. numGenes = np ( ni + nout + 1) + nout No passo 8 do pseudo-código mostrado, é feita uma recombinação dos indivíduos clássicos novos e antigos, possibilitando assim uma mistura do material genético atual e passado. No passo seguinte, os indivíduos são então avaliados para que no passo 10 os piores indivíduos da última geração sejam substituídos pelos melhores indivíduos da nova geração. Finalmente no passo 12, a população quântica é então atualizada utilizando-se a seguinte heurística: “se menos de 20% dos indivíduos da população clássica gerada tiverem melhorado de uma geração para a outra, é provável que o algoritmo esteja fazendo uma busca em uma região muito grande e, neste caso, pode ser interessante reduzir o espaço de busca; se mais de 20% dos indivíduos tiverem melhorado de uma geração para a outra, é provável que o algoritmo esteja fazendo a busca em uma região muito pequena (e portanto achando, facilmente, indivíduos com avaliação melhores) e o mesmo deve tentar ampliar a região de busca.” Onde Ti é um número inteiro, não negativo, que representa a posição da temperatura de Ti instantes antes do valor mais recente da janela de tempo em questão. Por exemplo: III. TÉCNICAS DE SELEÇÃO DE ENTRADAS Nesta seção serão apresentadas as técnicas idealizadas para a escolha das entradas da RNA para um problema de previsão meteorológica. Deseja-se descobrir quais os valores (7) Para a segunda população a representação adotada foi: q = [T1KTa U1KUb V1KVc D1KDd ] q = [ 1 2 3 1 2 3 1 2 3 1 3 5] (8) (9) O cromossomo exemplificado na equação 9 mostra que para estimarmos um determinado valor futuro são necessários os três últimos valores de temperatura, umidade e velocidade do vento e o último, o antepenúltimo e o quinto último valor da direção do vento. Portanto, temos que Ui, Vi e Di são respectivamente as posições das grandezas de umidade, velocidade do vento e direção do vento. Os valores a, b, c, e d, representam o número de dados necessários de temperatura, umidade, velocidade e direção do vento, respectivamente, para a previsão. Se durante a evolução o número de pontos de um determinado parâmetro (temperatura, umidade etc.), necessário para a previsão, for menor que o especificado inicialmente, zeros aparecerão no cromossomo dentre as posições indicativas de cada parâmetro. Por exemplo: q = [ 1 2 3 1 2 0 1 2 3 1 3 5] (10) 4 No cromossomo mostrado na equação 10, temos que a evolução mostrou que apenas o último e o penúltimo valores de umidade são necessários para a previsão de um certo valor futuro. O número de genes de um indivíduo dessa população será: numGenes = a + b + c + d camada escondida e f(.) são as funções de ativação dos neurônios da rede. Neste trabalho, a função de ativação utilizada foi a tansig. A equação 13 mostra o cálculo da variação da saída (out) em relativo a variação das entradas (E). Como, neste trabalho, a função de ativação utilizada é a tansig, tem-se que: (11) δ out T T = f ' f ( S1E + B1 ) S2 + B2 f ' ( S1E + B1 ) S2S1 δE ( Lesion: Este operador foi utilizado por [1] para eliminar neurônios da rede neural toda vez que a evolução estagnasse. Ela consiste em remover um neurônio qualquer (remover todos os pesos que estão vinculados ao neurônio escolhido) e verificar se o melhor indivíduo da população terá uma nova avaliação menor que a avaliação antiga mais uma dada tolerância. Caso isso ocorra, esse neurônio não era importante, logo pode ser removido. Da mesma forma, se a evolução da população parar durante um certo número de gerações, a importância das entradas será testada removendo-se a entrada e verificando se a avaliação da nova rede não piora mais do que um determinado nível. Neste caso, a entrada em questão não era importante, sendo, portanto removida da rede. Esta técnica será utilizada durante a evolução do AEIQ na otimização dos pesos da rede neural. Só há, portanto, uma população e a representação dos cromossomos é a mesma da primeira população do CoEQ. Seleção com inspiração variacional: O cálculo variacional visa fundamentalmente investigar os máximos e mínimos de funcionais através da variação das suas variáveis de estado. Inspirado nesse princípio, esta técnica procura encontrar a entrada menos importante (cuja ausência não provoque uma piora significativa na avaliação da rede) através das alterações da saída da rede devido a pequenas variações nas entradas. Ou seja, se perturbarmos uma entrada qualquer e a saída da rede, em média (testandose para todo o conjunto de treinamento), se mantiver dentro de uma faixa de valores toleráveis, então provavelmente aquela entrada não é importante para o sistema. Sabemos que: h2 644474448 T out = f f S1E + B1 S2 + B2 1 4 24 3 h3 14444244443 (12) h1 δ out = ∂out ∂h ∂h ∂h ∂h ∂h δ E = 1 2 δ E = 1 2 3 δ E ∂E ∂h2 ∂E ∂h2 ∂h3 ∂E (13) Onde S1 é a matriz de pesos entre as entradas e os neurônios da camada escondida, B1 são os bias da camada escondida, S2 são os pesos entre a camada escondida e a saída e B2 são os bias da saída. A equação 12 mostra a expressão matemática da saída de uma rede neural artificial com uma ) (14) Onde f’(.) é a derivada da função tansig com relação ao seu argumento. Esta técnica também será utilizada durante a evolução do AEIQ na otimização dos pesos da rede neural. Só há, portanto, uma população e a representação dos cromossomos é a mesma da primeira população do CoEQ. Minimização da diferença entre as energias do espectro de freqüências: Toda forma de onde pode ser decomposta em infinitos senos e co-senos de diferentes freqüências. A ferramenta através da qual essa decomposição é feita, é chamada de transformada de Fourier. O espectro de freqüência é, portanto, o conjunto de freqüências das funções básicas (senos e/ou co-senos) que compõem o sinal original. A energia total do sinal analisado pode ser obtida da seguinte forma [4]: E= 2 1 ∞ X ( jω ) dω ∫ −∞ 2π (15) Onde X(jω) é a transformada de Fourier do sinal analisado. Sabe-se que quanto mais neurônios existirem em uma RNA, maior é o número de parâmetros livres (pesos) da mesma. Quanto mais pesos uma RNA tiver, maior é a sua capacidade de aproximar funções com os mais diversos comportamentos, no entanto um número excessivo de graus de liberdade de uma RNA pode fazer com que a mesma aproxime os valores dos conjuntos de treinamento através de uma forma de onda com freqüências muito acima das necessárias. Uma analogia que se pode fazer para exemplificar esse fenômeno seria a aproximação de uma função linear, representada por três pontos de amostragem apenas, através de um polinômio de terceiro grau. É possível ajustar-se os coeficientes do polinômio de terceiro grau de maneira a obter erro nulo nos pontos amostrados. No entanto, comete-se um erro significativo ao aproximarmos um polinômio de primeiro grau por um de terceiro grau. Uma das maneiras de detectar isso é reparar que a função de terceiro grau possui uma energia maior que a forma de onda aproximada, indicando que a aproximação possui mais graus de liberdade do que o necessário. Desta forma, pode-se estimar que os graus de liberdade ideais de uma RNA são àqueles tais que a diferença entre as energias do espectro de freqüência, do sinal produzido pela 5 RNA e da forma de onda do conjunto de treinamento, é mínima. Para uma RNA com np neurônios na camada escondida, cada entrada possui np pesos associados. Ao retirar-se uma entrada diminui-se os graus de liberdade do sistema, assim como ao colocar-se uma entrada a mais no sistema, aumentase os parâmetros livre da RNA. Com isso, pode-se avaliar a importância de uma entrada através da variação da diferença entre as energias do conjunto de treinamento e da saída da RNA. Se a existência da entrada analisada proporcionar uma menor diferença entre as energias, comparada a sua ausência, então essa entrada é importante para o sistema. Caso contrário, ela pode ser descartada. Esta técnica também será utilizada durante a evolução do AEIQ na otimização dos pesos da rede neural. Só há, portanto, uma população e a representação dos cromossomos é a mesma da primeira população do CoEQ. IV. EXPERIMENTOS REALIZADOS Para testar as técnicas propostas, utilizou-se o código desenvolvido em [1] para algoritmos evolutivos com inspiração quântica com representação por números reais. Adaptações foram feitas na função de avaliação do sistema, dado que em [1] utilizou-se redes neurais recorrentes, enquanto que nesse trabalho optou-se por utilizar redes neurais feedfoward. O operador Lesion para atualização da topologia da rede foi desabilitado de maneira que o desempenho fossem mais diretamente relacionados às técnicas propostas. Para a CoEQ, foi feita mais uma adaptação para que cromossomos com representação inteira pudessem ser utilizados. A topologia da rede utilizada foi a mesma para todos os experimentos e o número de neurônios foi decidido depois de alguns experimentos utilizando o algoritmo AEIQ original de [1]. Os dados meteorológicos utilizados para os experimentos foram informações meteorológicas da cidade de Campinas, SP, de temperatura, umidade, velocidade e direção do vento coletados no período de 28/07/2006 e 22/02/2008 com intervalos de medição de hora em hora, obtidos no site http://www.cnpm.embrapa.br/projetos/estacaometeorologica /bd/. Como alvo da previsão, escolheu-se o valor da velocidade do vento de 4 horas à frente. Os valores coletados entre os dias 15/12/2007 e 22/02/2008 foram utilizados para avaliar o desempenho final da RNA obtida nas evoluções. Todos os algoritmos evolutivos foram executados com a mesma parametrização, a saber: população de indivíduos quânticos: 5; taxa de recombinação do indivíduos quânticos: 0,9; população de indivíduos clássicos: 10; gap da população de indivíduos clássicos: 9; taxa de recombinação de indivíduos clássicos: 0,9; fator de atualização da largura dos indivíduos quânticos: 0,9; → número de gerações para atualização dos indivíduos quânticos: 10; → → → → → → → tolerância para a avaliação do novo conjunto de entradas (quando aplicável): 0,1%; → número de processadores na camada escondida: 20; → número de gerações: 500. Todas as técnicas propostas (com exceção da CoEQ) foram aplicadas depois que a evolução ficasse estagnada por 10 gerações. Para a CoEQ, o cromossomo da espécie que evoluiu as entradas da rede teve um tamanho fixo de 40 genes, sendo que o domínio utilizado para os valores dos genes foi o intervalo entre 0 e 100. A decodificação foi feita assumindose que a=b=c=d=10 (valores utilizados na equação 8), significando que o algoritmo deve achar 10 entradas para os quatro parâmetros meteorológicos (temperatura, umidade etc.) no intervalo de 0 a 100. Para as outras técnicas, a janela inicial para a neuro-evolução foi de todos os valores de até 100 instantes atrás para os quatro parâmetros meteorológicos, totalizando 400 entradas para a rede neural artificial. Com a evolução, as entradas desnecessárias foram sendo retiradas de acordo com as abordagens descritas no trabalho. O cromossomo da espécie que evoluiu os pesos da rede, foram todos iguais com genes observados no domínio de -2 a 2. V. RESULTADOS OBTIDOS A CoEQ se mostrou mais lenta que as demais técnicas devido ao fato de estar evoluindo duas populações ao mesmo tempo. Além disso, nas demais técnicas, apenas os novos indivíduos (gap indivíduos) de cada geração eram avaliados, diminuindo ainda mais o tempo computacional. Sob este mesmo aspecto, na CoEQ, como a cada geração o melhor indivíduo da outra espécie era diferente (na maioria da vezes), toda a população tinha que ser reavaliada, pois as condições em que as avaliações na geração anterior foram feitas mudaram. A Figura 3 mostra a curva de desempenho da CoEQ. Figura 3: Curva de desempenho da CoEQ. Pode-se ver que o desempenho da CoEQ alcança uma avaliação de aproximadamente 2500 na 50ª geração e um valor mínimo abaixo de 2000. Esses resultados se mostraram melhores que os das outras técnicas abordadas. A Figura 4 mostra o resultado final da RNA com os pesos e entradas evoluídos pela CoEQ. Apesar dos bons resultados 6 no desempenho durante a evolução (comparando-se às outras técnicas), a RNA final não foi capaz de prever satisfatoriamente os valores de velocidade do vento de 4 horas à frente. A Figura 7 mostra a curva de desempenho obtida pela evolução dos pesos da rede neural com eventuais remoções de entradas através do operador com inspiração no cálculo variacional. Pode-se ver que o sistema atinge uma avaliação de 2500 próximo a 150ª geração e seu valor final também foi acima de 2000. A Figura 8 mostra o resultado final da RNA evoluída com o AEIQ com o operador com inspiração no cálculo variacional aplicado às entradas da rede. Figura 4: Resultado final da previsão feita pela RNA evoluída pela CoEQ. A Figura 5 mostra a curva de desempenho obtida pela evolução dos pesos da rede neural com eventuais remoções de entradas através do operador Lesion. Pode-se ver que o sistema atinge uma avaliação de 2500 depois da 100ª geração e seu valor final foi acima de 2000. Figura 7: Curva de desempenho do AEIQ com o operador inspirado no cálculo variacional executado nas entradas da RNA. Figura 5: Curva de desempenho do AEIQ com o operador Lesion executado nas entradas da RNA. A Figura 6 mostra o resultado final da RNA evoluída com o AEIQ com o operador Lesion aplicado às entradas da rede. Figura 8: Resultado final da previsão feita pela RNA evoluída pelo AEIQ com o operador com inspiração no cálculo variacional. A Figura 9 mostra a curva de desempenho obtida pela evolução dos pesos da rede neural com eventuais remoções de entradas através do operador que minimiza a diferença entre as energias dos espectros de freqüência. Pode-se ver que o sistema também atinge uma avaliação de 2500 depois da 150ª geração e seu valor final também foi acima de 2000. Figura 6: Resultado final da previsão feita pela RNA evoluída pelo AEIQ com o operador Lesion. 7 apresenta a possibilidade de ordenação dos candidatos a remoção de acordo com o efeito da sua variação produzido na saída do sistema, sem a necessidade de se avaliar o sistema. Essa vantagem direciona a busca por candidatos a remoção agilizando a evolução. VI. CONCLUSÕES Figura 9: Curva de desempenho do AEIQ com o operador que minimiza a diferença entre as energias dos espectros de freqüência executado nas entradas da RNA. A Figura 10 mostra o resultado final da RNA evoluída com o AEIQ com o operador que minimiza a diferença entre as energias dos espectros de freqüência aplicado às entradas da rede. Foram propostas quatro técnicas de seleção de entradas de uma rede neural artificial para problemas de previsão meteorológica. As técnicas propostas foram: co-evolução cooperativa entre algoritmos evolutivos com inspiração quântica – CoEQ (uma espécie evoluindo as entradas e a outra espécie evoluindo os pesos da RNA); operador de seleção com inspiração no cálculo variacional; operador Lesion e o operador de seleção que minimiza a diferença entre a energia do espectro de freqüências da saída produzida pela RNA e a energia do conjunto de treinamento. A CoEQ mostrou ter um desempenho melhor que os demais por atingir uma menor avaliação ao final da evolução. No entanto, todos os experimentos mostraram um resultado final ruim (saída da rede neural comparada com o conjunto de treinamento). VII. TRABALHOS FUTUROS Como a CoEQ se mostrou mais eficiente na otimização das entradas, propõe-se utilizar a seleção inspirada no cálculo variacional aliada a minimização da diferença entre as energias dos espectros de freqüências da saída do sistema e do conjunto de treinamento para a otimização da topologia da RNA. Primeiramente seria verificado, através da minimização da diferença das energias o número de neurônios aproximado para a tarefa a ser executada. Em seguida, durante a co-evolução, neurônios da camada escondida seriam removidos de acordo com a sua importância no sistema através do cálculo variacional. Figura 10: Resultado final da previsão feita pela RNA evoluída pelo AEIQ com o operador que minimiza a diferença entre as energias dos espectros de freqüência. Como a atualização das entradas nas técnicas propostas (com exceção da CoEQ) é feita apenas quando a evolução está estagnada por 10 gerações, conforme proposto em [1], poucas entradas são removidas durante a evolução. Nesse trabalho, o número máximo de gerações admitido foi de 500, significando que no pior dos casos, 50 entradas podem ser removidas, o que representa 1/8 das entradas iniciais. Pelas Figuras 6, 8 e 10, pode-se perceber que a energia do espectro de freqüências do sinal de saída das RNAs resultantes é maior que a do conjunto de treinamento (pois a saída das RNAs oscilam mais e com maior amplitude). Isso indica, que as RNAs resultantes possuem mais graus de liberdade que o necessário e que a remoção das entradas está se dando de forma insuficiente. Os operadores Lesion e seleção com inspiração no cálculo variacional se mostraram equivalentes em termos de desempenho na evolução. No entanto, o Lesion necessita fazer uma avaliação para cada entrada candidata a remoção, até que se encontre alguma que satisfaça as condições de exclusão. Já a seleção por inspiração no cálculo variacional REFERÊNCIAS [1]. Abs da Cruz, André V., Algoritmos Evolutivos com Inspiração Quântica para Problemas com Representação Real. Tese de doutorado, Pontifícia Universidade Católica do Rio de Janeiro, 2007; [2]. Michalewics, Z., “Genetic Algorithms + Data Structures = Evolution Programs”, Springer-Verlag New York, NY, USA, 1999; [3]. Haykin, S., “Redes Neurais: Princípios e Prática”, Prentice Hall, 2ª ed., 2001; [4]. Oppenheim, A. V., Willsky, A. S., “Signals & Sistems”, Prentice Hall, 2ª ed, 1997; [5]. Quadro, M., “Estrutura da Meteorologia – MEF01”, Apostila do Curso Técnico de Meteorologia, Centro Federal de Educação Tecnológica de Santa Catarina, 2004; [6]. Karla Figueiredo, Carlos R. Hall Barbosa, André V. A. da Cruz, Marley M.B.R. Vellasco, Marco Aurélio C. Pacheco, Roxana J. Contreras, Mônica Barros, Reinaldo Castro Souza, Valdo da Siva Marques, Ulmar Manoel Duarte, Marcos Huber Mendes, MODELO DE PREVISÃO DE VAZÃO COM INFORMAÇÃO DE PRECIPITAÇÃO UTILIZANDO REDES NEURAIS, aceito para publicação na Revista Brasileira de Recursos Hídricos; [7]. Marley Maria B.R. Vellasco, Marco Aurélio C. Pacheco, Luiz Sabino Ribeiro Neto, Flávio Joquim de Souza, "Electric Load Forecasting: Evaluating the Novel Hierarchical Neuro-Fuzzy BSP Model", International Journal of Electrical Power & Energy Systems, (ISSN 8 0142-0615), Vol. 26, No. 2, pp. 131-142, Elsevier Science Ltd, Fevereiro 2004; [8]. Yao, X.. Evolving artificial neural networks. In: PROCEEDINGS OF THE IEEE, volumen 87, p. 1423–1447, 1999. 1.1.
