Arquitetura de SMA

Pontifícia Universidade Católica do Paraná
CURSO DE PÓS GRADUAÇÃO EM INFORMÁTICA APLICADA – PPGIA
DISCIPLINA DE FUNDAMENTOS DE SOFTWARE
Arquitetura de Sistemas Multiagentes
Artigos:
A Roadmap of Agent Research and Development
Katia Sycara
Michael J. Wooldridge
Nicholas R. Jennings
Agent Theories, Architectures, and Languages: A Survey
Michael J. Wooldridge
Nicholas R. Jennings
Organização de Sistemas Multiagentes
Jomi Fred Hübner
Jaime Simão Sichman
Aluno:
Joel Carlos Vieira Reinhardt
Prof:
Alcides Calsavara
Edson Scalabrin
1. Introdução
Agentes autônomos e sistemas multiagentes representam um novo caminho
para análise, projeto e implementação de complexos sistemas de software. Agentes
têm sido usados em uma crescente variedade de aplicações desde sistemas
comparativamente pequenos, como os filtros pessoais de e-mail, até sistemas
complexos e críticos como no controle de tráfego aéreo.
Um agente é um sistema computacional situado em algum ambiente capaz de
realizar ações autônomas e flexíveis para atingir os seus objetivos de projeto, como
define Jennings, N. R.;Wooldridge M. A.,(1995 ). Verificamos três palavras chaves
nesta definição: situado, autônomo e flexível.
Neste contexto,estar situado em um ambiente significa que o agente recebe
sinais de sensores em seu ambiente e pode produzir ações que modificam o seu
ambiente de alguma forma.
Automonia pode ser definido de forma simples como a habilidade de realizar
ações sem a intervensão de humanos ou de outros agentes, e possuir controle
sobre suas próprias ações e estados internos.Autonomia também pode ser definida
como a capacidade de aprender com a experiência.
Ser Flexível significa que o sistema é:
2
-
-
reativo : os agentes percebem seu ambiente e respondem prontamente as
modificações que ocorrem nele.
pró-ativo: os agentes não somente respondem ao meio mas possuem a
habilidade de exibir um comportamento oportunista direcionado ao objetivo e
tomar iniciativa quando apropriado.
sociavel: os agentes devem ser capazes de interagir, quando apropriado, com
outros agentes artificiais ou com humanos para resolver problemas ou ajudar em
suas atividades.
Sistemas multiagentes são melhor aplicados para representar problemas que
possuem múltiplos métodos de resolução, múltiplas perspectivas e/ou múltiplas
entidades resolvendo o problema. Estes sistemas possuem as vantagens
tradicionais de resolução concorrente e distribuída de problemas com a vantagem
adicional de sofisticados padrões de interações.
Exemplos comuns de tipos de interações incluem a cooperação (trabalho em
conjunto para atingir um objetivo comum); a coordenação (organização da atividade
de resolução do problema de forma a evitar interações que possuem baixa
contribuição e explorar as interações mais benéficas) e a negociação (chegando a
um acordo aceito por todas as partes envolvidas). A flexibilidade e alto-nível da
natureza destas interações distínguem os sistemas multiagentes de outras formas
de software.
2. Agentes
Pesquisadores de diferentes áreas contribuíram para o surgimento desta
tecnologia. As principais contribuições foram a inteligênica artificial , a programação
orientada a objeto os sistemas baseados em objetos concorrentes e o
desenvolvimento das interfaces homem máquina.
A inteligênica artificial proporcionou a maior contribuição para a área de agentes
autônomos. Atualmente são considerados agentes todos os dispositivos com
inteligência artificial que percebem e agem sobre algum ambiente. Historicamente a
inteligência artificial se afastou dos agentes e se focou em desenvolvimentos de
componentes do comportamento inteligente (aprender, raciocinar, resolver
problemas, visualizar entendimento e assim por diante). Pesquisas em
planejamanto de inteligência artificial, concentrada em conhecer que ação realizar
em que momento, foi o campo que mais se aproximou dos agentes criando
sistemas de padrões de planejamento. Um padrão típico de planejamento é
composto por um modelo simbólico do ambiente, uma especificação simbólica de
ação que podem ser realizadas e um algoritimo de planejamento que usa as
representações do ambiente, o conjunto de ações especificadas e a representação
de um objetivo para definir um planejamento de como o agente deve agir para
atingir seu objetivo. Porém outras linhas de pesquisas, como a realizada por Brooks(
), enfatizam que o comportamento inteligente emerge das interações de diversas
entidades com comportamentos elementares orientados por simples regras de
situação - ação. Atualmente a mais tradicional arquitetura de agente são os agentes
racioncínio prático, cuja a arquitetura é inspirada na teoria do raciocínio prático em
humanos, composta dos raciocínios que usamos para decidir o que fazer.
A teoria do raciocínio prático faz uso da psicologia popular, onde o
comportamento é entendido através da atribuição de atitudes como crenças,
3
intensões, desejos e assim por diante. A mais influente arquitetura modelada no
raciocínio prático é o modelo belief-desire-intention (BDI). Outra forma de arquitetura
próxima foi proposta por Shoham (1993) através da programação orientada ao
agente, na qual os agentes são explicitamente programados em termos de notações
de estados mentais como crenças e desejos.
A programação orientada ao objeto também contribuiu à construção de agentes.
Objetos podem ser definidos como entidades computacionais que encapsulam
algum estado, são habilitados a realizar ações, ou métodos sobre este estado e
comunicar através de mensagem. A diferença entre agentes e objetos existe quanto
a decisão de realizar uma ação. Enquanto nos objetos a tomada de decisão reside
em um método, no caso dos agentes ela é colocada sobre o agente que é
requisitado para tomar esta decisão.
A diferença pode ser resumida pela seguinte frase: Objetos realizam ações de
graça, agentes fazem por dinheiro.
Os agentes podem ser identificados pelo seu comportamento autônomo flexível
(pró-atividade, reatibilidade, sociabilidade), e o controle das ações e estados, que
enquanto em objetos é colocado sobre uma entidade de controle nos agentes cada
um controla o seu próprio estado, apesar de trabalhos recentes terem sido
desenvolvidos em programação concorrente em orientação à objetos.
O comportamento apresentado pelos agentes normalmente é explicado
seguindo dois grandes modelos de funcionamento interno:
Agentes Reativos: São agentes que escolhem suas ações baseados unicamente
nas percepções que têm do ambiente. Este tipo de agentes possuem as seguintes
propriedades:
 Somente possui a representação do conhecimento implícita no código
 Não tem representação do ambiente
 Não possui memória, não tem o histórico dos fatos que ocorreram nem das
ações que executou.
 Não possui um planejamento de suas ações ( controle deliberativo)
 Em geral formam organizações do tipo etnológico e as sociedades são formadas
por muitos agentes
 Nestas sociedades o interesse está voltado para a emergência de um
comportamento global a partir da interação de um grupo grande de agentes ( ex.
Colônia de Formigas)
Agentes Cognitivos: São agentes que possuem a capacidade de construir um
plano de ações que leva a um objetivo pretendido. Ou seja, funcionam
racionalmente. As mais importantes características particulares são:
 Os agentes possuem autonomia funcional, podendo alterar o seu funcionamento
para se adaptar da melhor forma ao seu ambiente.
 Os agentes estão continuamente em funcionamento, não dependendo do meio
ambiente para a realização de ações.
 São sociáveis, possuem capacidade de comunicação e de modelagem dos
demais agentes
 Possuem representação do conhecimento explícita no código ( conhecimento
introspectivo)
4



O agente raciocina sobre que ações realizar
Possuem o histórico dos fatos e ações passadas
As sociedades geralmente são formadas por poucos agentes.
3. Arquiteturas de Agentes
Diversos arquiteturas foram desenvolvidos para construir agentes. Estas
arquiteturas se dividem em duas principais famílias: Deliberativas e Reativas.
3.1 Arquiteturas Deliberativas
A base da Inteligência Artificial Simbólica é a hipótese do sistema físicosimbólico. Um sistema físico-simbólico é definido como um conjunto de entidades
físicas(símbolos) que podem ser combinados em estruturas que são capazes de
executar processos que opera sobre estes símbolos de acordo com um conjunto
simbolicamente codificado de instruções. A hipótese do sistema físico-simbólico
prevê que tais sistemas são capazes de realizar ações inteligentes de forma
generalizada.
Um agente deliberativo contém uma representação explícita de um modelo
simbólico do ambiente no qual decisões (com qual ação realizar) são tomadas via
raciocínio lógico ( ou ao menos pseudo-lógico).
Agentes Planejadores
Planejamento é essencial à programação automática: o projeto detalhado do
curso de ações, quando executar e quais resultados serão atingidos para algum
objetivo desejado. A arquitetura de Agentes Planejadores baseada no Inteligência
Artificial de Planejamento do Comportamento.
Bratman, Israel & Pollack— IRMA
Alguns pesquisadores tem desenvolvido arquiteturas de agentes baseadas em
atitudes. Um exemplo é a Intelligent Resource-bounded Machine Architecture
(IRMA) descrita por M. E. Bratman, D. J. Israel, and M. E. Pollack. Esta arquitetura
possui quadro chaves simbólicas de estrutura de dados: uma biblioteca de planos e
uma explícita representação de crenças, desejos e intensões.
Adicionalmente a arquitetura possui um raciocinador, para raciocinar sobre o
ambiente, um analisador de significados finais, para determinar qual plano deve
ser usado para atingir a intensão do agente, um analisador de oportunidades, que
monitora o ambiente para determinar possíveis opções para o agente, e um filtro de
processo e um deliberador de processo.
Vere & Bickmore — Homer
Vere e Bickmore argumentam a construção de agentes com habilidades
linguísticas, capacidade de planejamento e ação. Um agente chamado de Homer
opera como um submergível virtual seguindo orientação de 800 palavras em inglês.
5
3.2 Arquiteturas Reativas
Ainda existem muitos problemas não resolvidos em Inteligência Artificial
Simbólica. Estes problemas levaram alguns pesquisadores a questionar este
paradigma e desenvolver as arquiteturas reativas.
As Arquiteturas Reativas podem ser definidas como aquelas que não incluem
qualquer modelo simbólico do ambiente de forma centralizada e não realizam
raciocínios simbólicos complexos.
Brooks — Linguagem Comportamental
Provavelmente a maior crítica à Inteligência Artificial Simbólica foi realizada por
Rodney Brooks, um pesquisador do MIT. Em 1995 ele criou a arquitetura de
subordinação que é uma hierarquia de comportamentos tarefas-ação.
Segundo Brooks o comportamento inteligente pode ser gerado sem a explícita
representação de Inteligência Artificial Simbólica, sem um explícito raciocínio
abstrato. O comportamento inteligente é uma propriedade que emerge em
certos sistemas complexos,nas interações entre os diversos agentes.
Agre & Chapman — Pengi
Chapman e Agre observaram que as atividades diárias se realizam de forma
rotineira e necessitam de poucos raciocínios abstratos. A maior parte das ações,
uma vez aprendidas, podem ser cumpridas de forma rotineira com pequenas
variações. Uma arquitetura proposta utiliza a idéia de argumentos executáveis, onde
a maior parte das decisões são rotineiras e podem ser codificadas em uma
estrutura de baixo nível, como um circuito digital, necessitando apenas de pequenas
manutenções periódicas para executar novos tipos de problemas.
Rosenschein & Kaelbling — Autômato Situacional
Outra abordagem sofisticada foi dada por Rosenschein and Kaelbling, na qual
um agente é especificado em termos da lógica do conhecimento, construtindo o
paradigma do autômato situacional.
Connah & Wavish — ABLE
Um grupo de pesquisadores noPhilips research labs na Inglaterra
desenvolveram a Agent Behaviour Language,(ABLE), na qual agentes são
programados em termos de simples regras como licensas, e estas licensas incluem
representações temporais e de qual ação é permitida.
6
3.3
Arquiteturas Híbridas
Muitos pesquisadores argumentam que nem as arquiteturas deliberativas, nem
as reativas são capazes de preencher todas as lacunas na construção de agentes.
Para isto foram criadas arquiteturas híbridas.
Georgeff & Lansky — PRS
Uma das mais conhecidas arquiteturas híbridas é a Procedural Reasoning
System (PRS), desenvolvida por Georgeff and Lansky [54]. A PRS é uma
arquitetura BDI (belief-desire-intention), que inclui uma biblioteca de planos, e uma
representação simbólica de crenças, desejos e intenções.
Ferguson — TouringMachines
Em 1992, Ferguson desenvolveu a arquitetura híbrida chamada de
TouringMachines, que consiste em subsistemas de percepção e ação com interface
direta com o ambiente, formando três camadas de controle contidas em uma
estrutura de controle. Cada camada é independente, ativa e concorrente.
A camada reativa produz caminhos potenciais de ações em resposta a eventos
que são muito rápidos para as demais camadas trabalharem, implementando um
conjunto de regras situação-ação.
A camada de planejamento contrói planos e seleciona ações para serem
realizadas para atingir os objetivos do agente. Esta camada consiste em dois
componentes: um planejador e um mecanismo de focalização de atenção.
A camada de modelamento contém uma representação simbólica do estado
cognitivo de outras entidades no ambiente. Estes modelos são construídos para
resolver conflitos de objetivos.
As três camadas são capazes de se comunicar umas com a outras e estão
embarcadas em uma mesma estrutura. Os conflitos entre as três camadas são
resolvidos usando regras de controle.
7
4 Sistemas Multiagentes
A área de sistemas multiagentes estuda o comportamento de um grupo
organizado de agentes autônomos que cooperam na resolução de problemas que
estão além das capacidades de resolução de cada um individualmente.
Duas propriedades são fundamentais para um SMA: a autonomia dos
agentes e sua organização.
Para funcionar um agente não precisa de outros agentes, mesmo que para
alcançar seus objetivos ele eventualmente precisará da ajuda de outros. Por outro
lado a organização estabelece restrições aos comportamentos dos agentes
procurando estabelecer um comportamento grupal coeso. Muitas das propriedades
desejadas em um SMA advém do equilíbrio destas duas forças: individualidade e
coletividade.
A metolodogia de desenvolvimento de um SMA utilizando modelos genéricos
de agentes, interações e organizações que possam ser modificados dinamicamente
de acordo com o problema, objetivos ou meio ambiente segue uma abordagem que
apresenta as seguintes características:




Os agentes são concebidos independentes de um problema em particular
A interação entre os agentes não é projetada anteriormente, sendo definidos
protocolos para situações genéricas.
A decomposição de tarefas pode ser realizada pelos próprios agentes
Não existe controle centralizado da resolução do problema.
Através desta abordagem temos algumas vantagens como:




Viabilização de um sistema adaptativo e evolutivo
Utilização de uma metáfora natural para resolução de sistemas complexos e
distribuídos
Possibilidade de utilizar ambientes e agentes heterogênios e distribuídos
Permite a concepção de sistemas abertos, aonde os agentes podem entrar e sair
das sociedades.
8
5 Arquitetura de Sistemas Multiagentes
Quatros aspectos devem ser considerados em sistemas multiagentes: os
agentes, a interação entre eles, o ambiente e sua organização. São raros os
sistemas aonde existem uma descrição explícita da organização que possa ser lida
pelos próprios agentes, servindo de fonte nos seus processos deliberativos.
Os sistemas multiagentes são diretamente influenciados pela sociologia, tendo
como objeto de estudo a coletividade e não o estudo de um único indivíduo. Desta
forma deixam de ter atenção iniciativas de compreender e simular o comportamento
humano isoladamente, seja mental ( Inteligência Artificial simbolista) ou neural (
Inteligência Artificial conexionista), passando o foco de atenção para a forma de
interação entre as entidades que formam o sistema ( chamados de agentes) e sua
organização.
O propósito principal que uma organização tem nos sistemas é fazer que sua
finalidade seja facilmente mantida.
Lemaître e Excelente (1998) propõem dois pontos de vista para compreender o
que é uma organização de um grupo de agentes: a centrada no agente e a centrada
na organização.
Na abordagem centrada no agente, o SMA não possui uma representação
explícita de sua organização. Tal representação está distribuída nos seus agentes e
um observador externo ou um agente pode apenas inferir uma descrição subjetiva
da organização. Esta descrição é chamada de organização observada. (ex. Torcida
de Futebol )
Na abordagem centrada na organização a organização existe objetivamente, e
o observador ou um agente pode obter informação formal de como o sistema está
organizado. Esta descrição é chamada de sociedade institucionalizada. (ex. Time
de Futebol )
Do ponto de vista dos agentes podemos observar duas situações: os agentes
possuem a capacidade de representar explicitamente uma organização ou os
agentes não são capazes de realizar isto.
Extendendo a classificação de organizações temos:




Tipo AR – Agentes não representam e não raciocinam sobre a organização
observada. Os agentes são incapazes de gerar uma representação interna de
sua organização. Ex. Formigueiro
Tipo AC – O agentes representam e raciocinam sobre a organização observada,
ou seja, possuem a capacidade de representar internamente a sua organização.
Ex. Hierarquia Militar
Tipo OR – Os agentes não são capazes de representar internamente a sua
organização de modo explícito, apesar da sociedade possuir uma descrição de
sua organização. Este tipo de organização estabelece uma restrição forte sobre
os agentes, já que este não tem permissão de agir de forma diferenciada ao
comportamento estabelecido pela organização. Ex. Rede de espionagem
Tipo OC – Os agentes têm capacidade de representar internamente a
organização institucionalizada, possuem seu comportamente parcialmente
determinado pela organização, percebem como a organização interfere
internamente no seu comportamento e no comportamento dos demais agentes
do sistema. Os agentes são capazes também de utilizar estas informações para
9
melhorar o seu funcionamento. O tipo de restrição imposta por este tipo de
organização é chamada de restrição fraca pois os agentes por conhecerem a
organização institucionalizada podem fugir do comportamento que a organização
estabelece para promover os objetivos. Ex. Time de Futebol (obs: o goleiro pode
sair de sua posição e marcar gol)
Devemos também levar em consideração as características de autonomia dos
agentes dentro das organizações, sendo chamada autonomia organizacional a
capacidade do agente de agir de forma diferente ao estabelecido pela organização.
Para organizações do tipo OC, a autonomia é uma possibilidade. Para
organizações do tipo OR não existem autonomia organizacional, já que os agentes
são inteiramente dependentes do comportamento estabelecido pela organização. Já
nas organizações centradas no agente não pode ser definida autonomia
organizacional, já que não existem restrições organizacionais.
Definições Centradas nos Agentes.
Os SMA formados por agentes reativos são o primeiro tipo de sistema aonde
podemos perceber claramente a situação aonde a organização do sistema não
existe explicitamente, mas pode ser percebida através do comportamento do
sistema. Mesmo em sistemas SMA formados por agentes cognitivos podemos
adotar a estratégia aonde a organização existe apenas nos agentes (tipo AC). A
organização, neste caso, consiste em um consjunto de papéis, chamados de
estrutura organizacional. Cada papel, por sua vez, é determinado pelas Informações
que devem ser utilizadas, as Permissões que o agente recebe e as
Responsabilidades atribuídas ao papel.
Em conseqüência da estrutura organizacional o agente será restringido pelo
seu papel, porém com menor área de atuação e informações mais focadas terá
maior eficiência na tomada de decisões. Note que a estrutura organizacional está
distribuída apenas na memória dos agentes e somente existe nestas memórias.
Definições Centradas na Organizações
Os SMA centrados nas organizações são mais adequados em vários tipos de
ambientes, sendo particularmente úteis em processos de reorganização. Algumas
propriedades se destacam como:



A organização existe por mais tempo que o agente, sendo o conhecimento e
memória preservados.
A descrição formal da organização facilita o raciocínio sobre tal organização,
promovendo a tomada de decisão no SMA.
Com a separação conceitual entre a arquitetura interna dos agentes e a
organização do SMA, pode-se raciocinar sobre a organização sem considerar a
estrutura do fucionamento do agente.
10
Modelos Organizacionais
A descrição explícita da organização de um SMA, necessária para a estratégia
centrada na organização, é feita segundo um modelo organizacional que determina
o que constitui a organização. A tabela abaixo compara os modelos mais clássicos:
Modelo
Elemento
Central
Centrado no Agente
MANTA
Agentes
(Drogoul et (Reativos)
Estrutura
Organizacional
Papel
Emergente
Não Existe
Funcionamento da
Sociedade
Determinado
pela
implementação
dos
al.)
agentes
SMA
Papéis
Formada por um Os
papéis
são Determinado
Cognitivo (Agentes
conjunto
de restrições ao estado indiretamente
pelas
(Werner)
Cognitivos) Papéis
mental do Agente
restrições aos estados
mentais dos agentes.
Centrado na Organização
AALAADIN
Papéis
É um conjunto de Os
papéis
são O funcionamento da
(Ferber
e
grupos
que funções sociais
sociedade é definido
Gultknecht)
desempenham
internamente
nos
determinado
agentes
papel
TAEMS
Tarefas
A estrutura é O papel é uma O funcionamento é
(Decker)
definida
pelas restrição sobre a definido pelas tarefas
tarefas
e
as visão que o agente (E a Visão subjetiva
relações entre elas tem das tarefas
dos agentes)
Mistas
MOISE
Papéis,
Formada
por O papel é um O funcionamento é
(Hannoun et Metas,
divisões
entre conjunto
de determinado por metas
al.)
Obrigações papéis, metas e especificações
que globais que induzem a
obrigações
que um agente aceita para formação de grupos.
formam grupos entrar em um grupo e
sociais voltado a realizar uma tarefa ou
um objetivo.
receber
uma
obrigação.
TOVE
Papéis
Formada
por Papel é um conjunto O funcionamento é
(Fox et al.)
divisões e sub- de metas, processos, determinado por metas
divisões, agentes, autoridades,
sociais
e
pelos
papéis e metas habilidades, recursos. processos associados
sociais
Os
papéis
são aos papéis.
relacionados
hierarquicamente.
Neste resumo é possível ter contato com as principais estratégias de
organização de um SMA. Partindo desde a mais elementar organização, baseada
11
no próprio agente, até a organização mais flexível e complexa como a baseada nas
relação entre as tarefas, papéis e normas sociais.
6. Conclusão
A organização de sistemas multiagentes é um novo desafio para promover a interação
com outros sistemas, satisfazer as necessidades dos ambientes onde são implantados e
promover o conhecimento de como cada agente é individualmente afetado em seu trabalho
dentro das necessidades de aplicações de grande escala, como citam Odell, J.; Parunak,
H.; Fleischer, M. (2003, p.1).
Corkill, D.; Lander, S. E. (1998) comentam que o projeto da organização de sistemas
multiagentes de grande escala é um aspecto que deve ser considerado em dois níveis: na
estrutura organizacional e no comportamento e estrutura individual de cada agente. Com a
melhoria da competência individual de cada agente, a estrutura organizacional, e sua
implementação, tornou-se fundamental para o sucesso de desenvolvimento dos sistemas
multiagentes.
Como cita Corkill, D.; Sims, M.; Lesser, V. (2004, p.1, p.7), deve-se promover pesquisas
e a reavaliação de processos para explorar de forma mais efetiva o conhecimento sobre as
organizações e continuar a acrescentar conhecimentos sobre técni-cas de coordenação dos
agentes, bem como a especificação dos papéis de coordenação. A habilidade em criar e
manter efetivas organizações multiagentes é a chave para o desenvolvimento de sistemas
de grande escala com grande diversidade de ambientes. A determinação de como a
organização é controlada, os objetivos de longo prazo, os papéis executados pelos diversos
agentes, o desenvolvimento e manutenção da organização são fatores que propiciam o
detalhamento operacional e controle das decisões individuais de cada agente. Com estas
linhas de referência organizacionais é possível reduzir a complexidade de cada agente em
tomar decisões, reduzir o custo de alocação de recursos e coordenação do sistema, limitar
o comportamento indesejado dos agentes e reduzir a necessidade de comunicação no
sistema multiagentes.
7. Referências Bibliográficas
R. A. Brooks. Intelligence without reason. Proceedings of the Twelfth International
Joint Conference on Artificial Intelligence (IJCAI-91), Sydney, Australia, 1991, pp.
569–595.
Corkill, Daniel D.; Lander, Susan E, 1998. Diversity in Agent Organizations.
Object Magazine, maio 1998. p.41-47.
Corkill, Daniel; Sims, Mark; Lesser, Victor. Separating Domain and Coordination
in Multi-agent Organizational Design and Instantiation. University of
Massachusetts, Amherst, USA, 2004, p.1, p.7
Fernandes, Alessandro Votto. Inteligência Artificial Distribuída. Universidade
Católica de Pelotas,
Pelotas, 2003.
Disponível em: < http://
ww.teses.usp.br/teses/ disponiveis/ 18/18137/tde-06032002-131951/>. Acesso
em: 27.07.2004.
Horling,Bryan; Lesser, Victor, 2001. A Survey of Multi-Agent Organizational
Paradigms. Multi-Agent Systems Lab, Departament of Computer Science,
University of Massachusetts, Amherst, USA, 2001
12
Jacques Ferber. Les systèmes multi-agents: Vers une intelligence collective,
Inter Editions, Paris,1995
Jennings, N. R.; Sycara K. ;Wooldridge M. A., 1998. Roadmap of Agent Research
and Development. Journal of Autonomous Agents and Multi-Agent Systems,
Kluwer Academic Publishers, 1998,vol. 1, no1, p. 7-18.
Jennings, N. R.; Wooldridge M. A., 1995. Intelligent agents: Theory and practice.
The Knowledge Engineering Review, vol 10, no2,p.115-152.
Y. Shoham. Agent-oriented programming. Artificial Intelligence, vol. 60(1) pp. 51–
92, 1993.
Odell, James; Parunak, H. Van Dyke; Fleischer, Mitchell, 2003. The Role of Roles
in Designing Effective Agent Organizations. James Odell Associates, Ann
Arbor, Michigan, USA, 2003, p.1. Disponível em: < http:// www.jamesodell.com
>. Acesso em: 08.08.2004.
Alvares, L.O. e Sichman, J. S. Introdução aos Sistemas Multiagentes. In
Medeiros, C. M. B., editor, Jornada de Atualização em Informática (JAI´97), cap.
1, pag. 1-38. UnB, Brasília, 1997
Lemaître, C.; Excelente, C. B. Multi-agent organizational approach. In Garijo, F. J.
; Lamaître, C. editors, Proceedings of II Iberoamerican Workshop on DAI and
MAS, 1998
Hübner, J. F. Migração de agentes em sistemas multiagentes abertos.
Dissertação de mestrado, CPGCC da UFRGS, Porto Alegre.1995. Disponível em
http:/www.inf.furb.br/~jomi/pubs/dissertacao/dissertacao.pdf
Pattison, H. E.; Corkill, D. D.; Lesser, V. R. Instantiating Description of
organizational structures. In Huhns, M. N., editor, Distributed Artificial
Intelligence, vol.1 , cap. 3, pag. 59-96. Morgan Kaufmann, Londres, 1987