Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione [email protected]...

37
Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione [email protected] [email protected] [email protected]

Transcript of Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione [email protected]...

Page 1: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

Reputação

Andrew Diniz da CostaFábio de Azevedo

Sérgio Ciglione

[email protected] [email protected]

[email protected]

Page 2: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Agenda

• Introdução

• Competição

• Agente finalista

• Desempenho na competição

• Prêmios

• Novos Trabalhos

• Considerações finais

Page 3: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Introdução

• Confiança é a segurança, certeza daquele que tem fé na probidade (honradez, integridade de caráter, honestidade, pundonor) de alguém.

• Reputação é um conceito atribuído a uma pessoa por parte da sociedade em que vive para medir o grau de confiança.

• Em sistemas multi-agentes abertos temos sociedades de agentes heterogêneos, implementados por diferentes desenvolvedores, com objetivos semelhantes ou não.

• Importância da existência de mecanismos para identificar agentes que não se comportam adequadamente.

Page 4: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Introdução

• Por quê modelar confiança e reputação ?

• agentes devem escolher com quem interagir

• objetivo de capacitar os agentes a fazer a escolha correta.

• Diversos algoritmos na área de confiança e reputação

• como compará-los ?

• quais as características principais

• ART Testbed

• competição entre agentes

• experimentos independentes

Introdução

Page 5: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Especificação

• modo de competição

• comparações de diferentes estratégias

• cada participante controla um agente

• várias sessões

• modo de experimentação

• utilizado para medir desempenho (benchmark)

• vc pode definir

• número de agentes

• número de sessões da simulação

• número de categorias (Era)

• ...

Page 6: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Especificação - Domínio: Art Appraisal

• Clientes solicitam avaliações para pinturas de Eras diferentes

• Agentes avaliadores podem pedir opinião de outros

• Agentes avaliadores podem comprar reputação de outros avaliadores

• Objetivo de produzir avaliação mais precisa possível

Domínio: Art Appraisal

• Agentes são avaliadores de pintura com níveis variados de perícias

em Eras artísticas diferentes

Page 7: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Novas regras da competição

• O número de sessões será maior que a anterior (100 até 200).

• Graus de conhecimentos das eras podem sofrer mudanças durante o jogo.

• Alguns ou todos os jogos terão presença de agentes dummy com diferentes estratégias. Alguns já estão disponíveis.

• Novo ambiente

Page 8: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Modelo Conceitual

Page 9: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Modelo Conceitual do Módulo Estatístico

Page 10: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Testes finais

Page 11: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Testes finais

Page 12: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Competition

• 17 agents (1 didn’t execute) of 13 different institutions

• Two phases– Preliminary– Final

• Preliminary phase (May 10-11)– 8 agents of the different institutions– 15 agents offered by competition (5 “bad”, 5 “neutral”, 5 “bad”

dummies )– 100 rounds

• Final phase (May 16-17)– 5 best agents of the preliminary phase– 15 agents offered by competition (5 “bad”, 5 “neutral”, 5 “bad”

dummies )– 200 rounds

Page 13: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Preliminary Phase

Page 14: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Games of the Preliminary Phase

Page 15: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Final Phase

5) Pontifícia Universidade Católica do Rio de Janeiro

4) Agents Research Lab, University of Girona

3) Department of Computer Engineering, Bogazici University

2) Department of Math & Computer Science, The University of Tulsa

1) Electronics & Computer Science, University of Southampton

Page 16: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Games of the Final Phase

Page 17: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Prêmios

• Os finalistas são convidados a publicar o código fonte no site da competição.

• Direito a uma publicação relacionada a um artigo do ART-Testbed.

• Pequenas lembranças, como uma camisa personalizada.

• Certificado de participação

• Reconhecimento dos colegas

Page 18: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Trabalhos

• Criação ou extensão de um framework para reputação.

• Aplicação da Bolsa de Valores em sistemas multi-agentes.

• Zé Carioca LES 2

Page 19: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Framework para Reputação

• Criação ou extensão.

• Governance Framework

• Existência de uma série de frameworks de reputação com diferentes modelos

– Centralizado

– Descentralizado

– Híbrido

Page 20: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Trabalhos Relacionados – Modelo Centralizado

• Os mecanismos de reputação mais famosos são aqueles utilizados no comércio ou leilão eletrônico.

• Modelos centralizados colecionam e agregam avaliações das negociações anteriores.

• O sistema centralizado calcula a reputação se baseando na informação que recebe sobre negociações ocorridas.

• Ebay e Amazon Auctions

• Informar ao comprador a atuação do vendedor em negociações anteriores.

Page 21: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Modelo Descentralizado

• Os próprios agentes são capazes de calcular a reputação.

• Uso das próprias fontes de informação ou consulta com outros agentes caso não tenham informação suficiente disponível.

• Modelos– Simples - Regret

• Cada agente calcula e armazena as reputações dos agentes com quem interagiu.

– Baseado em testemunhos - Fire• Solicitação de reputação para uma testemunha que já interagiu

com um agente anteriormente.

– Baseado em Reputação Certificada• Coletar avaliações feitas por outros agentes sobre ele.

Page 22: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Modelo Híbrido

• Governance Framework

Page 23: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Bolsa de Valores

• Bolsa de Valores– Motivação: Ótimo cenário para mapear os conhecimentos

adquiridos na competição

– Cenário mais real, com maiores possibilidades

• Estrutura da Bolsa de Valores– Empresas de Capital Aberto

– Corretoras de Valores

– Investidores

– Bolsa de Valores

• Tipos de Investimento– Diversificado

– Conhecimento

Page 24: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Trabalhos Relacionados

• Folhainvest: é um simulador, que não utilizada nenhuma técnica

de sistemas de multi-agentes, promovido pelo caderno de investimentos do jornal Folha de São Paulo em parceria com a Bovespa.

Page 25: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Trabalhos Relacionados

• TrAgent: desenvolvido em conjunto pelas universidades

Carbondale e George Manson, nos EUA, o TrAgent é um modelo baseado em agentes de software para negociação de ações.

Page 26: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

MASSES - Simulador para o Mercado de Ações

• Multi-Agent System for Stock Exchange Simulation (MASSES)

• Uma aplicação mais real para soluções de reputação e negociação em sistemas de multi-agentes

• Foram definidas duas abordagens:– Simulador para aprendizado dos profissionais e investidores interessados em

aplicar na bolsa de valores• Um ambiente, onde bolsas de valores e empresas de capital aberto poderiam ser

carregadas • Agentes de software representando as corretoras de valores • Os investidores escolheriam agentes corretores de valores que fariam as negociações de

compra e venda de ações

– Simulador com o objetivo de estimular a comunidade acadêmica a desenvolver a tecnologia de sistemas de multi-agentes

• Um ambiente, onde bolsas de valores e empresas de capital aberto poderiam ser carregadas

• Regras para inserção de agentes de software, desenvolvidos pela comunidade acadêmica, representando as corretoras de valores.

• Regras para inserção de agentes de software, desenvolvidos pela comunidade acadêmica, representando os investidores.

Page 27: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

MASSES - Processo

Investidor ACorretora X

Petrobrás Vale do Rio Doce Banco do Brasil

Fornece opiniões para investidores

Calcula reputações para investir

em empresas

Calcula reputações

de corretoras

Calcula reputações para investir

em empresas

Page 28: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

MASSES - Arquitetura

Page 29: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Estudo de Caso – Simulador para o Mercado de Ações

• As vantagens das duas abordagens mencionadas são:

– O caso de estudo será mais real, tornando a contribuição mais palpável

– A comunidade acadêmica será estimulada a participar do desenvolvimento dos agentes, sendo assim, aumentando a qualidade final das abordagens

– Os resultados dos desenvolvimentos podem ser comparados com os resultados obtidos pela abordagem utilizada na Folhainvest, que não utiliza sistemas de multi-agentes

• Conclusão

– O mercado de valores como domínio de aplicação será um desafio, devido à complexidade das simulações de transações de compra e venda de ações, mas será de grande contribuição e permitirá a integração e troca de conhecimentos entre áreas distintas, como tecnologia da informação e economia

Page 30: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Nova Versão do Agente Competidor

• Zé Carioca LES 2.

• Algoritmos mais inteligentes.

• AAMAS 2008 – Lisboa

Page 31: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Trabalhos

• Criação ou extensão de um framework para reputação - Andrew

• Aplicação da Bolsa de Valores em sistemas multi-agentes – Sérgio e Fábio

• Zé Carioca LES 2 - Eduardo

Page 32: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Considerações finais

• Artigo para o SBES 2007 aceito.

• Recrutamento para a próxima competição

• Artigo para AAMAS 2008 do agente Zé Carioca LES

• Multi-Agent System for Stock Exchange Simulation (MASSES)

Page 33: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Referências

• Fernanda Duran, Viviane Torres da Silva, and Carlos J. P. de Lucena (2006) “Using Testimonies to Enforce the Behavior of Agents”.

• Guedes, José de Souza Pinto; Silva, Viviane Torres; Lucena, Carlos José Pereira de: A Reputation Model Based on Testimonies, AOIS2006@CAiSE workshop, Luxembourg, Grand-Duchy of Luxembourg, June 6, 2006.

• Amazon Site. http://www.amazon.com World Wide Web (2006)• eBay Site. http://www.ebay.com World Wide Web (2006)• Huynh, T. D., Jennings N. R., Shadbolt, N. R.: FIRE: An Integrated Trust and

Reputation Model for Open Multi-Agent Systems. In: Proceedings of the 16th European Conference on Artificial Intelligence (ECAI) (2004) pp. 18–22

• Huynh, T. D., Jennings N. R., Shadbolt, N. R.: Certified Reputation --- How an Agent Can Trust a Stranger Proc. 5th Int. Conf. on Autonomous Agents and Multi-Agent Systems, Hakodate, Japan.(2006)

• Huynh, T. D., Jennings N. R., Shadbolt, N. R.: Trust in Multi-Agent Systems The Knowledge Engineering Review 19 (1):1-25. (2004)

Page 34: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Referências

• ART Testbed Team. Agent Reputation and Trust Testbed.

http://www.lips.utexas.edu/art-testbed/competition_rules.htm

http://www.lips.utexas.edu/art-testbed/pdf/SpecSummary.pdf

• Fullam, K., T. Klos, G. Muller, J. Sabater, A. Schlosser, Z. Topol, K. S. Barber, J. Rosenschein, L. Vercouter, and M. Voss. (2005) "A Specification of the Agent Reputation and Trust (ART) Testbed: Experimentation and Competition for Trust in Agent Societies," The Fourth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2005), Utrecht, July 25-29, pp. 512-518

• Fullam, K., T. Klos, G. Muller, J. Sabater, Z. Topol, K. S. Barber, J. Rosenschein, and L. Vercouter. (2005) "A Demonstration of The Agent Reputation and Trust (ART) Testbed: Experimentation and Competition for Trust in Agent Societies," The Fourth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2005) Demonstration Track, Utrecht, July 25-29, pp. 151-152.

Page 35: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Referências

• Sen, S., I. Goswami, and S. Airiau. (2006) "Expertise and Trust-Based Formation of Effective Coalitions: An Evaluation of the ART Testbed," The Workshop on Trust in Agent Societies at The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 9, pp. 71-78

• Stranders, R. (2006) Argumentation Based Decision Making for Trust in Multi-Agent Systems. Master's Thesis, Delft University of Technology.

• Fullam, K. and K.S. Barber. (2006) "Learning Trust Strategies in Reputation Exchange Networks," The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 8-12, pp. 1241-1248.

• Kafali, O. and P. Yolum. (2006) "Trust Strategies for ART Testbed," The Workshop on Trust in Agent Societies at The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 9, pp. 43-49.

Page 36: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

© LES/PUC-Rio

Referências

• Web site Folhainvest, 2007, http://emacao.folha.uol.com.br

• Web site da Bovespa, 2007, http://www.bovespa.com.br

• Tatikunta R., Rahimi S., Shrestha P., Bjursel J. “TrAgent: A Multi-Agent System for Stock Exchange” 2006 IEEE/WIC/ACM International Conference on Web Intelligence and Intelligent Agent Technology (WI-IAT 2006 Workshops)(WI-IATW'06) 0-7695-2749-3/06

Page 37: Reputação Andrew Diniz da Costa Fábio de Azevedo Sérgio Ciglione andrew@les.inf.puc-rio.br fabiodeazevedo@gmail.com sciglione@gmail.com.

Fim!