Distributed Bayesian mixture regression with multi-agent negotiation

In a system composed of multiple autonomous agents, a cooperative negotiation is a form of interaction that enables groups of agents to arrive at a mutual agreement regarding some belief, goal, or plan. A partial model can be integrated into an autonomous agent who, combined through the negotiation with the partial models integrated into the other agents, becomes a constitutive part of a multi-agent system modeling the complex system. The partial models analyzed in this thesis are regression models integrated into autonomous agents that optimize the cost, representing the difference between the proposal of the single agent and that of the global system of all agents. At each step of the negotiation, each agent uses the cost function to evaluate the current agreement and build a new proposal to reach a better agreement. In a Bayesian framework, the posterior distributions of each model represent a kind of cost function: if an agent has to shift his proposal, he can calculate how much the posterior shift costs. In order to negotiate with each other, agents must have more than one proposal as a partial model solution. Therefore, they cannot have a single value proposed by the regression. It means that they cannot have posterior distribution with a single mode. In statistics, mixture models are used to characterize datasets with multimodal distributions. Therefore, the partial models used in the negotiation are a mixture of regression models.

La negoziazione cooperativa è un meccanismo attraverso il quale un insieme di agenti può raggiungere un accordo condiviso, per esempio sul valore di una variabile, e può essere impiegata per la combinazione di modelli parziali a supporto dell’attività di modellizzazione di un sistema complesso. Ogni modello parziale può essere, infatti, integrato in un agente autonomo che, combinato attraverso la negoziazione con i modelli parziali integrati negli altri agenti, diviene parte costitutiva di un sistema multiagente modellante il sistema complesso. I modelli parziali analizzati in questa tesi sono modelli di regressione integrati in agenti autonomi che ottimizano la funzione costo, la quale rappresenta la differenza tra la proposta del singolo agente e quella del sistema globale di tutti gli agenti. Ad ogni iterazione della negoziazione, ciascun agente usa una funzione costo per valutare l'accordo e costruire una nuova proposta, volta a raggiungere un accordo migliore. Per poter negoziare tra loro, gli agenti devono avere più di una proposta come soluzione del modello parziale, pertanto non possono avere un unico valore proposto come risultato della regressione. Per caratterizzare dataset con distribuzioni multimodali, vengono utilizzati i modelli mistura. I modelli parziali utilizzati nella negoziazione sono quindi una Mistura di Modelli di Regressione.